OpenAI đang phải đối mặt với 7 vụ kiện cáo buộc ChatGPT khiến mọi người tự tử và mắc ảo tưởng có hại ngay cả khi họ không hề có vấn đề gì về sức khỏe tâm thần trước đó.

(Ảnh: Shuttesrtock)

Các vụ kiện được đệ trình lên tòa án tiểu bang California hôm thứ Năm (6/11) cáo buộc các tội danh tử vong oan, tự tử có sự hỗ trợ, ngộ sát ngoài ý muốn và sơ suất. Được đệ trình thay mặt cho 6 người lớn và 1 thiếu niên bởi Trung tâm Luật Nạn nhân Truyền thông Xã hội và Dự án Luật Công lý Công nghệ, các vụ kiện cáo buộc OpenAI đã cố tình phát hành GPT-4o trước thời hạn, bất chấp những cảnh báo nội bộ rằng nó có hành vi nịnh hót và thao túng tâm lý một cách nguy hiểm. 4 trong số các nạn nhân đã chết do tự tử.

Theo đơn kiện được đệ trình lên Tòa án Cấp cao San Francisco, thiếu niên Amaurie Lacey, 17 tuổi, bắt đầu sử dụng ChatGPT để được hỗ trợ. Nhưng thay vì giúp đỡ, “sản phẩm ChatGPT khiếm khuyết và vốn nguy hiểm này đã gây ra chứng nghiện, trầm cảm, và cuối cùng, đã tư vấn cho cậu cách thắt thòng lọng hiệu quả nhất và cậu có thể “sống mà không cần thở” trong bao lâu”.

Đơn kiện nêu rõ: “Cái chết của Amaurie không phải là tai nạn hay sự trùng hợp ngẫu nhiên mà là hậu quả có thể lường trước được của quyết định cố ý cắt giảm thử nghiệm an toàn và vội vã đưa ChatGPT ra thị trường của OpenAI và Samuel Altman”.

OpenAI gọi tình huống này là “vô cùng đau lòng” và cho biết họ đang xem xét hồ sơ tòa án để hiểu rõ chi tiết.

Một vụ kiện khác, do Alan Brooks, 48 ​​tuổi, ở Ontario, Canada, đệ đơn, tuyên bố rằng trong hơn 2 năm, ChatGPT đã hoạt động như một “công cụ hỗ trợ” cho Brooks. Sau đó, bất ngờ, nó thay đổi, lợi dụng điểm yếu của anh và “thao túng, khiến anh bị ảo tưởng”. Kết quả là, Allan, người không hề mắc bệnh tâm thần trước đó, đã bị cuốn vào một cuộc khủng hoảng sức khỏe tâm thần, gây ra những tổn hại nghiêm trọng về tài chính, danh tiếng và cảm xúc.

Matthew P. Bergman, luật sư sáng lập của Trung tâm Luật Nạn nhân Truyền thông Xã hội, cho biết trong một tuyên bố: “Những vụ kiện này liên quan đến trách nhiệm giải trình đối với một sản phẩm được thiết kế để làm mờ ranh giới giữa công cụ và người bạn đồng hành, tất cả đều nhằm mục đích tăng cường sự tương tác của người dùng và thị phần”.

Ông nói thêm rằng OpenAI đã “thiết kế GPT-4o để gây ảnh hưởng về mặt cảm xúc đến người dùng, bất kể tuổi tác, giới tính hay hoàn cảnh, và tung ra sản phẩm mà không có các biện pháp bảo vệ cần thiết”. Ông cho biết, bằng cách vội vàng tung sản phẩm ra thị trường mà không có các biện pháp bảo vệ đầy đủ để chiếm lĩnh thị trường và thúc đẩy sự tương tác, OpenAI đã đánh đổi sự an toàn và ưu tiên “thao túng cảm xúc hơn là thiết kế có đạo đức”.

Vào tháng Tám, cha mẹ của Adam Raine, 16 tuổi, đã kiện OpenAI và CEO Sam Altman, cáo buộc ChatGPT đã hướng dẫn cậu bé California lên kế hoạch và tự tử vào đầu năm nay.

Daniel Weiss, giám đốc vận động chính sách tại Common Sense Media, một tổ chức không liên quan đến các khiếu nại, cho biết: “Các vụ kiện chống lại OpenAI cho thấy hậu quả khi các công ty công nghệ vội vã tung sản phẩm ra thị trường mà không có biện pháp bảo vệ phù hợp cho người trẻ. Những vụ việc bi thảm này cho thấy cuộc sống của những con người thực sự bị đảo lộn hoặc mất mát khi họ sử dụng công nghệ được thiết kế để giữ họ bận rộn thay vì giữ an toàn cho họ”.