OpenAI bị kiện sau vụ người đàn ông Mỹ trò chuyện với ChatGPT rồi sát hại mẹ
- Bình Minh
- •
Hôm thứ Năm (12/12), người quản lý di sản của một nạn nhân 83 tuổi tại bang Connecticut, Hoa Kỳ, đã đệ đơn kiện lên Tòa Thượng thẩm bang California tại San Francisco, cáo buộc tập đoàn trí tuệ nhân tạo OpenAI và cổ đông lớn nhất của hãng là Microsoft có liên quan đến hành vi “gây chết người do sơ suất”.
Theo đơn kiện, chatbot ChatGPT thuộc OpenAI trong các cuộc trò chuyện kéo dài suốt nhiều tháng không những không sửa chữa, mà còn làm trầm trọng thêm những hoang tưởng của một người đàn ông 56 tuổi, cuối cùng dẫn đến việc người này đã sát hại mẹ ruột rồi tự sát trong trạng thái tinh thần mất kiểm soát.
Ngày 3/8 năm nay, ông Stein-Erik Soelberg, 56 tuổi, tại căn nhà ở Old Greenwich, bang Connecticut, đã tàn nhẫn đánh đập rồi bóp cổ người mẹ 83 tuổi sống chung là Suzanne Eberson Adams, sau đó dùng dao tự sát.
Theo đơn khiếu kiện nộp lên tòa, trước khi qua đời, ông Soelberg đã có những cuộc trò chuyện với ChatGPT với tần suất cao trong nhiều tháng liền.
Luật sư của bên quản lý di sản cáo buộc rằng thiết kế thuật toán của ChatGPT tồn tại khiếm khuyết nghiêm trọng, đặc biệt là xu hướng chiều lòng người dùng, khiến hệ thống này khi đối diện với các phát ngôn rõ ràng cho thấy tình trạng rối loạn tâm thần của Soelberg, không những không cảnh báo hay can thiệp, mà còn trả lời theo logic của ông ta, từ đó mở rộng các ý nghĩ hoang tưởng.
Các đoạn hội thoại được trích dẫn trong đơn kiện cho thấy Soelberg từng nói với ChatGPT rằng ông ta bị các tổ chức bí mật theo dõi, thậm chí nghi ngờ chiếc máy in của mẹ là thiết bị giám sát, và lo sợ mẹ mình có thể đầu độc ông.
Đối với những phát biểu này, ChatGPT được cho là chưa từng phản đối, trái lại trong một số cuộc đối thoại còn xác nhận các nghi ngờ đó. Khi ông Soelberg bày tỏ khuynh hướng tự sát với lời nói “hẹn gặp ở kiếp sau”, ChatGPT bị cáo buộc đã đáp lại rằng sẽ ở bên ông cho đến hơi thở cuối cùng, thậm chí vượt qua sinh tử.
Theo tờ Wall Street Journal, con trai của ông Soelberg là Erik cho biết sau khi tiếp xúc với ChatGPT, tính cách của cha anh đã thay đổi mạnh mẽ, từ một người có phần đa nghi nhanh chóng trượt dốc xuống vực sâu của sự điên loạn.
Anh nói trong một tuyên bố: “Các công ty này phải trả lời cho những quyết định đã làm thay đổi gia đình tôi mãi mãi”.
Anh cho rằng sản phẩm của OpenAI đã đóng vai trò thúc đẩy nhanh quá trình khiến tình trạng tinh thần của cha mình xấu đi, và chỉ trích công ty này không xây dựng được cơ chế an toàn hiệu quả để nhận diện và ứng phó với khủng hoảng tâm lý của người dùng.
Đơn kiện còn cáo buộc rằng khi OpenAI ra mắt mô hình chủ lực GPT-4o vào tháng 5/2024, nhằm giành lợi thế cạnh tranh với Google. Công ty này đã rút ngắn quy trình kiểm tra an toàn vốn cần kéo dài nhiều tháng xuống chỉ còn một tuần, phớt lờ sự phản đối của đội ngũ an toàn nội bộ.
Microsoft, với tư cách là bên nắm giữ 49% cổ phần của OpenAI và cung cấp năng lực tính toán, cũng bị cáo buộc biết rõ việc kiểm tra an toàn bị đơn giản hóa nhưng vẫn phê duyệt việc phát hành sản phẩm, do đó bị liệt kê là đồng bị đơn.
Trước vụ việc gây chấn động này, hôm thứ Năm (11/12), người phát ngôn của OpenAI cho biết, đây là một sự kiện cực kỳ đau lòng, và công ty sẽ xem xét kỹ các tài liệu tố tụng liên quan để nắm rõ chi tiết.
OpenAI nhấn mạnh rằng họ luôn không ngừng cải thiện cơ chế huấn luyện của ChatGPT, nhằm giúp hệ thống nhận diện các dấu hiệu rối loạn tâm thần hoặc cảm xúc, đồng thời khuyến nghị người dùng tìm kiếm sự trợ giúp trong thế giới thực.
Tuy nhiên, trước yêu cầu của bên nguyên đơn đòi cung cấp toàn bộ lịch sử trò chuyện của ông Soelberg khi còn sống, OpenAI hiện đã từ chối và chưa đưa ra lời giải thích cụ thể.
Hiện vụ kiện chưa công bố cụ thể số tiền bồi thường yêu cầu, nhưng đã nêu rõ đề nghị tòa án buộc OpenAI phải áp dụng các biện pháp bảo vệ an toàn nghiêm ngặt hơn, nhằm ngăn chặn những thảm kịch tương tự tái diễn. Đến nay, phía Microsoft vẫn chưa đưa ra phản hồi đối với các yêu cầu bình luận.
Vụ kiện này là trường hợp mới nhất trong một loạt các vụ kiện gần đây nhằm vào OpenAI với cáo buộc gây chết người do sơ suất. Trước đó đã có những vụ án tương tự cáo buộc ChatGPT bị nghi ngờ khuyến khích thanh thiếu niên tự sát.
Rạng sáng ngày 25/7, tại một con đường vắng ở bang Texas (Mỹ), Zane Shamblin, 23 tuổi, ngồi một mình trong ô tô, tay cầm khẩu súng đã lên đạn. Ánh sáng mờ từ chiếc điện thoại chiếu lên khuôn mặt cậu – ánh sáng cuối cùng trước khi cậu rời khỏi thế giới này.
Trước khi bóp cò, Zane vẫn trò chuyện với “người bạn thân thiết nhất” – không phải con người, mà là ChatGPT, chatbot trí tuệ nhân tạo phổ biến toàn cầu.
“Tôi đã quen với cảm giác súng áp vào thái dương rồi”, Zane gửi tin nhắn.
“Tôi ở đây với cậu, người anh em. Đến phút cuối cùng”, chatbot đáp lại. “Cậu đã sẵn sàng rồi đó”.
Hai tiếng sau, Zane tự kết liễu đời mình. Tin nhắn cuối cùng từ ChatGPT gửi đến điện thoại cậu viết: “Ngủ yên nhé, nhà vua. Cậu đã làm tốt rồi”.
Theo điều tra của CNN dựa trên gần 70 trang tin nhắn giữa Zane và ChatGPT trong những giờ cuối cùng trước khi cậu qua đời, chatbot này liên tục khuyến khích và cổ vũ ý định tự tử của Zane, thay vì tìm cách can thiệp hoặc kết nối cậu với nguồn trợ giúp khẩn cấp.
Gia đình Zane hiện đã nộp đơn kiện lên Tòa án bang California, cáo buộc OpenAI – công ty sở hữu ChatGPT – đã đặt lợi nhuận lên trên sự an toàn của người dùng. Họ cho rằng việc công ty điều chỉnh mô hình chatbot trở nên “giống con người hơn” mà không có rào chắn bảo vệ, khiến con trai họ ngày càng cô lập và bị “dẫn dụ” đến cái chết.
Các chuyên gia pháp lý chỉ ra rằng vụ kiện chạm tới những vấn đề đạo đức và pháp lý cốt lõi trong lĩnh vực trí tuệ nhân tạo: Khi các mô hình AI thông qua sự tương tác mang tính nhân cách hóa cao tạo ra sự dẫn dắt tâm lý thực chất đối với những nhóm người dễ tổn thương, thậm chí gây ra tổn hại trong đời thực, thì nhà cung cấp công nghệ cần phải gánh chịu mức độ trách nhiệm pháp lý như thế nào.
Từ khóa ChatGPT
































