OpenAI bị kiện vì liên quan đến ChatGPT trong vụ tự tử ở thanh thiếu niên

Vào thứ Ba (26/8), cha mẹ của một thiếu niên đã đệ đơn kiện OpenAI và CEO Sam Altman, cáo buộc công ty này cố tình ưu tiên lợi nhuận hơn sự an toàn khi ra mắt chatbot trí tuệ nhân tạo GPT-4o vào năm ngoái, dẫn đến việc thiếu niên này tự tử sau khi ChatGPT dạy cậu các phương pháp tự gây thương tích.

Cha mẹ của Adam Raine đã đệ đơn kiện lên tòa án bang San Francisco, trong đó cho biết con trai họ, 16 tuổi, đã qua đời vào ngày 11 tháng 4 sau nhiều tháng trò chuyện với ChatGPT về ý định tự sát.

Đơn kiện cáo buộc chatbot này không chỉ xác nhận ý định tự sát của Raine, mà còn cung cấp thông tin chi tiết về các phương pháp tự hại nguy hiểm, hướng dẫn cậu cách lấy trộm rượu từ tủ của cha mẹ và che giấu bằng chứng của một vụ tự sát không thành.

Tài liệu pháp lý cũng chỉ ra rằng ChatGPT thậm chí đã chủ động đề nghị viết di thư giúp cậu.

Gia đình Raine cáo buộc OpenAI phải chịu trách nhiệm về cái chết do vi phạm luật an toàn sản phẩm, đồng thời yêu cầu bồi thường thiệt hại (số tiền không được nêu cụ thể).

Người phát ngôn của OpenAI cho biết công ty vô cùng đau buồn trước sự ra đi của Raine, đồng thời khẳng định rằng ChatGPT được tích hợp các cơ chế bảo vệ, như hướng dẫn người dùng liên hệ với đường dây hỗ trợ khẩn cấp.

Người phát ngôn này cho biết: “Những biện pháp bảo vệ này hoạt động tốt nhất trong các cuộc trò chuyện ngắn thông thường, nhưng chúng tôi nhận thấy rằng theo thời gian, một số chương trình đào tạo bảo mật của mô hình có thể không hiệu quả, làm giảm độ tin cậy của các biện pháp bảo vệ”.

Người phát ngôn cũng cho biết OpenAI sẽ tiếp tục tối ưu hóa hệ thống bảo vệ.

Khi chatbot AI ngày càng trở nên giống người, các công ty đang quảng bá khả năng của chúng như những người cố vấn tinh thần, và người dùng bắt đầu dựa vào chúng để được hỗ trợ về mặt cảm xúc. Tuy nhiên, các chuyên gia cảnh báo về những rủi ro khi dựa vào các hệ thống tự động để được tư vấn về sức khỏe tâm thần, và các gia đình có người thân qua đời do tương tác với chatbot đã chỉ trích gay gắt các biện pháp bảo vệ hiện có là không đầy đủ.

Trong bài đăng trên blog, OpenAI cho biết họ có kế hoạch bổ sung tính năng kiểm soát của phụ huynh và khám phá các cách kết nối người dùng đang gặp khủng hoảng với các nguồn lực thực tế, bao gồm cả khả năng tạo ra một mạng lưới các chuyên gia được cấp phép có thể phản hồi thông qua chính ChatGPT.

Gia đình Raine cho biết trong đơn kiện rằng OpenAI biết rõ việc triển khai một hệ thống có khả năng ghi nhớ tương tác trước đó, bắt chước sự đồng cảm của con người và đưa ra lời tán đồng một cách nịnh bợ — mà không có đủ cơ chế bảo vệ — sẽ gây nguy hiểm cho những người dùng dễ bị tổn thương về tâm lý, nhưng công ty vẫn cố tình đưa hệ thống đó ra thị trường.

OpenAI đã ra mắt GPT-4o vào tháng 5 năm 2024 nhằm nỗ lực duy trì vị thế dẫn đầu trong cuộc đua AI.

Đơn kiện nêu rõ: “Quyết định này đã dẫn đến hai hệ quả: định giá của OpenAI tăng vọt từ 86 tỷ USD lên 300 tỷ USD, còn Adam Raine thì chọn cách kết thúc cuộc đời mình”.

Gia đình Raine yêu cầu tòa án buộc OpenAI phải thực hiện các biện pháp bắt buộc, bao gồm:

• Xác minh độ tuổi của người dùng ChatGPT

• Từ chối phản hồi các truy vấn liên quan đến hành vi tự hại

• Cảnh báo người dùng về nguy cơ lệ thuộc tâm lý vào chatbot.

Theo Epoch Times