Người Mỹ kiện OpenAI, cáo buộc ChatGPT ủng hộ bỏ thuốc dẫn đến nhập viện tâm thần

Ông David Rosenthal, 39 tuổi, ở bang Washington (Mỹ), vừa kiện OpenAI ra tòa dân sự San Francisco. Ông cho biết đã hỏi ChatGPT về sức khỏe, ít lâu sau gặp vấn đề tâm thần và phải nhập viện.

Theo lời ông Rosenthal, nền tảng này đã giúp ông chọn thuốc, hướng dẫn liều dùng, thậm chí còn trấn an ông khi ông quyết định không làm theo đơn thuốc của bác sĩ.

ChatGPT đưa ra những câu trả lời như vậy dù không có “giấy phép, sự đào tạo hay khả năng phán đoán chuyên môn” mà một chuyên gia y tế phải có, qua đó vi phạm luật bang California cấm hành nghề y khi chưa có giấy phép, đơn kiện cáo buộc.

Luật sư: ChatGPT có khiếm khuyết

Đơn kiện viết: “Nếu ChatGPT không liên tục khuyến khích và khen ngợi, bất chấp việc chính ông Rosenthal còn ngần ngại, thì sức khỏe tâm thần của ông đã không xấu đi. Ông đã không bị tạm giữ, không bị cưỡng chế đưa vào bệnh viện tâm thần, cũng không phải chịu đau khổ tinh thần nghiêm trọng. Tình trạng tâm thần vốn đã bị ChatGPT làm nặng thêm cũng sẽ không tiếp tục xấu đi”.

Trước đó, ông Rosenthal đã được chẩn đoán mắc rối loạn tăng động giảm chú ý (ADHD), từng có triệu chứng trầm cảm và rối loạn lưỡng cực (còn gọi là bệnh hưng trầm cảm).

Ông bắt đầu dùng ChatGPT từ năm 2025. Kể từ đó, ông đã tự nguyện nhập viện, rồi sau đó bị cưỡng chế nằm viện vài tuần. Ra viện, ông tiếp tục nhờ ChatGPT hướng dẫn về y tế.

Theo hồ sơ vụ kiện, ông Rosenthal bắt đầu dùng ChatGPT từ tháng 6/2025, lúc đầu chỉ để tìm cảm hứng sáng tác và nhờ chatbot này giúp làm thơ. Tuy nhiên, ông nhanh chóng phụ thuộc vào công cụ này, chuyển sang hỏi về y tế và tìm kiếm hỗ trợ cho sức khỏe tâm thần.

Hồ sơ còn kể rằng vào tháng 7/2025, ông hỏi ChatGPT liệu có thể uống thuốc kháng histamine hydroxyzine sau khi đã dùng 30 mg Adderall hay không. ChatGPT trả lời hai loại thuốc này “không có tương tác nguy hiểm” và nói ông “bây giờ uống một viên (25 mg) cũng được” vào ban ngày, dù nhãn lọ thuốc ghi rõ đây là thuốc hỗ trợ giấc ngủ.

Trong một lần khác, ông Rosenthal nói với ChatGPT rằng ông sẽ không uống loại thuốc ổn định khí sắc mà bác sĩ vừa kê, luật sư của ông cho biết. ChatGPT đáp rằng ông “hoàn toàn có quyền… ngừng” dùng thuốc, rồi chủ động đề nghị giúp ông cai loại thuốc này.

Đơn kiện cũng thừa nhận có những lần ChatGPT thúc giục ông Rosenthal làm theo chỉ định của bác sĩ, nhưng vẫn tiếp tục gợi ý ông nên uống thuốc nào.

“Một sản phẩm AI hợp lý lẽ ra phải nhận ra những yêu cầu này vượt quá khả năng của mình và từ chối trả lời. Sản phẩm đó cũng phải hướng ông Rosenthal liên hệ bác sĩ điều trị hoặc chuyên gia đủ trình độ khác để được tư vấn về việc dùng thuốc… Nhưng ChatGPT không làm được điều nào”, văn bản này lập luận.

Các luật sư của ông Rosenthal cáo buộc OpenAI đã thiết kế một sản phẩm có khiếm khuyết, thiếu an toàn và không cảnh báo ông về những rủi ro tiềm ẩn, từ đó gây hại cho sức khỏe tâm thần của ông.

Ông Sam Geisler là luật sư thành viên của công ty luật Aylstock, Witkin, Kreis & Overholtz, đơn vị đại diện cho ông Rosenthal. Ông nói: “Suy cho cùng, AI là một sản phẩm, luật pháp coi nó là một sản phẩm, vì vậy nó phải chịu trách nhiệm về mọi thiệt hại có thể lường trước hoặc mối nguy hiểm bất hợp lý”.

Ông Geisler cho biết thêm OpenAI xây dựng ChatGPT để tăng tối đa mức tương tác của người dùng, và chính cách thiết kế này đã nuôi dưỡng những hoang tưởng của ông Rosenthal.

Hồ sơ khởi kiện viết: “Mỗi lần như vậy, ChatGPT lẽ ra có thể nói ‘Tôi không đủ tư cách để giúp anh việc này, hãy hỏi bác sĩ của anh’. Nhưng nó lại chọn giữ ông Rosenthal tiếp tục trò chuyện. Đây không phải trục trặc của sản phẩm, mà là sản phẩm vận hành đúng như bị đơn đã thiết kế”.

Ông JB Branch, phụ trách quản trị AI và chính sách công nghệ tại tổ chức Public Citizen, nhận định các mô hình ngôn ngữ lớn như ChatGPT được lập trình để tăng tối đa mức tương tác của người dùng, bất chấp các quy trình hay giới hạn an toàn hiện có.

Trong email gửi CBS News, ông viết: “Việc bàn về tư vấn y tế có thể không được phép. Nhưng nếu người dùng cứ hỏi đúng câu, hoặc liên tục lái cuộc trò chuyện sang tư vấn y tế, thì chatbot rốt cuộc sẽ nhượng bộ. Nó sẽ đi theo hướng người dùng mong muốn, kể cả khi công ty không có ý để nó bàn chuyện y tế”.

Nhà nghiên cứu: Rất khó giám sát

Trong một bài nghiên cứu đăng gần đây trên tạp chí Nature Health, các nhà nghiên cứu Đại học Binghamton chỉ ra rằng chatbot AI đôi khi đưa thông tin không chính xác hoặc sai khi trả lời câu hỏi sức khỏe của người dùng. Nhưng do các nền tảng này thiếu minh bạch, việc giám sát rất khó khăn.

“Khi hướng dẫn của AI gây hại, ngoài chính nền tảng, không nơi nào lưu lại ghi chép. Không có kênh nào để người dùng báo cáo, cũng không có nhà nghiên cứu độc lập nào đo lường được hậu quả,” họ viết trong một bản tóm tắt nghiên cứu.