Lời khuyên của ChatGPT khiến một người đàn ông nhập viện vì ngộ độc hóa chất nguy hiểm

Một người đàn ông đã bị ngộ độc hóa chất nguy hiểm và phải nhập viện sau khi sử dụng ChatGPT để được tư vấn về liệu pháp ăn uống.

• Dùng AI làm suy giảm kỹ năng phát hiện khối u của các bác sĩ

Một người đàn ông 60 tuổi, với mong muốn loại bỏ muối ăn khỏi khẩu phần ăn uống vì lý do sức khỏe, đã sử dụng ChatGPT để tìm gợi ý về loại muối nên thay thế.

Khi ChatGPT đề xuất thay thế natri clorua (muối ăn) bằng natri bromua, ông đã sử dụng nó trong thời gian ba tháng – mặc dù, như bài báo y khoa đã lưu ý, khuyến nghị này có thể nhằm cho các mục đích khác, chẳng hạn như làm sạch.

Natri bromua là một hợp chất hóa học tương tự như muối, nhưng độc hại đối với người tiêu thụ.

Theo Viện Y tế Quốc gia Hoa Kỳ (NIH), natri bromua từng được sử dụng làm thuốc chống co giật và an thần, nhưng ngày nay chủ yếu được sử dụng cho mục đích làm sạch, sản xuất và nông nghiệp.

Khi đến bệnh viện, người đàn ông này cho biết mình bị mệt mỏi, mất ngủ, phối hợp động tác kém, nổi mụn trứng cá trên mặt, nốt đỏ trên da và khát nước quá mức. Tất cả là các triệu chứng của bệnh bromism, một tình trạng do tiếp xúc lâu dài với natri bromide.

Theo báo cáo, người đàn ông này có dấu hiệu hoang tưởng khi khẳng định rằng hàng xóm đang cố đầu độc mình. Ông cũng bị phát hiện có ảo giác thính giác và thị giác, cuối cùng đã bị giam giữ tại khoa tâm thần sau khi cố gắng trốn thoát.

Ông được điều trị bằng truyền dịch tĩnh mạch, bổ sung điện giải và dùng thuốc chống loạn thần. Sau đó, được xuất viện sau ba tuần theo dõi.

Các nhà nghiên cứu đã viết trong báo cáo ca bệnh rằng:

“Trường hợp này cũng cho thấy việc sử dụng trí tuệ nhân tạo (AI) có thể góp phần gây ra các hậu quả sức khỏe bất lợi có thể phòng ngừa”.

“Hệ thống này chỉ là những công cụ dự đoán ngôn ngữ – chúng không có khả năng suy luận thông thường và sẽ dẫn đến những kết quả tồi tệ nếu người dùng không áp dụng những hiểu biết thông thường của họ”.

“Thật không may, chúng tôi không có quyền truy cập vào nhật ký trò chuyện ChatGPT của anh ấy và sẽ không bao giờ có thể biết chắc chắn kết quả đầu ra mà anh ấy nhận được là gì, vì mỗi phản hồi của mỗi người là duy nhất và được xây dựng dựa trên những thông tin đầu vào trước đó”.

Họ lưu ý rằng “rất khó có khả năng” một bác sĩ lại nhắc đến natri bromua khi nói chuyện với một bệnh nhân đang tìm kiếm chất thay thế cho natri clorua.

“Điều quan trọng cần lưu ý là ChatGPT và các hệ thống AI khác có thể tạo ra những thông tin khoa học không chính xác, thiếu khả năng thảo luận phản biện về kết quả và cuối cùng là thúc đẩy sự lan truyền thông tin sai lệch”, các nhà nghiên cứu kết luận.

Các chuyên gia cũng nhấn mạnh rằng mọi người không nên sử dụng ChatGPT như một sự thay thế cho bác sĩ.

Các mô hình ngôn ngữ lớn hiện tại không có tính năng kiểm tra chéo tích hợp với các cơ sở dữ liệu y tế cập nhật trừ khi được tích hợp rõ ràng.

Để ngăn chặn những trường hợp tương tự, các chuyên gia đã kêu gọi tăng cường các phương pháp bảo vệ cho các mô hình ngôn ngữ, chẳng hạn như cơ sở kiến thức y tế tích hợp, cờ cảnh báo rủi ro tự động, gợi ý theo ngữ cảnh và sự kết hợp giữa giám sát của con người và AI.

OpenAI, nhà sản xuất ChatGPT có trụ sở tại San Francisco, đã đưa ra tuyên bố sau đây với Fox News Digital.

“Điều khoản của chúng tôi quy định rằng ChatGPT không nhằm mục đích sử dụng để điều trị bất kỳ tình trạng sức khỏe nào và không thể thay thế cho lời khuyên chuyên môn. Chúng tôi có các đội ngũ an toàn đang nỗ lực giảm thiểu rủi ro và đã đào tạo các hệ thống AI để khuyến khích mọi người tìm kiếm sự hướng dẫn chuyên môn”.