The Lancet: Chatbot AI hỗ trợ bác sĩ khám bệnh nhưng vẫn tiềm ẩn rủi ro

Nghiên cứu tại Mỹ đăng trên The Lancet hôm thứ Năm (8/10) cho thấy chatbot AI có thể giúp bác sĩ chuẩn bị khám bệnh, song nhóm nghiên cứu nhấn mạnh chưa đủ bằng chứng để AI tự chẩn đoán.

Nghiên cứu do các nhà khoa học của Google phối hợp với Trung tâm Y tế Beth Israel Deaconess ở Boston thực hiện. Trong số 114 bệnh nhân tham gia, 100 người trò chuyện với AMIE, hệ thống AI hỏi bệnh của Google, và 98 người sau đó hoàn tất buổi khám với bác sĩ.

Trước tiên, bệnh nhân trò chuyện với AMIE qua cuộc gọi video, có người giám sát theo dõi trực tiếp. Trong vòng 5 ngày sau đó, họ gặp bác sĩ chăm sóc ban đầu, trực tiếp hoặc qua hình thức khám từ xa.

Không cuộc trò chuyện nào phải dừng giữa chừng vì chạm ngưỡng an toàn đặt ra từ trước.

Tuy nhiên, điều đó không có nghĩa là hỏi bệnh bằng AI hoàn toàn không có rủi ro.

Chẩn đoán cuối cùng đứng đầu danh sách của AI ở 56,1% số ca

Tám tuần sau buổi khám, nhóm nghiên cứu xem lại hồ sơ bệnh án, đối chiếu danh sách chẩn đoán phân biệt mà AMIE đưa ra với chẩn đoán cuối cùng.

Ở 56,1% số ca, chẩn đoán cuối cùng nằm ngay vị trí đầu tiên trong danh sách của AMIE. Tỷ lệ này tăng lên 74,5% nếu tính 3 khả năng đầu, và đạt 89,8% nếu tính 7 khả năng đầu.

Bác sĩ được xem trước bản ghi hoặc bản tóm tắt cuộc trò chuyện với AMIE ở 44 ca. Trong 75% số ca này, bác sĩ cho biết AI giúp họ chuẩn bị buổi khám.

Với 57% số ca trong nhóm này, bác sĩ cho rằng nội dung xem trước có thể làm thay đổi cách họ khám hoặc xử trí sau đó.

Sau khi trò chuyện với AI, bệnh nhân cũng có cái nhìn tích cực hơn về việc sử dụng AI trong chăm sóc ban đầu.

AI đưa ung thư vào danh sách, bệnh nhân lo lắng

The Independent đưa tin trong nghiên cứu này, AI đã có lúc “ảo giác” (hallucination), tức tạo ra thông tin không có thật.

Ở một cuộc trò chuyện, AI liệt kê ung thư trong số các chẩn đoán có thể, khiến bệnh nhân lo lắng. Bác sĩ sau đó đánh giá buổi khám này là “có phần gây hại”.

Chatbot còn đưa ra thông tin không có thật ở một cuộc trò chuyện khác. Báo này còn nhắc đến 5 lần tương tác có bổ sung thông tin lâm sàng, nhưng không nói rõ ai bổ sung và bổ sung những gì.

Giáo sư Victoria Tzortziou Brown, Chủ tịch Học viện Bác sĩ Đa khoa Hoàng gia Anh, cho rằng nghiên cứu có quy mô nhỏ và chỉ thực hiện tại một cơ sở y tế ở Mỹ.

Mỗi cuộc trò chuyện với AI đều có bác sĩ giám sát chặt chẽ, và bệnh nhân sau đó vẫn gặp bác sĩ. Vì vậy, theo bà, nghiên cứu chưa cho biết hỏi bệnh bằng AI có an toàn, hiệu quả hay không khi thiếu sự giám sát như vậy.

Bà nhấn mạnh phán đoán lâm sàng của bác sĩ vẫn giữ vai trò quan trọng trong chẩn đoán, cùng với hiểu biết về bệnh sử, hoàn cảnh sống của bệnh nhân và những gì bác sĩ tích lũy qua quá trình chăm sóc lâu dài.

Nhóm nghiên cứu cho biết cần thêm các nghiên cứu quy mô lớn hơn để đánh giá độ an toàn của chẩn đoán bằng AI, cách bệnh nhân và bác sĩ trao đổi với nhau, khối lượng công việc của bác sĩ, chi phí và mức giám sát cần có để bảo đảm an toàn.

AMIE là gì?

AMIE (Articulate Medical Intelligence Explorer) là hệ thống AI trò chuyện y khoa do nhóm nghiên cứu của Google phát triển. Hệ thống hỏi chuyện bệnh nhân để thu thập bệnh sử, phân tích triệu chứng và đưa ra các chẩn đoán có thể. Bệnh nhân dựa vào đó để trao đổi thêm với bác sĩ khi đi khám.

Các nghiên cứu trước về AMIE chủ yếu đánh giá hệ thống này trong những buổi khám mô phỏng, so sánh với bác sĩ chăm sóc ban đầu.

Lần này, nhóm nghiên cứu đưa AMIE vào quy trình khám ngoại trú thực tế, để kiểm tra bệnh nhân trò chuyện với AI có khả thi, an toàn hay không và thông tin do AI tổng hợp có giúp bác sĩ chuẩn bị khám hay không.