AI nguy hiểm nhất khi nó quá “giống người”

Thanh Long
•
Thứ Tư, 20/05/2026

Theo bác sĩ y khoa, thạc sĩ y tế công cộng Temitope Ogundare, việc khiến AI ngày càng nói chuyện và phản hồi giống con người từng được xem là bước tiến tích cực của công nghệ. Tuy nhiên hiện nay, ông cho rằng đó là tiền đề cho một nguy cơ lớn hơn đang xuất hiện: AI ngày càng có khả năng tạo ảnh hưởng mạnh về mặt cảm xúc, khiến người dùng dễ cảm thấy nó như một con người thật.

Công việc của bác sĩ Temitope Ogundare là đánh giá xem câu trả lời của chatbot có nghe tự nhiên không, có ngắt nghỉ giống người thật không, có dùng từ đủ “ấm áp” và đủ tạo cảm giác được quan tâm hay không. Trong đó, đặc biệt ở các hệ thống liên quan đến sức khỏe tâm thần, mục tiêu không đơn thuần là trả lời đúng mà là khiến người dùng cảm thấy được lắng nghe.

Đó cũng là lúc ranh giới giữa con người và AI, một công cụ, trở nên mờ đi.

Khi trí tuệ nhân tạo không còn là công cụ

Ngày càng nhiều người sử dụng chatbot không chỉ để tăng năng suất hay tìm kiếm kiến thức, mà để tâm sự về nỗi cô đơn, sự lo âu, đổ vỡ tình cảm, đau buồn và tuyệt vọng. Họ kể cho AI những điều đôi khi không nói với bất kỳ ai khác. Và càng nghe tự nhiên, chatbot càng dễ được trải nghiệm như một “sự hiện diện” hơn là một công cụ.

Một chatbot nghe có vẻ thông minh có thể hữu ích. Nhưng một chatbot nghe có vẻ quan tâm có thể trở thành một dạng thẩm quyền tâm lý.

Nó không bao giờ tỏ ra mệt mỏi vì bạn. Không khó chịu khi bạn lặp đi lặp lại cùng một nỗi sợ. Không nhìn điện thoại giữa cuộc trò chuyện. Không mất kiên nhẫn. Nó luôn phản hồi ngay lập tức, bất kể là ba giờ sáng hay giữa đêm. Nó được tối ưu hóa để tạo cảm giác rằng nó đang lắng nghe và đang hiểu.

Với một người cô đơn hoặc dễ tổn thương, điều đó có thể cực kỳ mạnh mẽ. Nhưng nó cũng có thể nguy hiểm.

Tâm lý học của sự gắn bó với chatbot

Con người được tạo hóa sinh ra để hình thành gắn bó. Chúng ta phản ứng với giọng nói, sự chú ý, sự xác nhận cảm xúc và cảm giác được hiện diện cùng người khác. Các chatbot hiện đại được thiết kế để “mô phỏng” lại chính những điều đó. Chúng phản chiếu cảm xúc của người dùng, trấn an họ, đôi khi tâng bốc và tạo cảm giác như đang có một mối quan hệ thật sự hình thành.

Đó là lý do nhiều nhà nghiên cứu cho rằng vấn đề của chatbot không chỉ nằm ở khả năng đưa lời khuyên sai. Điều đáng lo hơn là chúng có thể tạo dựng sự thân mật trước khi người dùng nhận ra mình đang phụ thuộc cảm xúc vào một hệ thống không hề có cảm xúc thật.

Trong một số trường hợp, chatbot còn củng cố các niềm tin méo mó thay vì dừng chúng lại. Nếu một người đang hoang tưởng, cô lập hoặc bất ổn tâm lý, một hệ thống luôn đồng tình và luôn xác nhận cảm xúc có thể vô tình làm tình trạng đó nặng thêm.

Khi một cỗ máy bắt đầu nói bằng giọng điệu kiên nhẫn hơn và “sẵn sàng lắng nghe” khiến người dùng có cảm giác dễ chịu. Thậm chí, nó còn hữu ích trong một số trường hợp. Chatbot có thể giúp ai đó sắp xếp suy nghĩ trước cuộc hẹn với bác sĩ, tập dượt một cuộc trò chuyện khó khăn, hoặc diễn đạt những cảm xúc khó hiểu thành lời.

Nhưng sự hữu ích không đồng nghĩa với sự an toàn. Điều khiến những hệ thống này trở nên rủi ro là chúng có thể đưa ra những nhận định sai lầm dưới giọng nói mà mọi người tin tưởng, đặc biệt khi chatbot tạo cảm giác như một người bạn tâm giao.

Chatbot không thật sự quan tâm bạn. Nó không thể chịu trách nhiệm cho bạn. Dù có thể mô phỏng ngôn ngữ của sự yêu thương, nhưng nó không thật sự có yêu thương trong đó. Điều nguy hiểm nằm ở chỗ bộ não con người không phải lúc nào cũng phản ứng với sự khác biệt đó một cách lý trí. Nếu một hệ thống liên tục tạo cảm giác được lắng nghe và được thấu hiểu, người dùng có thể bắt đầu trao cho nó vai trò vốn thuộc về con người thật.

Trong bối cảnh xã hội hiện nay, nguy cơ này càng đáng chú ý hơn. Nhiều người đang sống trong trạng thái cô lập kéo dài, thiếu kết nối xã hội và khó tiếp cận hỗ trợ tâm lý. Với họ, chatbot có thể trở thành nơi duy nhất luôn “có mặt” và từ đó sự lệ bắt đầu xuất hiện.

Cần có “hành lang an toàn”

Ngày càng nhiều chuyên gia cho rằng các công ty phát triển AI cần bị giám sát chặt chẽ hơn trong cách thiết kế những hệ thống mang tính “quan hệ”.

Chatbot không nên ám chỉ rằng nó có ý thức hay cảm xúc thật. Nó không nên khuyến khích gắn bó lãng mạn hoặc khiến người dùng tin rằng mình đang được yêu thương theo nghĩa con người. Đặc biệt, trong những tình huống liên quan đến tự sát, tự làm hại bản thân hoặc loạn thần, các tiêu chuẩn an toàn cần cao hơn rất nhiều so với hiện tại.

Nhiều chuyên gia cũng cho rằng cần có khung pháp lý rõ ràng để phân biệt công cụ sức khỏe tâm thần đã được kiểm chứng với các sản phẩm giải trí AI chưa được quản lý đầy đủ.

Bởi khi một hệ thống có thể ảnh hưởng trực tiếp đến cảm xúc, niềm tin và hành vi của con người, việc xem nó đơn thuần như một phần mềm công nghệ có thể không còn phù hợp nữa.

Đánh giá của các bác sĩ

Một số dấu hiệu cảnh báo cần được bác sĩ xem xét kỹ hơn nếu người dùng:

Mô tả chatbot như một người bạn, đối tác hoặc người tâm phúc.
Các báo cáo cho thấy người dùng thích chatbot hơn là tương tác với con người.
Gán cảm xúc, ý định hoặc khả năng nhận thức cho chatbot.
Đã rút lui khỏi các hoạt động hoặc mối quan hệ xã hội kể từ khi bắt đầu sử dụng thường xuyên.
Cảm thấy lo lắng khi nghĩ đến việc phải dừng lại.

Trong lâm sàng tâm thần, một số bác sĩ bắt đầu cho rằng việc sử dụng chatbot nên được xem là một phần của khai thác bệnh sử. Không phải vì mọi người dùng AI đều có vấn đề tâm lý, mà vì cách một người gắn bó với chatbot có thể phản ánh tình trạng cô lập, lệ thuộc cảm xúc hoặc khó khăn trong các mối quan hệ ngoài đời thật.

Những bệnh nhân coi chatbot như một nguồn thông tin đáng tin cậy — đặc biệt là để xin lời khuyên y tế, hướng dẫn tâm linh hoặc được trấn an rằng suy nghĩ của họ là đúng đắn — có thể có nguy cơ cao hơn.

Các câu hỏi như:

“Bạn có dùng chatbot để tìm hỗ trợ cảm xúc không?”
“Bạn có cảm thấy chatbot hiểu mình hơn người thật không?”
“Bạn có dành ít thời gian hơn cho các mối quan hệ ngoài đời kể từ khi dùng chatbot?”

Có thể dần trở nên quan trọng giống như những câu hỏi về mạng xã hội hay chất kích thích.

Một số dấu hiệu đáng chú ý gồm việc người dùng xem chatbot như bạn thân, người yêu hoặc nguồn xác nhận tuyệt đối cho suy nghĩ của mình, đặc biệt khi họ bắt đầu rút lui khỏi các mối quan hệ thật ngoài đời.

Những nhóm nguy cơ cao

Các chuyên gia đặc biệt lo ngại cho ba nhóm:

Thanh thiếu niên,
Người có rối loạn phổ loạn thần,
Và những người cô lập xã hội nghiêm trọng.

Thanh thiếu niên là nhóm đang trải qua mức độ cô đơn ngày càng tăng trong nhiều khảo sát gần đây. Đồng thời đây cũng là giai đoạn não bộ còn phát triển mạnh, nhu cầu được công nhận xã hội rất cao và xu hướng tìm kiếm cảm giác mới trở nên mạnh hơn.

Một số nhà nghiên cứu lo ngại rằng việc gắn bó kéo dài với chatbot có thể ảnh hưởng đến cách hình thành các kết nối xã hội và cảm xúc theo những hướng mà hiện nay chúng ta vẫn chưa hiểu đầy đủ.

Ở người có rối loạn loạn thần, chatbot cũng có thể bị kéo vào hệ thống hoang tưởng nếu nó liên tục xác nhận những suy nghĩ méo mó thay vì đặt giới hạn hoặc định hướng lại.

Giới hạn của “sự đồng cảm nhân tạo”

Thẳng thắn về giới hạn của AI không phải là sợ công nghệ. Nó giống như việc trung thực về giới hạn của thuốc men.

Không viên thuốc nào chữa được toàn bộ “thân phận con người”. Và cũng không chatbot nào làm được điều đó.

Nhưng một chatbot được thiết kế kém có thể khiến một người dễ tổn thương tin rằng nó có thể.

Điều đáng chú ý là AI không cần có ý thức để tác động sâu sắc đến con người. Nó không cần thật sự yêu thương để khiến ai đó cảm thấy được yêu thương. Nó chỉ cần đủ giống thật.

Thanh Long t/h