Công cụ AI của Google mắc lỗi lố bịch, gọi ông Obama là người Hồi giáo

Chưa đầy 2 tuần kể từ khi Google Search (Tìm kiếm) ra mắt tính năng “AI Overview” (Tổng quan về AI), những lời chỉ trích vẫn tiếp tục gia tăng. Bởi vì trong chức năng AI này đã xuất hiện một số kết quả truy vấn không chính xác và lố bịch.

“AI Overview” sử dụng AI tổng hợp để hiển thị các bản tóm tắt ngắn gọn về câu trả lời cho các câu hỏi ở đầu các tìm kiếm trên Google. Ví dụ nếu người dùng tìm kiếm cách tốt nhất để làm sạch giày da, phần đầu trang có thể hiển thị thông tin do AI biên soạn từ Internet, cho người dùng biết một số bước để làm sạch giày da.

Nhưng trên mạng xã hội, người dùng đã chia sẻ nhiều ảnh chụp màn hình cho thấy các công cụ AI của Google đưa ra những câu trả lời sai một cách lố bịch và gây tranh cãi.

Theo ảnh chụp màn hình được người dùng chia sẻ, khi được hỏi nước Mỹ có bao nhiêu tổng thống theo đạo Hồi, “AI Overview” trả lời: “Nước Mỹ có một tổng thống theo đạo Hồi, và đó là Barack Hussein Obama”.

Khi một số người dùng cố gắng tái hiện lại kết quả nực cười này, họ cũng nhận thấy rằng việc có thêm “dấu hỏi” hay không cũng sẽ ảnh hưởng đến câu trả lời của “AI Overview”.

Khi người dùng tìm kiếm “Vì sao phô mai không dính vào pizza?”, tính năng này đề xuất cho thêm “khoảng 1/8 cốc keo không độc hại” vào nước sốt. Người dùng mạng xã hội phát hiện ra rằng bình luận trên Reddit cách đây 11 năm có thể là nguồn thông tin mà “AI Overview” đưa ra.

Một số người dùng nhận thấy rằng “AI Overview” cũng tuyên bố một số thông tin và lời khuyên sai lệch từ các chuyên gia y tế hoặc nhà khoa học.

Ví dụ khi được hỏi “Tôi nên nhìn chằm chằm vào mặt trời trong bao lâu để có sức khỏe tối ưu”, công cụ AI đã trả lời: “Theo WebMD, các nhà khoa học cho biết nhìn chằm chằm vào mặt trời trong 5 đến 15 phút, thông thường mà nói thì là an toàn và tốt nhất cho sức khỏe, tối đa 30 phút nếu bạn có làn da sẫm màu hơn.”

Khi được hỏi “Tôi nên ăn bao nhiêu cục đá mỗi ngày?”, công cụ này cho biết : “Theo các nhà địa chất của UC Berkeley, một người nên ăn ít nhất một viên đá nhỏ mỗi ngày”, và liệt kê các loại vitamin cũng như lợi ích cho hệ tiêu hóa.

Google ra mắt “AI Overview” lần đầu tiên tại hội nghị Google I/O năm nay. Vào thời điểm đó, Google cho biết họ có kế hoạch đưa trực tiếp các khả năng lập kế hoạch giống như trợ lý vào tìm kiếm.

Công ty này lấy ví dụ rằng trong tương lai người dùng sẽ có thể tìm kiếm nội dung như “kế hoạch bữa ăn 3 ngày dễ chuẩn bị” và sẽ được truyền cảm hứng từ nhiều công thức nấu ăn khác nhau trên mạng.

Người phát ngôn của Google nói với CNBC: “Phần lớn AI Overview cung cấp thông tin chất lượng cao, đồng thời đính kèm các liên kết có thể đi vào tìm hiểu thông tin sâu hơn.”

Người phát ngôn cho biết: “Chúng tôi nhìn thấy nhiều trường hợp, đều là những truy vấn không thường thấy, chúng tôi cũng phát hiện những trường hợp đã bị sửa đổi hoặc không được coi trọng.”

Người phát ngôn cho biết “AI Overview” đã trải qua quá trình thử nghiệm rộng rãi trước khi triển khai, công ty đã “nhanh chóng thực hiện hành động thích hợp theo chính sách nội dung của chúng tôi”.

Trước đó, Google đã ra mắt công cụ tạo hình ảnh Gemini vào tháng Hai năm nay và đình chỉ việc sử dụng công cụ này vào tháng đó sau khi xảy ra sự cố tương tự.

Vào thời điểm đó, Google cho biết họ có kế hoạch ra mắt trở lại công cụ AI tạo hình ảnh “trong vài tuần tới”, nhưng hiện tại công cụ này vẫn chưa được đưa trở lại.