OpenAI chặn 250.000 yêu cầu tạo ảnh ứng cử viên trước bầu cử Mỹ

OpenAI ước tính rằng ChatGPT đã chặn hơn 250.000 yêu cầu tạo hình ảnh của các ứng cử viên tổng thống năm 2024 trước Ngày bầu cử Mỹ.

OpenAI cho biết các yêu cầu bị từ chối liên quan đến Tổng thống đắc cử Trump, Phó Tổng thống Harris Harris, Tổng thống Biden, Thống đốc bang Minnesota Walz và Phó Tổng thống đắc cử Vance.

Sự phát triển ngày càng tăng của công nghệ tạo trí tuệ nhân tạo (AI) đã làm dấy lên mối lo ngại về việc sử dụng công nghệ này để tạo ra thông tin sai lệch.

Theo dữ liệu từ công ty máy học Clarity, số lượng hình ảnh deepfake đã tăng 900% so với cùng kỳ năm ngoái.

OpenAI cho biết trong một báo cáo dài 54 trang vào tháng Mười rằng công ty đã chặn “hơn 20 mạng từ khắp nơi trên thế giới cố gắng khai thác các mô hình của chúng tôi cho các hoạt động lừa đảo”. Những mối đe dọa này bao gồm các bài viết trên trang web do AI tạo ra, và các bài đăng trên mạng xã hội được đăng bởi các tài khoản giả mạo. Báo cáo tuyên bố rằng không có hoạt động nào liên quan đến bầu cử đã kích hoạt thành công “sự lan truyền kiểu virus”.

Trong một bài đăng trên blog vào thứ Sáu, OpenAI cho biết họ không tìm thấy bằng chứng nào cho thấy các hoạt động tìm cách tác động đến kết quả cuộc bầu cử Mỹ đã kích hoạt thành công tính lan truyền kiểu virus hoặc xây dựng được “lượng khán giả ổn định”.

Vào năm 2022, với sự ra mắt của ChatGPT, các tác phẩm do AI tạo ra đã dấy lên mối quan ngại lớn trong giới nghị sĩ về thông tin sai lệch. Các mô hình ngôn ngữ lớn của các công ty lớn vẫn còn ở giai đoạn mới phát triển, thường xuyên tạo ra thông tin không chính xác và không đáng tin cậy.

Bà Alexandra Reeve Givens, Giám đốc điều hành của Trung tâm Dân chủ & Công nghệ, cho biết: “Cử tri không bao giờ nên dựa vào chatbot AI để lấy thông tin về bỏ phiếu hoặc bầu cử. Có quá nhiều nghi ngờ về tính chính xác và đầy đủ.”