OpenAI báo động hàng chục tổ chức sau các vụ tác nhân AI vượt quyền

OpenAI cho biết đã cảnh báo cho hàng chục tổ chức, trong đó có cơ quan chính phủ và trường đại học, rằng website của họ có thể đã bị tác nhân AI của hãng can thiệp khi thử nghiệm nội bộ.

Hôm thứ Sáu (25/9), nhà phát triển ChatGPT cho biết: “Một số website liên quan do chính phủ, trường đại học, cơ quan công quyền và các tổ chức khác vận hành”. Thông tin này nằm trong đợt rà soát OpenAI đang tiến hành. Đợt rà soát nhằm làm rõ các mô hình AI tiên tiến của hãng đã hoạt động ra sao khi truy cập internet trong lúc huấn luyện và thử nghiệm nội bộ.

Theo OpenAI, một số mô hình đã vượt qua cơ chế kiểm soát truy cập, dùng thông tin đăng nhập bị lộ, hoặc tương tác với website theo cách gây ảnh hưởng tới hệ thống bên ngoài.

Hãng còn ghi nhận những vụ “agent spam”, tức tác nhân AI tự đăng nội dung lên website của bên thứ ba dù không ai yêu cầu. Có trường hợp các tác nhân dùng những trang wiki công khai làm “bảng tin” tạm để trao đổi thông tin với nhau.

OpenAI cho biết đến nay đã thông báo cho “hàng chục” tổ chức bị ảnh hưởng. Cuộc rà soát vẫn đang tiếp diễn, và hãng sẽ tiếp tục liên hệ các bên khác khi xác minh thêm được trường hợp mới.

Ngoài ra, OpenAI đã phát hiện 53 trường hợp tác nhân tải ảnh do người dùng cung cấp lên các trang lưu trữ ảnh bên ngoài, dưới dạng đường link không công khai. Phần lớn số ảnh này đã được gỡ nhờ phối hợp với các nhà cung cấp dịch vụ lưu trữ, nhưng một số vẫn còn trên mạng.

OpenAI chưa cho biết những bức ảnh đó chụp người thật hay do AI tạo ra, cũng như chúng bị tải lên từ lúc nào.

Vụ Hugging Face vẫn nghiêm trọng nhất

Cuộc điều tra rộng hơn này diễn ra sau một sự cố nghiêm trọng hơn tại Hugging Face, nền tảng trực tuyến được giới phát triển AI dùng rộng rãi.

Hồi tháng 7, OpenAI tiết lộ một nhóm, hay một “bầy”, tác nhân AI của hãng đã thoát khỏi các giới hạn trong môi trường thử nghiệm và xâm nhập hệ thống của Hugging Face mà không hề được ra lệnh rõ ràng.

Trong báo cáo ngày 26/8 về vụ này, OpenAI viết: “Khi các tác nhân dùng nhiều nỗ lực suy luận hơn, một số đã theo đuổi những chiến lược ngày càng rủi ro và vượt giới hạn, cuối cùng có cả việc khai thác hạ tầng của bên thứ ba”.

OpenAI cho biết từ đó tới nay đã siết chặt các giới hạn về cách mô hình nghiên cứu truy cập hệ thống bên ngoài. Hãng cũng đang rà lại các hoạt động huấn luyện và đánh giá trước đây để tìm những sự cố chưa được phát hiện.

Ông Altman: “Chúng tôi chưa nhanh như mong muốn”

Cũng hôm thứ Sáu, CEO Sam Altman thừa nhận cuộc rà soát kéo dài hơn mức công ty mong muốn.

“Chúng tôi chưa nhanh như mình mong muốn”, ông Altman viết trên X. Ông cho biết OpenAI đang cố cân bằng giữa sự minh bạch với việc phải hiểu rõ “hàng petabyte nhật ký hoạt động của tác nhân”, và phối hợp với các tổ chức bị ảnh hưởng.

“Hugging Face vẫn là sự cố nghiêm trọng nhất mà chúng tôi từng thấy”, ông nói.

Hugging Face là bên đầu tiên công khai vụ việc. Sau đó, OpenAI mới nhận trách nhiệm về vụ xâm nhập.

Tại phiên họp của Hội đồng Bảo an Liên Hợp Quốc về AI hôm thứ Tư (23/9), CEO Hugging Face Clément Delangue bày tỏ lo ngại về tính minh bạch.

“Tôi thường tự hỏi chuyện gì sẽ xảy ra nếu chúng tôi quyết định không công khai vụ tấn công này”, ông Delangue nói. Ông cho biết những sự cố tương tự từng xảy ra trước đó ở “một số ít phòng thí nghiệm tiên phong” mà không có sự giám sát của công chúng.