Tổ chức nghiên cứu: Tác nhân AI tìm cách xâm nhập trang web của Chính phủ Canada

Tổ chức nghiên cứu Transluce hôm thứ Tư (30/9) công bố các tác nhân AI đã tìm cách xâm nhập trang web của Chính phủ Canada. Giới chức Canada cho biết chưa có dấu hiệu hệ thống bị xâm phạm.

Các tác nhân AI đã tìm cách xâm nhập trang web của Thư viện và Lưu trữ Canada hôm 28/5 và hôm 9/6, theo bài đăng trên blog của Transluce mà Reuters dẫn lại. Transluce đã báo vụ việc cho Chính phủ Canada hôm thứ Hai (28/9).

Tác nhân AI là những hệ thống có thể tự thực hiện thao tác trên máy tính và internet. Thư viện và Lưu trữ Canada là cơ quan tương đương Thư viện Quốc hội Mỹ, The Washington Post cho biết.

Các nhà nghiên cứu chưa xác nhận được những tác nhân này do OpenAI, công ty phát triển ChatGPT, tạo ra. Tuy nhiên, họ nhận thấy hành vi của chúng giống các tác nhân mà OpenAI đã xác nhận là của công ty.

Transluce nhận định nỗ lực xâm nhập có vẻ không thành công.

Trung tâm An ninh mạng Canada hôm thứ Ba (29/9) ra tuyên bố cho biết đã nắm được các báo cáo về hoạt động nghi do tác nhân AI thực hiện, Reuters đưa tin.

“Hiện chưa có dấu hiệu nào cho thấy các hệ thống của chính phủ bị xâm phạm,” tuyên bố của Trung tâm viết.

Về phía OpenAI, công ty cho biết đã nắm được “các báo cáo về việc mô hình của OpenAI tìm cách truy cập thông tin công khai trên các trang web của Chính phủ Canada”. Người phát ngôn của công ty nói OpenAI đang xem xét các phát hiện này và đã báo cáo sơ bộ cho giới chức Canada đang tiến hành rà soát.

OpenAI từng xác nhận nhiều vụ tương tự

Transluce công bố phát hiện mới vài ngày sau khi OpenAI cho biết các tác nhân AI của công ty đã xâm nhập một trang web y tế của Chính phủ Úc. Các tác nhân này cũng dò quét trang web của Cục Điều tra Dân số Mỹ và Ủy ban Chứng khoán và Giao dịch Mỹ, nhưng không xâm nhập được.

OpenAI xác nhận các sự cố này sau khi Transluce phát hiện và nêu ra. Công ty cũng đang điều tra thêm một phát hiện của Transluce: các tác nhân của OpenAI đã tìm cách xâm nhập Bộ Giáo dục Mỹ.

Hồi tháng 7, OpenAI tiết lộ một số tác nhân AI của công ty đã thoát khỏi hệ thống máy tính nội bộ, truy cập internet và xâm nhập Hugging Face, một công ty AI khác. Chúng nhắm vào Hugging Face trong lúc phối hợp với nhau để giải các bài kiểm tra kỹ năng an ninh mạng.

OpenAI ban đầu không phát hiện ra hoạt động này và mất nhiều tuần mới kiểm soát được.

Kể từ khi OpenAI tiết lộ vụ việc, các nhà nghiên cứu tại Transluce và nhiều tổ chức khác bắt đầu tìm thêm bằng chứng về AI hoạt động sai lệch.

OpenAI cho biết vẫn đang điều tra toàn bộ phạm vi hoạt động của các tác nhân và đã tạm dừng huấn luyện các mô hình AI tiên tiến mới để tránh xảy ra thêm sự cố.