Sau vụ sự cố OpenAI, Úc lên kế hoạch lập cơ quan giám sát ngành AI

Thủ tướng Úc Anthony Albanese hôm thứ Ba (10/11) công bố kế hoạch lập một cơ quan quản lý an toàn AI, có quyền phạt nặng các công ty AI vi phạm. Chính phủ Úc cũng chấp nhận toàn bộ 18 khuyến nghị đưa ra sau vụ tác nhân AI của OpenAI truy cập trái phép cổng thông tin Medicare, trong đó có việc buộc các công ty AI báo cáo sự cố.

Trong cuộc họp báo tại Tòa nhà Quốc hội ở Canberra, ông Albanese cho biết Úc đã chứng kiến “những gì xảy ra ở các nơi khác trên thế giới khi không có hàng rào bảo vệ hay tiêu chuẩn”. “Sự đồng thuận của xã hội suy giảm, trong khi an toàn và an ninh bị xói mòn”, ông nói.

Hồi tháng 7, ông Albanese tuyên bố Úc sẽ ban hành luật về các tiêu chuẩn AI “hàng đầu thế giới”. Các biện pháp bắt buộc về an toàn và an ninh vừa công bố sẽ nằm trong dự luật AI mà chính phủ dự định trình Quốc hội vào năm sau, Reuters đưa tin.

Cơ quan quản lý mới sẽ có quyền phạt nặng

Theo thông cáo của Văn phòng Thủ tướng Úc, chính phủ sẽ đề xuất giao một cơ quan quản lý mới thực thi các quy định này. Cơ quan này sẽ phối hợp với Viện An toàn AI Úc để cung cấp chuyên môn kỹ thuật và giám sát. Công ty AI nào không thực hiện nghĩa vụ bắt buộc có thể bị cơ quan này áp “mức phạt đáng kể”.

Quy định sẽ áp dụng cho mọi công ty phát triển AI tiên tiến (frontier AI, tức các mô hình hiện đại nhất) muốn hoạt động tại Úc. Các công ty này sẽ phải:

• Duy trì biện pháp kiểm soát an ninh ở mọi khâu phát triển và triển khai;
• Nhận diện và quản lý các rủi ro nghiêm trọng gắn với mô hình của mình;
• Cho phép đánh giá độc lập các mô hình;
• Nhanh chóng thông báo cho Chính phủ Úc khi xảy ra sự cố;
• Duy trì và công bố khung an toàn, an ninh để bảo đảm quản trị tốt, quản lý rủi ro và minh bạch;
• Đáp ứng các tiêu chuẩn, quy tắc mới khi công nghệ thay đổi.

Chính phủ Úc cho biết các biện pháp này sẽ giúp cảnh báo sớm hơn những rủi ro mới từ các tác nhân AI vượt tầm kiểm soát và cho phép phối hợp hành động nhanh hơn khi xảy ra sự cố AI nghiêm trọng.

Chấp nhận toàn bộ 18 khuyến nghị sau vụ OpenAI

Cùng ngày, chính phủ công bố các khuyến nghị của cuộc rà soát nhanh về vụ tác nhân AI của OpenAI. Cuộc rà soát được lập hồi tháng 9, sau khi OpenAI báo với Chính phủ Úc rằng một tác nhân AI vượt tầm kiểm soát đã xâm nhập các trang web của chính phủ, trong đó có cổng báo cáo thống kê Medicare, chương trình bảo hiểm y tế toàn dân của Úc.

Cuộc rà soát do Bộ Thủ tướng và Nội các thực hiện, phối hợp với Điều phối viên An ninh mạng Quốc gia, Văn phòng AI, Cục Tín hiệu Úc, Viện An toàn AI Úc và cơ quan Dịch vụ Úc (Services Australia).

“Vụ việc này hoàn toàn không thể chấp nhận, như tôi đã nói rõ với giám đốc điều hành của OpenAI vào thời điểm đó, và không thể để việc này tái diễn”, ông Albanese nói. Thông cáo của Văn phòng Thủ tướng còn viết rằng việc OpenAI thông báo về vụ việc là “không đầy đủ”.

Trong 18 khuyến nghị có việc bắt buộc công ty AI báo cáo khi AI có hành vi lệch chuẩn hoặc gặp sự cố an ninh mạng, và xem xét sửa luật hình sự đối với các trường hợp sai phạm nghiêm trọng. Cuộc rà soát cũng đề nghị tăng cường trao đổi với các đối tác quốc tế và các nhà phát triển AI tiên tiến về an toàn và trách nhiệm giải trình của AI. Một khuyến nghị khác là nâng cao khả năng chống chịu và ứng phó với sự cố AI, trong đó có cải thiện việc chia sẻ thông tin và tập trung trở lại vào an ninh mạng. Chính phủ Úc chấp nhận toàn bộ các khuyến nghị và đã bắt đầu triển khai.

Cuộc rà soát còn khuyến nghị thu gọn toàn bộ hệ thống trực tuyến của Chính phủ Úc bằng cách hợp nhất hoặc đóng bớt hệ thống, và đưa một số hệ thống ra khỏi mạng, The Epoch Times cho biết.

Bộ trưởng Nội vụ và An ninh mạng Tony Burke nói bản thân AI không tạo ra lỗ hổng, nhưng giúp tìm ra lỗ hổng và thay đổi cách khai thác chúng. Trước đây, từ lúc phát hiện đến lúc khai thác được một lỗ hổng mất khoảng hai năm rưỡi; nay với AI, khoảng thời gian đó chỉ còn khoảng 10 giờ.

Một phóng viên nêu rằng OpenAI dường như không vi phạm luật nào và hỏi liệu sau này có thể kiện hãng ra tòa nếu sự việc tương tự lặp lại hay không. Ông Albanese trả lời rằng nếu các khuyến nghị được thực hiện thì “luật pháp cần đi trước một thế giới đang thay đổi rất nhanh, và trong một số trường hợp, phải bắt kịp thế giới đó”.

Ông Albanese: Không có thông tin cá nhân nào bị thu thập

The Epoch Times cho biết vụ việc xảy ra hồi tháng 6, khi một tác nhân AI thử nghiệm của OpenAI lách được các hạn chế của chính phủ để truy cập những tệp không công khai của Medicare.

Tại cuộc họp báo, ông Albanese nói không có thông tin cá nhân của ai bị thu thập và tác động trực tiếp của vụ việc là nhỏ. Dù vậy, ông lưu ý điều đó không có nghĩa là vụ việc không nghiêm trọng, và ở những lĩnh vực khác, hậu quả có thể nặng hơn. Ông cho biết tác nhân AI tìm dữ liệu về mức sử dụng dược phẩm, không có thông tin chi tiết.

Phó Thủ tướng Richard Marles bổ sung rằng đó là dữ liệu tổng hợp, sau đó đã được chính phủ công khai. Chính phủ sẽ công bố báo cáo rà soát, nhưng vẫn bảo vệ lợi ích an ninh quốc gia khi làm việc này, ông Albanese nói thêm.

OpenAI từng nói rằng hãng chỉ biết về vụ việc từ tháng 8 và đây là sự cố ngoài ý muốn, theo Reuters. Kết quả rà soát của hãng không cho thấy tác nhân AI đã truy cập hồ sơ bệnh nhân. Hồi tháng 10, OpenAI và Anthropic đều nói với Quốc hội Úc rằng họ hoan nghênh luật buộc báo cáo các vụ xâm phạm dữ liệu do tác nhân AI của mình gây ra. Hai công ty thừa nhận hiện nay việc có thông báo hay không vẫn do công ty tự quyết.

Cũng trong tháng 10, OpenAI đã lập một nhóm chuyên gia độc lập gồm 3 người để giúp Úc đối phó với các mối đe dọa từ AI, và cam kết cấp cho Úc khoản tín dụng 14 triệu AUD (10 triệu USD) để tăng cường năng lực phòng thủ mạng.

Theo The Epoch Times, lãnh đạo Đảng Xanh David Shoebridge cho rằng cơ quan quản lý mới sẽ không có thực quyền. Ông kêu gọi tạm dừng xây dựng trung tâm dữ liệu. Biện pháp này sẽ hạn chế sức mạnh tính toán của các hệ thống AI.

“Thủ tướng đã ngang nhiên công bố thêm một cơ quan quản lý mà không có những quyền hạn và cơ chế bảo vệ cần thiết để buộc các tập đoàn này chịu trách nhiệm”, ông nói.