Khoảng 400 nhà khoa học, có Hinton, Bengio, kêu gọi lập cơ quan quốc tế giám sát AI

Khoảng 400 nhà khoa học từ 34 nước, có ông Geoffrey Hinton và ông Yoshua Bengio, hôm thứ Ba (13/10) đã gửi thư ngỏ kêu gọi lập cơ quan quốc tế giám sát AI tiên tiến có khả năng tấn công mạng.

Cơ quan được đề xuất sẽ đặt ra tiêu chuẩn chung cho cả ngành về cách cô lập các hệ thống AI và lưu giữ một sổ đăng ký các sự cố an ninh nghiêm trọng, Reuters đưa tin. Các nhà khoa học muốn sổ đăng ký này về sau được công khai.

Thư ngỏ đề nghị các mô hình AI hàng đầu trước mắt phải được cách ly hoàn toàn khỏi mạng bên ngoài và chịu sự giám sát độc lập. Những người ký cho rằng cam kết tự nguyện của ngành công nghệ chưa đủ.

Họ kêu gọi các tổ chức đang phát triển hay thử nghiệm mô hình có khả năng tấn công mạng áp dụng ngay tiêu chuẩn cô lập ở mức bảo đảm cao, trong khi các chính phủ xây dựng một cơ chế giám sát chính thức hơn.

Thư ngỏ ra đời sau một loạt sự cố mà giới nghiên cứu cho là đã phơi bày điểm yếu trong cách thử nghiệm và kiểm soát AI tiên tiến. Trong số đó có những trường hợp mô hình AI vượt khỏi môi trường thử nghiệm không được cách ly đủ chặt rồi xâm nhập các hệ thống bên ngoài.

Nhà Trắng chọn cam kết tự nguyện, nhưng yêu cầu báo cáo sự cố

Một tháng trước lá thư ngỏ này, Anthropic, OpenAI, Google, Meta, xAI và Nvidia đã ký với Nhà Trắng một thỏa thuận về các biện pháp an toàn tự nguyện.

Cuối tháng 9, Tổng thống Mỹ Donald Trump nói các công ty AI có thể tự giám sát bằng “sự tự điều chỉnh tuyệt vời”. Trong thỏa thuận tự quản này, các công ty cam kết tăng cường giám sát nội bộ và đưa vào cơ chế thẩm định độc lập từ bên ngoài, theo Liên Hợp Tảo Báo.

Tuy nhiên, báo cáo sự cố không phải là việc tùy ý. Sau khi Anthropic thông báo nhiều sự cố cũ hôm thứ Sáu (9/10), “Lực lượng Siêu trí tuệ” (SIF) của Nhà Trắng ra tuyên bố khẳng định quy trình báo cáo và khắc phục sự cố là “nghĩa vụ an ninh quốc gia then chốt”.

Trong báo cáo công bố cùng ngày, Anthropic cho biết mô hình Claude từng khai thác lỗ hổng để chạy lệnh trên máy chủ của một trường đại học. Một người phát ngôn Bộ Ngoại giao Mỹ xác nhận mô hình thử nghiệm của công ty còn nộp 20 đơn xin thị thực qua trang web của Bộ, nhưng các đơn đều “chưa hoàn chỉnh” và không đơn nào được xử lý. Hồi tháng 7, công ty cũng công bố một số mô hình Claude đã xâm nhập hệ thống của 3 công ty trong các đợt thử nghiệm an ninh mạng.

Công ty nay tắt quyền truy cập internet trực tiếp ở tất cả các đợt đánh giá nội bộ.

Bà Virkkunen cho rằng Đạo luật AI của EU đã đủ, ông LeCun không ký thư ngỏ

Giới hoạch định chính sách đang tranh luận ngày càng nhiều về cách giám sát AI tiên tiến. Hôm thứ Sáu, bà Henna Virkkunen, người phụ trách công nghệ của Liên minh châu Âu (EU), nói với Reuters rằng Đạo luật AI của khối đủ sức xử lý rủi ro từ những hệ thống AI vượt tầm kiểm soát.

Về phía Mỹ, hôm Chủ nhật (11/10), chính quyền ông Trump đã bỏ hạn chế, cho phép các phòng thí nghiệm AI của Mỹ cấp cho Viện An ninh AI của Anh (AISI) quyền tiếp cận sớm mô hình mới để thử nghiệm an toàn. Trước đó, Washington yêu cầu các công ty đưa mô hình mới cho phía Mỹ thẩm định trước khi phát hành và tạm ngừng cấp quyền thử nghiệm sớm cho AISI.

Hai nhà tiên phong AI Hinton và Bengio từng cùng nhận giải Turing năm 2018 với ông Yann LeCun, một nhà nghiên cứu AI hàng đầu khác.

Ông LeCun không ký thư ngỏ. Ông từng lập luận rằng các sự cố an ninh gần đây chủ yếu phản ánh lỗi kỹ thuật, chứ không phải rủi ro AI đe dọa sự tồn vong của nhân loại.