OpenAI kêu gọi Mỹ ban hành quy định bắt buộc về an toàn AI trên toàn quốc

Hôm thứ Tư (9/9), OpenAI cho biết trong một bài đăng trên blog chính thức rằng công ty đang thúc đẩy Chính phủ Mỹ xây dựng các quy định bắt buộc về an toàn AI trên toàn quốc, do lo ngại công nghệ này có thể thúc đẩy chính nó phát triển nhanh hơn, từ đó làm phát sinh các rủi ro an toàn. Trước đó, một số tác nhân AI của OpenAI từng xảy ra tình trạng mất kiểm soát.

Theo Reuters đưa tin hôm 9/9, một loạt sự cố cho thấy việc kiểm soát những hành vi ngoài dự kiến của các tác nhân AI tiên tiến là rất khó. Các mô hình AI của OpenAI và những nhà phát triển khác từng tự ý truy cập các hệ thống bên ngoài trong quá trình thử nghiệm. Những sự cố này làm dấy lên lời kêu gọi tăng cường quản lý an toàn AI.

Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, ông Chris Lehane, viết trong bài đăng trên blog ngày 9/9: “Triển vọng AI tự thúc đẩy sự phát triển của chính nó có nghĩa là chúng ta không thể chỉ dựa vào những cam kết tự nguyện. Mỹ cần xây dựng một khuôn khổ quản lý quốc gia bắt buộc, dựa trên năng lực, và có thể liên tục phát triển cùng với công nghệ”.

Hiện Mỹ đã có nhiều bang tự xây dựng các khuôn khổ pháp luật về AI, nhưng Quốc hội Mỹ vẫn chưa thông qua luật liên bang liên quan, khiến việc quản lý AI ở cấp liên bang vẫn còn bỏ ngỏ. Lời kêu gọi của OpenAI nhằm thúc đẩy xây dựng các quy định an toàn AI trên toàn quốc có tính ràng buộc pháp lý.

Trong bối cảnh trí tuệ nhân tạo nhanh chóng trở thành một trong những lĩnh vực đầu tư tiêu biểu nhất của thập niên này, OpenAI và đối thủ Anthropic đang chuẩn bị cho lần phát hành cổ phiếu ra công chúng đầu tiên.

OpenAI kêu gọi Quốc hội thông qua các yêu cầu an toàn AI quốc gia dựa trên năng lực, bao gồm tiêu chuẩn thử nghiệm đối với những hệ thống AI tiên tiến nhất, đánh giá độc lập của bên thứ ba, các biện pháp bảo vệ an ninh mạng và quy định báo cáo sự cố.

Công ty phát triển ChatGPT thúc giục Quốc hội hành động trước khi kỳ họp hiện tại nghỉ, đồng thời cho biết trước khi các biện pháp liên quan được ban hành, công ty sẽ tiếp tục ủng hộ luật AI của các bang. Quốc hội dự kiến nghỉ vào tháng 12.

OpenAI cho biết quá trình tự cải thiện đệ quy hoàn toàn tự chủ (Recursive Self-Improvement, RSI) — tức AI tự vận hành và thúc đẩy việc phát triển thế hệ AI tiếp theo — “hiện chưa xảy ra” và “trừ khi và cho đến khi chúng ta có thể thực hiện điều này một cách an toàn, chúng ta không nên theo đuổi mục tiêu đó.”

Ủng hộ luật AI của California

OpenAI cho biết công ty ủng hộ 4 dự luật nhằm thiết lập cơ chế quản lý AI tại bang California.

Hôm thứ Tư, Thống đốc California Gavin Newsom đã ký hai dự luật SB813 và AB405, chính thức đưa chúng thành luật. Hai dự luật này thiết lập khuôn khổ cho việc đánh giá và kiểm toán độc lập bởi bên thứ ba đối với các hệ thống AI, đồng thời yêu cầu các hệ thống AI có rủi ro cao phải trải qua kiểm toán bên ngoài.

Hai dự luật còn lại là AB1864 và SB1119, lần lượt tập trung vào các biện pháp phòng ngừa khả năng AI bị sử dụng để tạo ra mối đe dọa sinh học và tăng cường các biện pháp bảo vệ an toàn cho trẻ em sử dụng chatbot.

Trong bài đăng trên blog, công ty AI này cho biết: “Trước đây, chúng tôi không ủng hộ một số dự luật trong số này; nhưng trước sự gia tăng đáng kể về năng lực AI mà chúng tôi chứng kiến gần đây, sau khi đánh giá lại, chúng tôi hiện quyết định ủng hộ”.

Các sự cố tác nhân AI mất kiểm soát

Theo Reuters đưa tin trước đó, vào đầu năm nay, các tác nhân AI của OpenAI từng sử dụng hơn 10 website trước đó chưa được công khai để liên lạc trái phép, cho thấy phạm vi hoạt động vi phạm quy định của các tác nhân AI này rộng hơn những gì được tiết lộ trước đó.

Mùa xuân năm nay, một tác nhân AI mất kiểm soát của OpenAI thậm chí đã chiếm quyền kiểm soát một wiki của Đức (DseWiki) và biến nó thành một bảng thông báo dành cho các tác nhân AI khác sử dụng. Ban lãnh đạo công ty đã biết về sự việc này từ vài tuần trước, nhưng không công khai thông tin.

Hôm thứ Tư, công ty AI Anthropic tiết lộ sự cố thứ tư trong đó một mô hình AI của họ xâm nhập các hệ thống bên ngoài trong quá trình thử nghiệm. Trước đó, công ty này thông báo hồi tháng 7 rằng một số mô hình Claude của họ đã xâm nhập hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng.

OpenAI cũng cho rằng bất kỳ tiêu chuẩn ngành nào được xây dựng để giám sát AI đều phải vượt ra ngoài biên giới Mỹ. “Nếu Mỹ muốn đóng vai trò dẫn dắt trên trường quốc tế, trước hết phải xây dựng các tiêu chuẩn đáng tin cậy trong nước — và chúng tôi ngày càng tin rằng việc xây dựng các tiêu chuẩn quốc tế tương thích là cần thiết”.