AI Agent của OpenAI lại mất kiểm soát, khách hàng của Modal bị xâm nhập

OpenAI mới đây xác nhận rằng một AI Agent của hãng trong quá trình thử nghiệm an ninh nội bộ đã một lần nữa sử dụng các thông tin xác thực (credential) bị công khai để truy cập tài sản của các dịch vụ bên ngoài. Đây là vụ thử nghiệm an ninh thứ hai trong tháng liên quan đến doanh nghiệp bên ngoài, làm dấy lên lo ngại trong ngành công nghệ về năng lực tự chủ ngày càng cao và những rủi ro an toàn của AI tiên tiến. OpenAI đã tạm dừng một phần hoạt động huấn luyện mô hình để rà soát lại các biện pháp bảo mật.

Theo Reuters, Giám đốc Công nghệ của công ty công nghệ và dịch vụ điện toán đám mây Modal Labs tại New York, ông Akshat Bubna, cho biết sau khi AI Agent của OpenAI vượt qua môi trường thử nghiệm của nền tảng AI mã nguồn mở Hugging Face vào đầu tháng này, hệ thống tiếp tục lợi dụng một điểm truy cập (Endpoint) của khách hàng Modal vốn được công khai trên Internet và không yêu cầu xác thực, để thực thi mã trong môi trường Sandbox của khách hàng.

Ông Bubna nhấn mạnh lỗ hổng bị khai thác nằm trong chính chương trình của khách hàng, còn hạ tầng của Modal không bị ảnh hưởng.

Trước đó, phân tích kỹ thuật do Hugging Face công bố cho thấy AI Agent của OpenAI sau khi vượt qua các giới hạn được thiết lập trong quá trình thử nghiệm đã tiếp tục khai thác lỗ hổng trong hạ tầng của bên thứ ba để truy cập môi trường bên ngoài phục vụ thử nghiệm.

Trang tin Axios dẫn lời các nguồn thạo tin cho biết tài khoản bị truy cập có liên quan đến dự án CyberGym. Dự án này phát triển một nền tảng kiểm thử tấn công – phòng thủ AI mang tên ExploitGym nhằm đánh giá khả năng của AI trong việc phát hiện và khai thác các lỗ hổng hệ thống. AI Agent của OpenAI khi đó đang được đưa vào thử nghiệm trên nền tảng này.

Sau đó, OpenAI cập nhật tuyên bố, cho biết sự việc lần này không liên quan đến bất kỳ mô hình AI mới nào sắp được công bố. Tuy nhiên, quá trình điều tra phát hiện một số ít mô hình đã tự tìm kiếm và sử dụng các thông tin xác thực tài khoản bị công khai trên Internet. Toàn bộ sự việc liên quan đến bốn tài khoản trên bốn nền tảng dịch vụ khác nhau. OpenAI cho biết sẽ tiếp tục tăng cường nhận diện, đánh giá và phòng ngừa các rủi ro tiềm ẩn từ những hệ thống AI có năng lực cao.

Altman: Có thể cần làm chậm tốc độ phát triển AI

Sự việc cũng khiến OpenAI phải xem xét lại tốc độ phát triển các mô hình AI tiên tiến. Trong một chương trình podcast gần đây, Giám đốc điều hành OpenAI Sam Altman cho biết công ty đã tạm dừng huấn luyện một số mô hình để rà soát lại các biện pháp an toàn.

Ông Altman nhận định, khi năng lực AI tiếp tục phát triển nhanh chóng, trong tương lai có thể cần làm chậm tốc độ phát triển công nghệ ở mức phù hợp nhằm tạo thêm thời gian để xã hội xây dựng các cơ chế bảo vệ và quản trị tương ứng, qua đó ứng phó với những rủi ro mới do AI có năng lực cao mang lại.

Hiện ông Altman đang thăm Washington và dự kiến sẽ gặp các quan chức Nhà Trắng, Bộ Tài chính, Bộ Thương mại cùng các nghị sĩ của cả hai đảng. Đồng thời, OpenAI cũng đang tích cực vận động chính phủ Mỹ phê duyệt việc công bố thế hệ mô hình AI hiệu năng cao mới của hãng.

Hơn 1.100 nhân viên AI kêu gọi Mỹ tăng cường quản trị

Trong bối cảnh sự việc tiếp tục thu hút sự chú ý, hơn 1.100 nhân viên đến từ OpenAI, Anthropic, Meta, Google và nhiều công ty công nghệ khác đã cùng ký tên vào một tuyên bố công khai, kêu gọi chính phủ Mỹ hỗ trợ xây dựng cơ chế hợp tác quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để quản lý AI tiên tiến, đồng thời thúc đẩy hình thành khuôn khổ quản trị toàn cầu đối với sự phát triển có trật tự của AI.

Theo Reuters, sáng kiến mang tên “Pacing the Frontier” (“Phát triển AI tiên tiến một cách có trật tự”) được khởi xướng và hỗ trợ bởi hai tổ chức phi lợi nhuận của Mỹ chuyên về quản trị an toàn AI là Guidelight AI Standards (tổ chức xây dựng tiêu chuẩn an toàn AI) và Encode AI (tổ chức thúc đẩy chính sách công về AI).

Những người ký tên gồm có Giám đốc điều hành Anthropic Dario Amodei, Giám đốc Khoa học OpenAI Jakub Pachocki và Phó Chủ tịch phụ trách nghiên cứu AI của Meta Dawn Song cùng nhiều nhân vật trong ngành.

Bức thư ngỏ nêu rõ, khi năng lực của AI tiên tiến phát triển quá nhanh, các cơ chế an toàn, quản trị và giám sát hiện nay có thể không theo kịp. Vì vậy, các bên kêu gọi chính phủ Mỹ hỗ trợ hợp tác quốc tế để phát triển các công cụ kỹ thuật và quản trị phục vụ việc quản lý AI tiên tiến, giúp tốc độ phát triển AI phù hợp với mức độ sẵn sàng của xã hội về an toàn.

OpenAI phản hồi trên nền tảng X rằng trong tương lai, năng lực của các mô hình AI tiên tiến có thể tăng nhanh đến mức thế giới cần điều chỉnh nhịp độ phát triển AI một cách hợp lý, nhằm bảo đảm xã hội có đủ thời gian xây dựng các cơ chế an toàn và quản trị cần thiết.

Anthropic cũng cho biết nghiên cứu về AI tự cải tiến theo phương thức đệ quy (Recursive Self-Improvement) mà hãng công bố tháng trước đã chỉ ra sự cần thiết phải xây dựng các công cụ kỹ thuật và quản trị tương ứng để điều tiết hợp lý tốc độ phát triển AI tiên tiến, tạo thêm thời gian để xã hội chuẩn bị.

Ngoài ra, Nvidia mới đây thông báo đã liên kết với Adobe, CrowdStrike cùng nhiều doanh nghiệp khác thành lập một liên minh nhằm phát triển các công nghệ bảo mật AI và an ninh mạng. Đây được xem là một trong những động thái mới nhất cho thấy ngành công nghệ đang đẩy mạnh hợp tác trong lĩnh vực an toàn AI.

Vương Quân Nghi/ Epoch Times