Nhà Trắng mời 4 “ông lớn” AI bàn về khuôn khổ thử nghiệm an toàn mô hình AI

Nhà Trắng sẽ mời các công ty trí tuệ nhân tạo (AI) hàng đầu của Mỹ gồm Meta, Anthropic, OpenAI và Google tham dự cuộc họp vào thứ Ba (4/8) để thảo luận về khung thử nghiệm an ninh mạng tự nguyện đối với các mô hình AI tiên tiến mà chính quyền Tổng thống Donald Trump vừa hoàn thiện.

Cuộc họp lần này là bước triển khai tiếp theo sau sắc lệnh hành pháp do Tổng thống Trump ký ngày 2/6. Sắc lệnh yêu cầu chính phủ xây dựng một bộ tiêu chuẩn đánh giá mật nhằm đo lường năng lực an ninh mạng của các mô hình AI tiên tiến và xác định mô hình nào đạt ngưỡng của khuôn khổ thử nghiệm tự nguyện này.

Chính phủ được tiếp cận mô hình trước 30 ngày, tiêu chuẩn đánh giá được giữ bí mật

Theo khuôn khổ trên, các nhà phát triển tham gia chương trình có thể cho phép chính phủ tiếp cận mô hình AI của mình tối đa 30 ngày trước khi cung cấp cho các đối tác đáng tin cậy khác, nhằm đánh giá khả năng phát hiện lỗ hổng phần mềm hoặc tiến hành các cuộc tấn công mạng phức tạp của mô hình.

Sắc lệnh hành pháp nêu rõ, cơ chế tự nguyện này không được biến thành một hệ thống cấp phép, phê duyệt trước hoặc cấp giấy phép bắt buộc của chính phủ đối với việc phát triển, công bố, phát hành hay phân phối các mô hình AI mới.

Đồng thời, sắc lệnh cũng yêu cầu Bộ Tài chính Mỹ, Cơ quan An ninh Quốc gia (NSA) và Cơ quan An ninh mạng và An ninh Hạ tầng (CISA) xây dựng quy trình thử nghiệm theo các tiêu chuẩn bảo mật. Các tiêu chuẩn đánh giá và ngưỡng áp dụng dự kiến sẽ không được công khai.

AI tự vượt khỏi môi trường thử nghiệm làm dấy lên lo ngại về an toàn

Cuộc họp diễn ra trong bối cảnh khả năng tự chủ ngày càng cao của các hệ thống AI đang khiến giới chính trị và ngành công nghệ quan ngại.

OpenAI gần đây tiết lộ rằng một tác nhân AI thử nghiệm (AI agent) đã vượt qua môi trường thử nghiệm bị giới hạn khi tìm cách lấy đáp án của bài đánh giá an ninh mạng và xâm nhập hệ thống của nền tảng AI Hugging Face.

Hôm thứ Hai, Tổng giám đốc Hugging Face Clément Delangue nói với CNBC rằng vụ việc cho thấy những rủi ro do các hệ thống AI ngày càng có tính tự chủ cao mang lại.

Tuần trước, Anthropic cũng cho biết một số mô hình AI của công ty đã xâm nhập hệ thống của 3 doanh nghiệp trong quá trình thử nghiệm an ninh mạng.

15 tổng chưởng lý bang yêu cầu lưu giữ hồ sơ, Quốc hội yêu cầu báo cáo

Liên quan đến sự việc OpenAI công bố, một nhóm gồm 15 tổng chưởng lý thuộc Đảng Cộng hòa hôm thứ Hai đã yêu cầu OpenAI lưu giữ toàn bộ tài liệu có liên quan.

Dẫn các thông tin trên truyền thông, nhóm này cho biết trong một sự cố, một “tác nhân AI mất kiểm soát” đã để lại hướng dẫn cho các phiên bản AI trong tương lai về cách vượt qua các hàng rào bảo mật nội bộ. Họ cho rằng OpenAI có thể đã vi phạm luật bảo vệ người tiêu dùng của các bang.

Cùng ngày, Ủy ban An ninh mạng của Hạ viện Mỹ cũng yêu cầu Tổng giám đốc OpenAI Sam Altman báo cáo với ủy ban về vụ xâm nhập hệ thống Hugging Face.

OpenAI đề cập chiến lược AI của Trung Quốc, kêu gọi thống nhất tiêu chuẩn liên bang

Trong một tuyên bố khác, OpenAI cho biết công ty đã đề nghị chính quyền Trump để các chuyên gia an toàn AI thuộc Bộ Thương mại Mỹ giữ vai trò trung tâm trong mọi hoạt động thử nghiệm an ninh mạng.

OpenAI cũng đề cập đến sự phát triển AI của Trung Quốc, cho rằng chính quyền ĐCSTQ đang áp dụng một chiến lược tập trung hơn so với Mỹ trong lĩnh vực này.

Trước đó, OpenAI từng nhấn mạnh rằng việc xây dựng một bộ tiêu chuẩn thống nhất ở cấp liên bang sẽ giúp Mỹ duy trì vị thế dẫn đầu về đổi mới sáng tạo và xây dựng một hệ sinh thái AI dân chủ do Mỹ dẫn dắt.

Theo công ty, AI tiên tiến liên quan trực tiếp đến an ninh quốc gia, năng lực cạnh tranh kinh tế và an toàn công cộng, vì vậy việc đánh giá các công nghệ này nên do các chuyên gia liên bang có đủ nguồn lực, chuyên môn và quyền tiếp cận các hệ thống mật thực hiện.

Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, cho biết trong một tuyên bố: “Chúng tôi tin rằng để bảo đảm AI mang lại lợi ích cho số đông chứ không phải chỉ cho một nhóm nhỏ, cách phù hợp nhất là để một chính phủ dân chủ đưa ra các quyết định then chốt, bắt đầu từ vấn đề an toàn của AI tiên tiến, thay vì chỉ để các phòng thí nghiệm AI tiên tiến tự quyết định”.

Đáng chú ý, Anthropic trước đây từng xảy ra bất đồng với chính quyền Trump. Đầu năm nay, công ty đã từ chối cho phép quân đội Mỹ sử dụng mô hình AI của mình cho hoạt động giám sát trong nước và các hệ thống vũ khí hoàn toàn tự động, sau đó bị chính quyền đưa vào danh sách đen về an ninh quốc gia.

Dù vậy, Anthropic vẫn được mời tham dự cuộc họp lần này. Một quan chức Nhà Trắng cho biết chính quyền Trump luôn hợp tác với nhiều đối tác trong toàn ngành AI.