Quan chức Mỹ: Mô hình AI Mythos đã phát hiện lỗ hổng trong các hệ thống mật của Mỹ

Ngày 23/6, một quan chức Mỹ tiết lộ với truyền thông rằng mô hình AI Mythos 5 do công ty Anthropic phát triển đã phát hiện các lỗ hổng trong một hệ thống máy tính tuyệt mật của chính phủ Mỹ trong một cuộc thử nghiệm bảo mật. Thông tin này tiếp tục làm dấy lên đồn đoán rằng quyết định gần đây của Washington hạn chế quyền truy cập vào Mythos 5 có thể liên quan đến khả năng phát hiện lỗ hổng vượt trội của mô hình này, dù giới chức chưa xác nhận có mối liên hệ trực tiếp giữa hai sự việc.

Vị quan chức giấu tên cho biết với AP rằng đã hợp tác với các cơ quan tình báo Mỹ để sử dụng mô hình Mythos nhằm kiểm tra lỗ hổng trong các hệ thống máy tính. Theo ông, chỉ trong vài giờ, mô hình đã phát hiện được một số điểm yếu bảo mật. Tuy nhiên, điều đó không đồng nghĩa với việc AI này có thể “trực tiếp khai thác” các lỗ hổng đó và tiến hành tấn công mạng trong thời gian ngắn.

Quan chức này cho biết cuộc thử nghiệm được thực hiện thông qua “Dự án Glasswing” (Project Glasswing) do Anthropic khởi xướng. Dự án quy tụ nhiều tập đoàn công nghệ lớn, trong đó có Google, nhằm bảo vệ các hệ thống vận hành trọng yếu trên toàn cầu trước những “tác động nghiêm trọng” mà Mythos có thể tạo ra. Các hệ thống này liên quan đến cơ sở hạ tầng thiết yếu phục vụ an toàn công cộng, an ninh quốc gia và hoạt động kinh tế.

Trên thực tế, chỉ một ngày trước khi thông tin này được tiết lộ, Liên minh Ngũ Nhãn đã cảnh báo rằng các mô hình AI tiên tiến có thể chỉ trong vài tháng sẽ vượt qua và “làm đảo lộn” các hệ thống phòng thủ an ninh mạng của chính phủ và doanh nghiệp trên toàn thế giới, đồng thời kêu gọi khẩn cấp triển khai các biện pháp đối phó.

Thượng nghị sĩ Mark Warner của bang Virginia từng đề cập tới cuộc thử nghiệm này trong phiên điều trần của Ủy ban Ngân hàng, Nhà ở và Các vấn đề Đô thị Thượng viện hôm 11/6.

Ông Warner khi đó cho biết: “Công cụ này đã vượt qua phần lớn các lớp phòng vệ của những hệ thống tuyệt mật trong các cuộc thử nghiệm mô phỏng, và thời gian cần thiết không phải là vài tuần mà chỉ là vài giờ”. Ông nói thêm rằng thông tin này đến từ Tướng Joshua Rudd, người đứng đầu National Security Agency (NSA) kiêm Bộ Tư lệnh Không gian mạng Mỹ.

Cả NSA và Anthropic đều từ chối bình luận về vụ việc.

Hơn 100 lãnh đạo an ninh mạng kêu gọi Mỹ dỡ bỏ lệnh cấm

Trong nhiều năm qua, Anthropic luôn chủ trương rằng việc phát triển các mô hình AI tiên tiến cần đi kèm với cơ chế đánh giá và quản trị an toàn nghiêm ngặt hơn. Công ty lo ngại việc AI phát triển quá nhanh có thể khiến công nghệ này vượt khỏi khả năng kiểm soát của con người, thậm chí tự cải tiến và tự lặp lại quá trình phát triển, gây ra những rủi ro nghiêm trọng trong tương lai.

Trước đó, chính quyền của Donald Trump lo ngại các đối tượng xấu có thể sử dụng Mythos 5 để tìm kiếm lỗ hổng trong hệ điều hành, hệ thống ngân hàng và các cơ sở hạ tầng trọng yếu khác. Vì vậy, Washington đã yêu cầu Anthropic ngừng cung cấp quyền truy cập vào hai mô hình AI Fable 5 và Mythos 5 cho người dùng nước ngoài.

Do gặp khó khăn trong việc xác minh quốc tịch người dùng, Anthropic đã quyết định tạm ngừng quyền truy cập đối với toàn bộ người dùng từ ngày 12/6.

Liên quan đến quyết định này, Anthropic cho biết chính phủ Mỹ tin rằng đã xuất hiện phương pháp “bẻ khóa” (jailbreak) đối với Fable 5. Điều đó đồng nghĩa các cơ chế an toàn của mô hình có thể bị vô hiệu hóa, khiến nó trở nên nguy hiểm tương tự Mythos 5.

Trong dòng mô hình Claude của Anthropic, Fable 5 được định vị là phiên bản ưu tiên tính an toàn, ổn định và độ tin cậy của kết quả đầu ra, trong khi Mythos 5 tập trung nhiều hơn vào khả năng sáng tạo, suy luận và năng lực tạo sinh nâng cao.

Tuy nhiên, hơn 100 chuyên gia và lãnh đạo trong lĩnh vực an ninh mạng, bao gồm các giám đốc cấp cao của Adobe và NVIDIA, mới đây đã ký tên vào một bức thư chung gửi chính phủ Mỹ, kêu gọi hủy bỏ lệnh hạn chế.

Bức thư cho rằng Mythos có năng lực rất mạnh trong việc phát hiện và thậm chí “vũ khí hóa” các lỗ hổng phần mềm, nhưng khả năng này không phải là duy nhất trên thị trường. Các chuyên gia cảnh báo rằng việc hạn chế những công cụ AI phòng thủ mạng tiên tiến nhất của Mỹ khi chưa có đầy đủ bằng chứng có thể làm suy giảm năng lực cạnh tranh của Washington trước các đối thủ trong lĩnh vực an ninh mạng toàn cầu.