Anthropic cảnh báo AI đang bị dùng để phát triển vũ khí và virus sinh học

Ngày 10/9, công ty trí tuệ nhân tạo (AI) hàng đầu của Mỹ Anthropic công bố một báo cáo tình báo về mối đe dọa dài gần 150 trang, cho biết AI tạo sinh đã chuyển từ công cụ thử nghiệm sang các ứng dụng thực tế như tấn công mạng, giám sát của nhà nước, phát triển vũ khí và nghiên cứu sinh học có nguy cơ cao. Báo cáo nhiều lần đề cập các hoạt động độc hại có liên quan đến Đảng Cộng sản Trung Quốc (ĐCSTQ).

Báo cáo cho biết trong 8 tháng qua, công ty phát hiện nhiều nhóm đối tượng sử dụng tài khoản giả hoặc bị đánh cắp, VPN và các dịch vụ trung gian để vượt qua những hạn chế về địa lý và an toàn, đồng thời sử dụng Claude để tự động hóa các cuộc tấn công mạng, hoạt động giám sát, tuyên truyền, nghiên cứu vũ khí và các công việc nghiên cứu khoa học có thể gây rủi ro về an toàn sinh học. Anthropic cho biết đã ngăn chặn tất cả các trường hợp được nêu trong báo cáo, cấm các tài khoản liên quan và thông báo cho các cơ quan chính phủ cùng các tổ chức trong ngành.

Báo cáo nhiều lần đề cập các hoạt động độc hại liên quan đến Trung Quốc. Anthropic cho biết các đối tượng có liên hệ với cơ quan an ninh của ĐCSTQ đã sử dụng Claude để phân tích quy mô lớn nội dung trên mạng xã hội trong nước, sàng lọc những thông tin nhạy cảm về chính trị và xác định các đối tượng có khả năng bị giám sát.

Trưởng bộ phận tình báo mối đe dọa của Anthropic, Jacob Klein, cho biết mục đích công bố báo cáo không phải là phóng đại rủi ro, mà nhằm cảnh báo rằng công nghệ hiện nay đã bị một số thực thể sử dụng vào mục đích xấu.

“Ngày nay, các quốc gia độc tài đang sử dụng AI để giám sát, đàn áp và tiến hành các hoạt động gây ảnh hưởng. Đây không còn là giả thuyết nữa,” Klein nói.

Báo cáo cảnh báo rằng AI tạo sinh đang làm giảm ngưỡng chuyên môn cần thiết để thực hiện giám sát cấp nhà nước, kỹ thuật vũ khí, tấn công mạng và nghiên cứu nguy hiểm. Xu hướng này không còn chỉ xuất hiện ở những mô hình mạnh nhất thế hệ tiếp theo, mà đã xuất hiện trong các hệ thống AI thương mại hóa và được cung cấp rộng rãi. Hơn nữa, sau khi Anthropic phát hiện và ngăn chặn các hoạt động độc hại, một số đối tượng không dừng lại mà chuyển sang các mô hình nguồn mở.

Trường hợp Trung Quốc: Từ phân tích thủ công sang giám sát có AI hỗ trợ

Anthropic phát hiện các quốc gia tiến hành giám sát đang đưa AI từ công cụ thử nghiệm vào hoạt động giám sát thường nhật của nhà nước.

Báo cáo cho biết một cơ quan an ninh quốc gia của ĐCSTQ thậm chí đã xây dựng sổ tay nội bộ hướng dẫn cách sử dụng AI cho các hoạt động giám sát. Một số quan chức khác sử dụng Claude để tự động tạo các báo cáo tình báo thường kỳ và truy vấn cơ sở dữ liệu giám sát của chính phủ.

Báo cáo nêu ví dụ một cơ quan tình báo về công tác tôn giáo của ĐCSTQ sử dụng Claude để hỗ trợ thu thập và phân tích dữ liệu, rút gọn công việc trước đây cần “nhiều nhóm phân tích” thực hiện xuống còn một văn phòng, sử dụng AI để hoàn thành hàng ngàn báo cáo điều tra mỗi tháng.

Anthropic tiết lộ một “chiến dịch tình báo về công tác tôn giáo có trụ sở tại Trung Quốc” (mã theo dõi GTG-14020), nhắm vào các nhóm tôn giáo mà ĐCSTQ giám sát lâu nay, bao gồm Công giáo, Phật giáo Tây Tạng, Pháp Luân Công và các nhóm Cơ Đốc giáo tại Đài Loan. ĐCSTQ sử dụng Claude để xử lý lượng lớn thông tin công khai trên Internet, như thu thập dữ liệu từ website, nền tảng mạng xã hội và các nguồn công khai khác; tiến hành dịch, tóm tắt, phân loại, phân tích mối liên hệ giữa cá nhân và tổ chức, từ đó hình thành hệ thống thông tin tình báo về các cộng đồng tôn giáo có thể liên tục được truy vấn và phân tích.

Trưởng bộ phận tình báo mối đe dọa của Anthropic Jacob Klein cho biết AI giúp các thực thể này thực hiện công tác giám sát thuận tiện hơn, nhanh hơn và dễ mở rộng quy mô hơn.

Báo cáo cho biết các đối tượng liên quan đến ĐCSTQ từng sử dụng Claude để phân tích lượng lớn dữ liệu mạng xã hội trong nước, đánh giá mức độ nhạy cảm chính trị của các bài đăng và lựa chọn những đối tượng có thể cần được “kiểm soát”.

Anthropic cho biết những người có liên hệ với chính phủ cũng sử dụng Claude để hỗ trợ các hoạt động giám sát tại Mali và Iran.

Lo ngại về phát triển vũ khí và an toàn sinh học

Anthropic cho biết đã ngăn chặn một nhóm đối tượng ở miền Bắc Yemen sử dụng Claude để tham gia phát triển 3 dự án vũ khí, liên quan đến rocket dẫn đường, tên lửa đạn đạo nhiều tầng và tên lửa lướt siêu vượt âm. Công ty cũng tiết lộ một đối tượng làm việc tự do tại Nga đã cố sử dụng Claude để phát triển máy bay không người lái có khả năng tự động thực hiện các cuộc tấn công tự sát.

Anthropic cho biết đã phát hiện nhiều trường hợp sử dụng Claude để hỗ trợ thiết kế, phát triển vũ khí thông thường hoặc hỗ trợ hoạt động mua sắm và tình báo. Trong 6 trường hợp được công khai, 3 trường hợp xảy ra tại Trung Quốc, 2 trường hợp liên quan đến Nga và 1 trường hợp liên quan đến Yemen.

Anthropic đồng thời tiết lộ rằng trong năm nay, công ty phát hiện 5 trường hợp nghiên cứu sinh học có nguy cơ cao đến từ các khu vực nước ngoài không được nêu tên, trong đó những người liên quan bị nghi sử dụng Claude để nghiên cứu các mầm bệnh nguy hiểm.

Một trường hợp liên quan đến đơn xin tài trợ cho nghiên cứu tăng chức năng của một loại virus gây chết người lây truyền qua muỗi. Anthropic cho biết nghiên cứu này có thể được sử dụng để phát triển vaccine, nhưng gây lo ngại vì kế hoạch nghiên cứu được tiến hành tại một cơ sở nghiên cứu quân sự. Các trường hợp khác bao gồm nghiên cứu những hợp chất có thể được sử dụng cho mục đích điều trị hoặc chế tạo chất độc, cũng như một nhà nghiên cứu bên ngoài nước Mỹ tiến hành trong thời gian dài các thí nghiệm về khả năng thích nghi của virus cúm gia cầm có độc lực cao.

Báo cáo cho biết những người liên quan đã né tránh các hạn chế về địa lý và cố làm mờ mục đích nghiên cứu nhằm vượt qua các biện pháp bảo vệ an toàn, từ đó làm dấy lên cảnh báo.

Logan Graham, người đứng đầu Frontier Red Team của Anthropic, cho biết đặc biệt quan tâm đến những trường hợp lạm dụng sinh học được đề cập trong báo cáo.

“Chúng ta đã đến thời điểm mà AI (thiếu các biện pháp bảo đảm và giám sát) thực sự tạo ra rủi ro an ninh quốc gia,” ông viết trên mạng xã hội X.

“Chúng tôi đang nỗ lực ngăn điều này xảy ra. Nhưng trong một thế giới nơi công nghệ đang lan rộng, chúng ta cần nhanh chóng xây dựng hệ thống phòng thủ để ứng phó,” Graham nói thêm. Ông lãnh đạo nhóm phụ trách kiểm thử sức chịu đựng của các hệ thống AI tiên tiến nhất của Anthropic.

Các công ty Trung Quốc quy mô lớn thực hiện hoạt động chưng cất trái phép

Anthropic cho biết Claude bị hạn chế truy cập tại Trung Quốc, Nga, Iran và một số nơi khác, nhưng các đối tượng liên quan đã sử dụng VPN, tài khoản gian lận hoặc bị đánh cắp, cùng các dịch vụ trung gian hỗ trợ người dùng vượt qua hạn chế về địa lý và an toàn để tiếp cận năng lực của mô hình. Điều này cho thấy rủi ro AI không chỉ phụ thuộc vào việc mô hình có được công khai hay không, mà còn liên quan đến nguy cơ lạm dụng hoạt động xác minh tài khoản, dịch vụ đám mây, mạng lưới proxy và các dịch vụ trung gian xuyên biên giới.

Anthropic cho biết kể từ khi lần đầu công bố về các “cuộc tấn công chưng cất” nhằm vào Claude hồi tháng Hai, công ty đã phát hiện và ngăn chặn thêm các hoạt động chưng cất từ 7 phòng thí nghiệm ở Trung Quốc.

“Cuộc tấn công chưng cất” là việc các đối tượng liên tục đặt những câu hỏi có cấu trúc cho một mô hình tiên tiến, thu thập kết quả đầu ra nhằm cố gắng trích xuất hoặc sao chép năng lực của mô hình để sử dụng trong việc huấn luyện các hệ thống cạnh tranh.

Các công ty Trung Quốc được Anthropic nêu tên gồm Alibaba, Moonshot, DeepSeek, Zhipu AI, SenseTime và MiniMax.

Klein cho biết Anthropic đã cấm tất cả các tài khoản được phát hiện có liên quan đến hoạt động giám sát, đồng thời tăng cường các biện pháp bảo vệ an toàn dựa trên từng trường hợp.