OpenIA đóng loạt tài khoản của ĐCSTQ vì nghi lạm dụng ChatGPT để giám sát

Ngày 7/10, OpenAI công bố Báo cáo Đe dọa Công cộng mới nhất, xác nhận đã đóng một số tài khoản ChatGPT bị nghi liên quan đến các cơ quan chính quyền Trung Quốc. Các tài khoản này bị cáo buộc sử dụng AI để phát triển công cụ giám sát quy mô lớn, hỗ trợ lừa đảo và tiến hành các hoạt động vi phạm chính sách an ninh quốc gia của OpenAI.

Mối đe dọa từ công nghệ AI bị lạm dụng bởi các chế độ độc tài

Báo cáo nhấn mạnh nguy cơ an ninh khi các quốc gia độc tài như Trung Quốc lợi dụng AI, trong bối cảnh cạnh tranh ngày càng gay gắt giữa Hoa Kỳ và Trung Quốc về phát triển và kiểm soát công nghệ AI.

OpenAI cảnh báo: “Chính quyền Trung Quốc (ĐCSTQ) đang đạt được những tiến bộ đáng kể trong việc phát triển phiên bản AI độc đoán của mình”, đồng thời nhấn mạnh sự cần thiết phải cảnh giác trước việc công nghệ bị lạm dụng dưới các chế độ toàn trị.

Các vi phạm chính: Lạm dụng AI cho mục đích giám sát

Theo OpenAI, các tài khoản bị chặn đã yêu cầu hỗ trợ phát triển những công cụ giám sát nhạy cảm, vi phạm nghiêm trọng chính sách sử dụng:

1. Công cụ giám sát mạng xã hội:

Một tài khoản đã yêu cầu ChatGPT giúp thiết kế tài liệu quảng cáo và kế hoạch phát triển một công cụ AI thu thập dữ liệu từ các nền tảng như X, Facebook, Instagram, Reddit, TikTok và YouTube. Công cụ này được mô tả là để phát hiện các nội dung cực đoan, phân biệt sắc tộc, tôn giáo và chính trị, và được cho là phục vụ khách hàng chính phủ.

2. Mô hình cảnh báo sớm theo dõi người Duy Ngô Nhĩ:

Một tài khoản khác – bị nghi có liên hệ với cơ quan thuộc Đảng Cộng sản Trung Quốc – đã đề xuất xây dựng một “mô hình cảnh báo sớm” nhằm phân tích vé xe, dữ liệu di chuyển, và so sánh với cơ sở dữ liệu cảnh sát để giám sát người Duy Ngô Nhĩ. Đây là hành vi vi phạm nghiêm trọng các nguyên tắc đạo đức và chính sách sử dụng AI của OpenAI.

Hành vi độc hại khác: Lừa đảo, phát triển phần mềm độc hại và nghiên cứu đối thủ

Ngoài hoạt động giám sát, các tài khoản này còn thực hiện các hành vi độc hại khác:

• Tạo điều kiện cho chiến dịch lừa đảo và phần mềm độc hại:
  Một số tài khoản sử dụng tiếng Trung đã dùng ChatGPT để viết mã và nội dung hỗ trợ lừa đảo hoặc phát triển phần mềm độc hại.

• Nghiên cứu đối thủ AI:
  Các tài khoản này còn yêu cầu ChatGPT nghiên cứu công ty AI Trung Quốc DeepSeek, nhằm tìm hiểu khả năng tự động hóa và học hỏi công nghệ.

Đe dọa từ các khu vực khác và nỗ lực ngăn chặn của OpenAI

Bên cạnh Trung Quốc, báo cáo cũng cho biết OpenAI đã vô hiệu hóa nhiều tài khoản liên quan đến các nhóm nói tiếng Nga, bị nghi sử dụng AI để phát triển phần mềm độc hại, trong đó có trojan truy cập từ xa và công cụ đánh cắp thông tin đăng nhập.

Tính đến nay, OpenAI đã chặn hơn 40 tài khoản kể từ khi bắt đầu công bố báo cáo mối đe dọa từ tháng 2/2024. Hệ thống đã từ chối hàng loạt yêu cầu độc hại, và không có bằng chứng cho thấy các mô hình AI của OpenAI giúp tạo ra các phương thức tấn công mạng mới.

OpenAI không cung cấp dịch vụ tại Trung Quốc, nhưng người dùng vẫn truy cập được

Mặc dù những tài khoản vi phạm có liên quan tới Trung Quốc, OpenAI nhấn mạnh rằng họ không chính thức cung cấp dịch vụ tại Trung Quốc đại lục. Những người dùng này có thể đã sử dụng VPN hoặc các phương thức vượt kiểm duyệt để truy cập ChatGPT.

Cảnh báo về tương lai của AI và trách nhiệm toàn cầu

OpenAI cho rằng lạm dụng AI đang là một vấn đề toàn cầu, không chỉ xảy ra ở một quốc gia hay khu vực cụ thể. Báo cáo lần này được xem là lời cảnh tỉnh về việc đảm bảo AI không bị lợi dụng cho mục đích giám sát, đàn áp hay phạm pháp.

Công ty cam kết sẽ tiếp tục giám sát, báo cáo và ngăn chặn các hoạt động sử dụng AI sai mục đích, đồng thời củng cố hệ thống an ninh và kiểm duyệt để bảo vệ cộng đồng người dùng toàn cầu.