Ứng dụng kết bạn TQ dùng AI sản xuất hàng loạt “người tình giả”, nhắm vào người Mỹ
- Cao Sam
- •
Công ty trí tuệ nhân tạo (AI) hàng đầu của Mỹ Anthropic hôm thứ Năm (10/9) công bố báo cáo tình báo về các mối đe dọa mới nhất, dài gần 150 trang. Báo cáo tiết lộ trường hợp một ứng dụng kết bạn của Trung Quốc sử dụng mô hình AI Claude để tạo ra hàng nghìn “người tình giả bằng AI”, nhắm mục tiêu vào người dùng Mỹ.
Ứng dụng kết bạn Trung Quốc dùng AI sản xuất hàng loạt “người tình giả”
Theo báo cáo được Anthropic công bố trên website chính thức, phần GTG-15001 trình bày một trường hợp điều tra cho thấy một studio phát triển ứng dụng có trụ sở tại Trung Quốc đã sử dụng mô hình Claude để xây dựng một hệ sinh thái gồm hơn 20 ứng dụng kết bạn.
Báo cáo cho biết các ứng dụng kết bạn này nhắm tới người dùng Mỹ. Phần lớn những đối tượng mà người dùng tương tác trên các ứng dụng không phải người thật mà là những nhân vật ảo do AI tạo ra.
Theo số liệu trong báo cáo, trong thời gian quan sát kéo dài hai tuần vào tháng 4/2026, studio này đã triển khai hơn 4.700 nhân vật AI khác nhau để trò chuyện với ít nhất 25.000 người dùng. Trung bình, mỗi danh tính giả do AI tạo ra tương tác với ít nhất 5 người dùng thật.
Đáng chú ý, các ứng dụng kết bạn này quảng cáo với người dùng rằng đối tượng trò chuyện “hoàn toàn là người dùng thật”. Tuy nhiên, trên luồng ghép đôi (Match Feed) hiển thị cho người dùng, khoảng 75% là các nhân vật do Claude điều khiển, trong khi 25% là những lao động tự do được tuyển dụng ngoài đời thực, tạo thành tỷ lệ 3:1 giữa AI và người thật. Trong quá trình tương tác, hai nhóm này gần như không thể phân biệt.
Người thật phối hợp với AI để xóa tan nghi ngờ của người dùng
Các nhân vật AI được chỉ thị không được tiết lộ rằng họ là phần mềm tự động và phải dẫn dắt cuộc trò chuyện theo những giai đoạn đã được thiết lập trước.
Khi nạn nhân của vụ lừa đảo bắt đầu nghi ngờ danh tính hoặc tính xác thực của người đang trò chuyện, yêu cầu gọi video hoặc muốn kết bạn trên mạng xã hội, studio này sẽ cử nhân viên thật vào “giải cứu”, trực tiếp thực hiện cuộc gọi video hoặc tương tác trên mạng xã hội với nạn nhân.
Một phần lời thoại và nội dung phản hồi mà những nhân viên thật sử dụng trong quá trình trò chuyện cũng được một mô hình AI khác tạo sẵn. Trước khi nhân viên thật xuất hiện, hệ thống AI còn tự động tạo lượt thích giả, lịch sử khách truy cập, thậm chí tạo video được ghi hình trước để giả làm cuộc gọi video.
Phân công công nghệ và mô hình kiếm tiền
Studio phát triển ứng dụng này có sự phân công công nghệ rõ ràng. Claude chịu trách nhiệm duy trì các cuộc hội thoại tự động. Trong hai tuần nói trên, Claude đã tạo khoảng 2,36 triệu tin nhắn, duy trì hàng nghìn nhân vật AI trò chuyện đồng thời.
Một mô hình AI quy mô nhỏ khác, không thuộc Anthropic, cung cấp cho nhân viên thật các đề xuất phản hồi nhanh, đánh giá ngoại hình và kiểm tra việc đọc lời thoại theo kịch bản. Trong khi đó, một mô hình AI tạo hình ảnh chuyên tạo ảnh đại diện ảo.
Người dùng phải mua tiền ảo trong ứng dụng để sử dụng các tính năng nhắn tin và ghép đôi, vốn liên tục tiêu hao hạn mức. Những nhân viên làm việc tự do của studio được trả tiền dựa trên số lần nhắn tin, gọi video và kết nối với nhau trên mạng xã hội. Khi đạt một ngưỡng tương đối thấp, họ có thể rút tiền.
Né tránh kiểm duyệt và biện pháp xử lý sau đó
Các ứng dụng kết bạn của Trung Quốc này cố tình đặt tên lớp (Class Name) khác nhau cho hơn 20 biến thể ứng dụng. Ngoài ra, ứng dụng còn tích hợp trình duyệt để chuyển thanh toán sang các đơn vị xử lý thanh toán bên thứ ba, qua đó né tránh cơ chế kiểm duyệt của cửa hàng Apple và Google. Tính năng này có thể được cấu hình từ xa ở phía máy chủ và ẩn đi trong thời gian kiểm tra.
Studio này cũng sử dụng dịch vụ đại lý bán lại quyền truy cập API AI của Trung Quốc để luân phiên lấy quyền truy cập các mô hình AI, qua đó né tránh những hạn chế về khu vực và chính sách sử dụng.
Hiện Anthropic đã chặn các tài khoản và tổ chức liên quan, đồng thời chia sẻ thông tin thu thập được với Apple, Google và các công ty AI khác nhằm phối hợp ngăn chặn những hành vi lạm dụng AI tiếp theo.
Nhóm điều tra của Anthropic nhận định rằng mặc dù trường hợp này không sử dụng bất kỳ phương thức lạm dụng AI hoàn toàn mới nào, quy mô của hoạt động vẫn đáng lo ngại, cho thấy chuỗi công nghiệp lừa đảo kiểu này đang có xu hướng phát triển theo hướng “sản xuất hàng loạt ở quy mô công nghiệp”.
Từ khóa lừa đảo ứng dụng hẹn hò ứng dụng hẹn hò lừa đảo

































