ChatGPT được dùng làm công cụ hỗ trợ giám sát mạng xã hội

Social Links đã dùng ChatGPT như một đặc vụ phát hiện các trao đổi trên mạng xã hội —ví dụ phát hiện chủ đề có thể ảnh hưởng an ninh xã hội— để đạt mục đích giám sát của công ty.

Nhiều người có thể biết đến cái tên Social Links, một công ty cung cấp dịch vụ giám sát, vì một vụ việc trước đây. Công ty này từng bị Meta/Facebook cáo buộc rằng đã tự động quét nội dung của Facebook/Instagram. Hiện nay, theo tạp chí Forbes báo cáo hôm Thứ Năm 16/11, Social Links lại được đưa tin khi vận dụng ChatGPT cho mục đích giám sát —có thể nói như một phần mềm gián điệp AI— để phát hiện ra các nội dung nhạy cảm trên mạng xã hội.

Trong bài thuyết trình tại hội nghị an ninh nội địa Milipol ở Paris hôm Thứ Ba, công ty giám sát trực tuyến Social Links đã trình diễn ChatGPT thực hiện “phân tích tình cảm”, trong đó AI đánh giá tâm trạng của người dùng mạng xã hội hoặc có thể nêu bật các chủ đề thường được thảo luận trong một nhóm. Điều đó sẽ giúp dự đoán liệu hoạt động trực tuyến ấy có dẫn tới bạo lực hay không, và phát cảnh báo để có hành động thực thi pháp luật.

Được thành lập bởi doanh nhân người Nga Andrey Kulikov vào năm 2017, Social Links hiện có văn phòng tại Hà Lan và New York; trước đó, Meta đã mệnh danh công ty này là nhà cung cấp phần mềm gián điệp vào cuối năm 2022, cấm 3.700 tài khoản Facebook và Instagram mà công ty này được cho là đã sử dụng để liên tục thu thập số liệu trên các trang xã hội. Công ty phủ nhận bất kỳ liên kết nào đến các tài khoản đó và khiếu nại Meta không gây tổn hại đến sự tăng trưởng được báo cáo của nó: giám đốc bán hàng của công ty Rob Billington cho biết công ty có hơn 500 khách hàng, một nửa trong số đó có trụ sở tại Châu Âu, chỉ hơn 100 khách hàng ở Bắc Mỹ. Việc Social Links đang sử dụng ChatGPT cho thấy ứng dụng đột phá của OpenAI vào năm 2023 có thể trao quyền cho ngành giám sát muốn quảng bá trí tuệ nhân tạo như một công cụ đảm bảo an toàn công cộng như thế nào.

“Vĩnh viễn sẽ không bao giờ có cách nào khiến AI trở nên không thiên vị…” — Andy Martin, kỹ sư Cellebrite.

Nhưng theo nhà phân tích chính sách cấp cao Jay Stanley của Liên minh Tự do Dân sự Hoa Kỳ, việc sử dụng các công cụ AI như ChatGPT để tăng cường giám sát trên mạng xã hội có thể sẽ “mở rộng giám sát cá nhân đến một quy mô khổng lồ theo cách mà các giám sát của con người không bao giờ có thể thực hiện được”, ông nói với Forbes.

Đó là một vấn đề không chỉ vì kiểu nghe lén công nghệ này có thể khuếch đại những sai sót hoặc sai lệch. Ông Stanley nói thêm: Nó cũng có thể làm lạnh cuộc tranh luận trực tuyến vì mọi người đều cảm thấy “rằng họ đang bị theo dõi, không nhất thiết là bởi con người, mà bởi các tác nhân AI có khả năng báo cáo mọi việc cho con người, những người có thể gây ra hậu quả cho bạn.”

Nhà sản xuất ChatGPT OpenAI đã không trả lời yêu cầu bình luận. Chính sách sử dụng của nó cho biết họ không cho phép “hoạt động vi phạm quyền riêng tư của mọi người”, bao gồm “theo dõi hoặc giám sát một cá nhân mà không có sự đồng ý của họ”.

Hector Talavera, giám đốc truyền thông của Social Links cho biết: “Chúng tôi tuân thủ nghiêm ngặt các chính sách của OpenAI. Chúng tôi chỉ sử dụng ChatGPT để phân tích văn bản, bao gồm tóm tắt nội dung, xác định chủ đề, phân loại văn bản là tích cực, trung lập hoặc tiêu cực và đánh giá cảm xúc đối với các yếu tố khác nhau trong văn bản.” (Ông cũng nhắc lại một tuyên bố trước đó, trong đó công ty cho biết họ chưa bao giờ có bất kỳ mối quan hệ nào với Chính phủ Nga và Kulikov lên án việc Nga xâm lược Ukraine.)

Người phát ngôn của Meta, Ryan Brack, cho biết công ty có một đội ngũ hơn 100 người đang tập trung vào việc chống lại việc thu thập số liệu trái phép. Ông Brack nói: “Chúng tôi thực thi các chính sách của mình đối với những người quét số liệu trái phép, bao gồm cả hành động pháp lý, khi chúng tôi nhận thấy các điều khoản của mình đã bị vi phạm.”

Ông Talavera của Social Links chỉ trích Meta đã mắc lỗi khi gán ghép công ty với 3.700 tài khoản bị cấm, đồng thời nói thêm rằng công ty không thu thập số liệu hàng loạt trên mạng xã hội. Thay vào đó, người dùng yêu cầu Liên kết xã hội lấy các bài đăng có liên quan đến cuộc điều tra của họ, sau đó người dùng có thể phân tích trong giao diện người dùng của Liên kết xã hội. Số liệu sau đó được lưu trữ trên máy tính của người dùng chứ không phải trên máy chủ Liên kết xã hội. “Nó tiện lợi và hiệu quả hơn so với việc sử dụng Google và trình duyệt web, nhưng nhìn chung thì tương tự nhau,” ông Talavera nói thêm.

Nó vẫn là một công cụ mạnh mẽ để giám sát các hoạt động trực tuyến của mọi người, một công cụ được công ty quảng bá là hữu ích trong việc theo dõi các phong trào biểu tình. Trong bản demo hội nghị, nhà phân tích Bruno Alonso của Social Links đã sử dụng phần mềm này để đánh giá phản ứng trực tuyến đối với một thỏa thuận gây tranh cãi gần đây, do quyền thủ tướng Tây Ban Nha cắt giảm nhằm ân xá cho các chính trị gia Catalan đã cố gắng giành độc lập trong khu vực vào năm 2017. Công cụ này đã quét Twitter đối với các bài đăng chứa từ khóa và thẻ bắt đầu bằng #, bao gồm cả “ân xá” và chạy chúng thông qua ChatGPT, đánh giá tình cảm của họ là tích cực, tiêu cực hoặc trung lập, hiển thị kết quả trong biểu đồ tương tác. Công cụ này còn có khả năng tổng hợp, mổ xẻ nhanh chóng các cuộc thảo luận trực tuyến trên các nền tảng lớn như Facebook, chọn ra các chủ đề thường được thảo luận.

Theo bài trình bày của Alonso, trong Liên kết xã hội cũng có thể tìm kiếm các kết quả trùng khớp về nhận dạng khuôn mặt khi công cụ này đã gắn cờ rằng ai đó đang thể hiện cảm xúc “tiêu cực” trên mạng xã hội. Người dùng có thể lấy khuôn mặt và sử dụng thuật toán riêng của Liên kết xã hội để tìm kiếm các kết quả trùng khớp trên mạng xã hội, giúp cảnh sát có cái nhìn rộng hơn về danh tính của cá nhân. “Khả năng thực sự là vô tận,” Alonso nói thêm. Talavera cho biết công ty không lưu trữ hình ảnh khuôn mặt mà lùng sục trên mạng để tìm các kết quả trùng khớp. Ông nói thêm rằng nó tương tự như tìm kiếm hình ảnh trên Google, mặc dù Social Links cũng sử dụng phần mềm nhận dạng khuôn mặt của riêng mình để có thể xem qua các nhóm truyền thông xã hội công cộng và bộ sưu tập ảnh của người dùng.

Cuộc trình diễn là một trong nhiều bài trình diễn khác tập trung vào trí tuệ nhân tạo tại Milipol, một triển lãm thương mại quy mô lớn, nơi các công ty tiếp thị vũ khí và công nghệ giám sát cho các cơ quan thực thi pháp luật và an ninh nội địa. Andy Martin, một kỹ sư người Anh của công ty điều tra điện thoại thông minh khổng lồ Cellebrite của Israel, cho biết các mô hình ngôn ngữ lớn như ChatGPT sẽ mang lại lợi ích to lớn cho mọi hoạt động thực thi pháp luật, từ việc xem qua hồ sơ cuộc gọi đến tìm ra những điểm bất thường trong “mô hình cuộc sống” của một người, cho đến “các cuộc phỏng vấn tăng cường”, trong đó AI sẽ cung cấp thông tin cho người phỏng vấn trong quá trình thẩm vấn.

Tuy nhiên, ông cảnh báo rằng cơ quan thực thi pháp luật phải minh bạch trong việc sử dụng AI vì các vấn đề về độ tin cậy và sai lệch của nó. Ông nói: “Vĩnh viễn sẽ không bao giờ có cách nào khiến AI trở nên không thiên vị”, đồng thời lưu ý rằng, cũng như những người khác, các công nghệ do con người lập trình phản ánh khả năng có thể mắc sai lầm của con người.

Cùng tham dự: công ty giám sát Cy4gate của Ý, công ty có công cụ mang tên Gens.AI. Công cụ AI này có thể tạo ra các tài khoản trên nền tảng mạng xã hội mà trông giống như tài khoản đó là do con người tạo ra. AI không chỉ hiển thị các hình đại diện (avtar) trông hợp pháp, mà chúng còn có thể được đặt trên các nền tảng như Facebook và Telegram dưới dạng các nhân vật AI tự trị. Những hồ sơ giả mạo như vậy được các nhà điều tra bí mật sử dụng để tìm hiểu thêm về nghi phạm hình sự, mặc dù thông thường chúng được điều khiển bởi con người chứ không phải AI. Cy4gate tuyên bố hình đại diện của nó đủ thực tế để “đến gần mục tiêu và xây dựng mối quan hệ tin cậy” và tránh bị phát hiện. Một hình đại diện (avatar) do Forbes tạo bởi Gens.AI và giới thiệu tại Milipol —một nữ huấn luyện viên cá nhân đầu những năm 30 tuổi— đã xuất hiện trực tiếp trên các trang mạng xã hội, bao gồm cả Facebook, nơi nó đã hoạt động từ năm 2019.

Meta đã coi các tài khoản gián điệp là vi phạm luật của họ. Ngay sau khi Forbes đánh dấu tài khoản cho Meta, nó đã bị xóa.

Việc kết hợp những thứ như Social Links và Gens.AI dẫn đến khả năng rất thực tế về một loại “vòng lặp” AI kỳ quái: một phía là chương trình giám sát phương tiện truyền thông xã hội AI do một công ty phần mềm gián điệp tạo ra đang được sử dụng để giám sát các cá tính AI do một công ty khác tạo ra, với ChatGPT và LLM khác trong hỗn hợp. Nói một cách dễ hiểu, giờ đã là bình minh của thời đại các chương trình AI ăn thịt đồng loại.