Nhận diện cảm xúc: Công nghệ đọc tâm trí AI đáng sợ của Trung Quốc
- RFA
- •
Camera có thể đọc được tâm bạn bằng cách nhìn vào bạn nhiều hơn. Điều này nghe có vẻ hơi đáng sợ, nhưng đó là một thực tế ngày càng có thật ở Trung Quốc. Báo cáo mới nhất về Article 19, một tổ chức nhân quyền quốc tế có trụ sở chính tại London, cho thấy Trung Quốc đã sử dụng rộng rãi công nghệ nhận dạng cảm xúc, nhằm duy trì ổn định xã hội. Tuy nhiên, trong bối cảnh không có các tiêu chuẩn và quy chuẩn quốc tế, Trung Quốc đã thực hiện nghiên cứu gì sau khi có được dữ liệu? Nhận diện cảm xúc, “công nghệ đen” mà giới truyền thông Trung Quốc mô tả, một lần nữa làm dấy lên mối lo ngại về sự suy thoái nhân quyền ở Trung Quốc.
Camera được kết nối với “Hệ thống Mắt ưng Alpha” để quan sát bạn. Trong vòng 3 giây, nó đã có thể kết luận, liệu bạn có đang định gây rối, hay là thành phần bị nghi ngờ có hành vi phạm pháp hay không. Điều này đã không còn là một bộ phim viễn tưởng nữa mà nó đã trở thành sự thật.
Trong các báo cáo của giới truyền thông Trung Quốc, Mắt ưng Alpha lợi hại như vậy. Chúng có thể đưa ra đánh giá từ những động tác nhỏ như chớp mắt, nhún vai, hay chạm tay vào mũi. Trong khoảng thời gian từ năm 2014 đến 2015, chỉ riêng ga xe lửa Nghĩa Ô, Chiết Giang đã bắt giữ 153 “phần tử phạm tội” thông qua công nghệ “Trí tuệ nhân tạo 3.0” này.
Cô Shazeda Ahmed, một nghiên cứu sinh tại Đại học California, chi nhánh Berkeley, người chuyên về an ninh mạng và chính sách của Trung Quốc, đã xem xét các tài liệu công khai chính thức của Trung Quốc và các báo cáo liên quan. Cô nhận thấy rằng các cơ quan công an địa phương ở nhiều tỉnh và thành phố hợp tác với các công ty AI nhận dạng cảm xúc khác nhau, hoặc ngành an ninh. Ở Trung Quốc, công nghệ trí tuệ nhân tạo lạnh lùng, đã trở thành vũ khí chống tội phạm chính thức.
“Đặc biệt, đối với sở an ninh công cộng, công nghệ nhận dạng cảm xúc được sử dụng trong 3 lĩnh vực: Gồm việc cảnh báo sớm, tức là phát hiện tội phạm có thể xảy ra, theo dõi các quần thể trọng điểm và quá trình thẩm vấn sau khi bắt giữ. ‘Quần thể trọng điểm’ bao gồm tội phạm đã mãn hạn tù, hoặc những người biểu tình bày tỏ ý kiến chống lại chính phủ. Miễn là chính phủ xác định rằng họ là những người sẽ gây bất ổn, hệ thống nhận dạng cảm xúc này sẽ tăng cường giám sát. Mục đích là để đảm bảo rằng, những nhóm người trọng điểm sẽ không phản kháng,” Cô Ahmed cho biết trong một cuộc phỏng vấn với đài này.
Thực thi giám sát và đọc cảnh báo sớm nhằm duy trì ổn định của giới chức Trung Quốc là diễn lại cốt truyện “1984”?
Camera có mặt khắp nơi tại Trung Quốc, thu thập thông tin khuôn mặt của mọi người ở những nơi công cộng. Hơn nữa chúng không chỉ nhìn bạn mà còn đọc tư tưởng của bạn. Hãy tưởng tượng, mọi người đứng trên Quảng trường Thiên An Môn với nụ cười trên môi, vô cùng phấn chấn, hét lên “yêu nước, yêu đảng”. Công nghệ nhận dạng cảm xúc còn có thể phân tích xem, những người hô khẩu hiệu có chân thành hay không, như thể đang tái hiện lại cốt truyện “1984” của George Orwell.
Cô Ahmed, sống ở Bắc Kinh, cho biết cô rất sốc khi ở Trung Quốc, không chỉ riêng cơ quan công an có thể sử dụng dữ liệu này.
Báo cáo đề cập rằng, ngoài việc những người Duy Ngô Nhĩ ở Tân Cương luôn là nhóm dân cư chủ chốt bị chính phủ Trung Quốc giám sát ra, năm 2019, “Tạp chí Trường Cao đẳng Cảnh sát Tứ Xuyên” của Trung Quốc cũng đề cập đến việc, cần nghiên cứu ứng dụng “công nghệ nhận dạng biểu hiện vi mô”, nhằm tăng cường an toàn của đường cao tốc vào Tây Tạng. Cách làm giương cao ngọn cờ khoa học và công nghệ để thực thi pháp luật đã làm dấy lên những lo ngại về nhân quyền.
“Không chỉ nhận dạng khuôn mặt, các công ty liên quan ở Trung Quốc còn tổng hợp tín hiệu giọng nói, nhịp tim, nhằm phát triển và tích hợp công nghệ nhận dạng cảm xúc đa phương thức. Tuy nhiên, cảm xúc của con người đôi khi phức tạp và những biến số này có thể làm giảm hệ số chính xác. Điều này liệu có giúp ích tích cực cho việc thực thi pháp luật?”, cô lo lắng nói.
10 công ty công nghệ nhận dạng cảm xúc hàng đầu của Trung Quốc đã “tích hợp công nghệ nhận dạng cảm xúc đa phương thức” tổng hợp giọng nói và cơ thể. Báo cáo ước tính rằng, quy mô thị trường tiềm năng này vượt quá 14,6 tỷ đô la Mỹ. Cô Ahmed tin rằng công nghệ Trung Quốc có thể sử dụng dự án “Một vành đai, một con đường” để vươn ra toàn cầu, các nước Đông Nam Á là những thị trường tiềm năng.
Trải nghiệm đấu tố Cầu Phong trong việc số hóa báo cáo khoa học và công nghệ
Báo cáo có tên “Rối ren cảm xúc” này đặc biệt tập trung vào thị trường và nghiên cứu ứng dụng của Trung Quốc. Ngoài đề xuất rằng, Mắt ưng Alpha ở Ninh Ba, tỉnh Chiết Giang đóng một vai trò quan trọng trong hệ thống giám sát an ninh công cộng dạng lưới “Dự án Snow Bright” của Trung Quốc còn có các công ty khác như Covestro Thâm Quyến, Dực Khai Technology Bắc Kinh, Joyware Electronics Hàng Châu, Công nghệ nhận dạng cảm xúc, Công nghệ Duệ Số, An Thị Bảo Thâm Quyến, Công ty máy tính Thái Cô, Công ty Trí tuệ Sáng tạo Vân Tư, v.v. Tất cả đều đảm nhận trách nhiệm duy trì ổn định ở những nơi công cộng như sân bay, hải quan, ga đường sắt cao tốc ở các tỉnh thành khác nhau, trở thành người dẫn đầu trong ngành an ninh của Trung Quốc.
Cô Ahmed mô tả, đây là sự tái hiện của “Trải nghiệm Cầu Phong” thời Mao Trạch Đông. Tuy nhiên, trong thời đại kỹ thuật số, không phải bà con hàng xóm đấu tố bạn, mà là những chiếc camera và phần mềm công nghệ nhận diện cảm xúc.
Cô Ahmed và cô Vidushi Marda, tác giả khác của bản báo cáo, nhà nghiên cứu cấp cao của Article 19, đều nhấn mạnh rằng khi thảo luận về tác động của ứng dụng trí tuệ nhân tạo đối với sự phát triển xã hội, không phải tất cả các vấn đề đều do Trung Quốc gây ra, mà là toàn bộ xã hội loài người phải đối mặt với những thách thức về sự phát triển nhanh chóng của các công nghệ mới, trong khi thiếu các tiêu chuẩn quốc tế. Một thị trường khổng lồ như Trung Quốc đang phát triển với tốc độ chóng mặt. Cơ sở dữ liệu của họ càng lớn, thì công nghệ nhận dạng cảm xúc càng trưởng thành sau khi tính toán. Đây là lời cảnh báo cho tất cả mọi người. Họ tin rằng, không nên thay đổi một số nguyên tắc đạo đức cơ bản.
Công nghệ nhận dạng cảm xúc của Trung Quốc đang tăng tốc
“Mấu chốt vẫn là tính minh bạch, bao gồm quyền được biết cách lấy dữ liệu và cách sử dụng dữ liệu. Công nghệ nhận dạng cảm xúc hiện tại cuối cùng có thể được áp dụng trong cuộc sống hàng ngày, nhưng cần có những quy tắc quốc tế nào? Theo tinh thần của luật pháp quốc tế hiện hành, bao gồm quyền tự do ngôn luận, quyền riêng tư và chống phân biệt chủng tộc, tôi tin rằng những nguyên tắc cơ bản này hiện đã được áp dụng cho công nghệ nhận dạng cảm xúc,” bà Mattar nói.
Trên thực tế, các khái niệm và ý tưởng về nhận biết cảm xúc không bắt nguồn từ Trung Quốc. Bà Mattar nói rằng vào những năm 1960, khi công nghệ kỹ thuật số chưa phát triển, nhà tâm lý học người Mỹ Paul Ekman đã nghiên cứu những biểu hiện tinh tế trên khuôn mặt con người, nhằm xác định những lời nói dối. Quả thực, lý thuyết của ông cũng được FBI áp dụng vào các cuộc điều tra tội phạm sau này.
“Sự thật được viết trên khuôn mặt.” Năm 2009, câu thoại kinh điển của Tiến sĩ Letterman, nhân vật chính của bộ phim truyền hình Mỹ “Đừng nói dối tôi” (Lie to Me), dựa trên câu chuyện có thật của Ekman. Đây cũng là một bộ phim khá nổi trên Internet Trung Quốc. Gần như cùng thời điểm này, thế giới cũng bắt đầu ứng dụng và phát triển công nghệ trí tuệ nhân tạo. Việc nhận diện khuôn mặt trên điện thoại di động có thể nói là một cột mốc trong công nghệ sinh trắc học, với mục đích ban đầu là tăng cường bảo mật.
Tuy nhiên, 5 năm trở lại đây, Trung Quốc đã tăng tốc vượt ẩu, hết lần này đến lần khác khiến những chiếc camera lạnh lùng lần lượt trở thành nhân vật Letterman. Nhưng liệu công nghệ đang bảo vệ hay tiêu diệt nhân tính? Dưới góc độ suy xét của chính phủ, Ấn Độ, nước láng giềng thân cận của Trung Quốc là một ví dụ thực tế.
Bà Mattar lấy ví dụ: “Đó là một công ty của Đức xuất khẩu công nghệ nhận dạng cảm xúc sang Trung Quốc. Không khó để tưởng tượng rằng, thị trường Trung Quốc lại háo hức với sự phát triển công nghệ như vậy. Nhưng tôi muốn nói rằng, giống như Ấn Độ nơi tôi sống, gần đây cảnh sát Ấn Độ, muốn ứng dụng công nghệ nhận dạng cảm xúc ở những nơi công cộng, nhằm ngăn ngừa tình trạng phụ nữ bị bạo lực xâm phạm.”
Bà cho biết, việc xây dựng các quy tắc quốc tế liên quan đến hai tổ chức viễn thông quốc tế lớn, gồm Liên minh Viễn thông Quốc tế (International Telecom Union), mà Trung Quốc là thành viên rất tích cực; và Hiệp hội Kỹ sư Điện và Điện tử (IEEE). Bà Mattar, chuyên nghiên cứu các luật liên quan đến ứng dụng công nghệ trí tuệ nhân tạo, cũng là thành viên của Nhóm chuyên gia phát triển trí tuệ nhân tạo của Liên Hợp Quốc. Trong báo cáo của mình, bà kiến nghị cộng đồng quốc tế nên cấm việc tiếp tục phát triển, kinh doanh và xuất nhập khẩu công nghệ nhận dạng cảm xúc. Vì điều này không phù hợp với các nguyên tắc nhân quyền quốc tế cơ bản hiện có. Bà cũng đề xuất rằng Chính phủ Trung Quốc cũng nên cấm sự phát triển liên tục, mua bán, chuyển giao công nghệ nhận dạng cảm xúc. Đồng thời xây dựng các luật tương ứng càng sớm càng tốt, để các cá nhân bị ảnh hưởng bởi công nghệ nhận dạng cảm xúc có được cơ chế cứu trợ.
Sự thật không phải lúc nào cũng được viết trên khuôn mặt. Bà Mattar tin rằng, nếu tiếp tục phát triển như vậy, mọi người có thể sẽ thay đổi cách thể hiện cảm xúc của họ trong môi trường bị giám sát, nếu không hoàn thiện các quy định tương ứng. Đây sẽ là một diễn biến đáng sợ.
Nguồn: Đài Á Châu Tự Do
Xem thêm:
Từ khóa công nghệ trí tuệ nhân tạo AI Dòng sự kiện nhân quyền Trung Quốc nhận diện cảm xúc nhận diện khuôn mặt
