Dương Mịch livestream bán hàng? Gian lận AI bùng nổ khắp Trung Quốc

Gần đây, nhiều cư dân mạng Đại Lục phát hiện rằng một số công ty thương mại điện tử đã bắt đầu sử dụng công nghệ AI, thay đổi thành khuôn mặt của những người nổi tiếng như Dương Mịch và Địch Lệ Nhiệt Ba để livestream bán hàng, thu hút sự chú ý và thảo luận sôi nổi từ cư dân mạng.

Một số cư dân mạng cho biết, họ phát hiện ra “Địch Lệ Nhiệt Ba”, “Dương Mịch”, “Angelababy” đang livestream bán hàng khi xem các chương trình gần đây. Kỳ thực không phải vậy, họ chỉ là người bán hàng bình thường, nhưng đã sử dụng công nghệ AI thay đổi khuôn mặt thành người nổi tiếng trên sóng livestream.

Dựa trên các báo cáo của truyền thông Đại Lục, nhiều MC trong các phòng livestream bán hàng đã sử dụng công nghệ tổng hợp sâu để thay đổi diện mạo.

Một số phòng livestream của thương hiệu quần áo nữ SDEER và Bama Tea, đều có “khuôn mặt của những ngôi sao” như nữ diễn viên nổi tiếng Dương Mịch và Địch Liệt Ba.

Một cư dân mạng đã chỉ ra khuyết điểm như: “Khi MC cúi đầu vuốt lại tóc, trán của họ đen thui.”

Có người phản đối: “Sau khi phát hiện ra đó là livestream thay đổi khuôn mặt, tôi đã không còn hứng thú mua hàng nữa”.

Lừa đảo bằng AI bùng phát khắp Trung Quốc

Theo báo cáo của City Express, vào tháng 4, một nhân vật nữ nổi tiếng trên Internet có hàng triệu người hâm mộ đã vạch trần vụ việc AI thay đổi khuôn mặt.

Người này cho biết, trong phần bình luận video của cô, đột nhiên tràn ngập những người nói rằng họ đã xem video, nhưng cô chưa bao giờ đăng một video như vậy.

Trang Tài chính và Kinh tế mới Trung Quốc đã tham khảo một trang web cung cấp phần mềm thay đổi khuôn mặt với tư cách là người dùng. Bộ phận dịch vụ khách hàng của trang web này cho biết, giá mua trọn bộ mô hình mà họ cung cấp là 35.000 nhân dân tệ (khoảng 4.950 USD). Tính năng thay đổi khuôn mặt AI theo thời gian thực có thể được áp dụng cho tất cả các nền tảng livestream lớn.

Gần đây, một tên tội phạm ở thành phố Bao Đầu, Nội Mông đã lấy danh nghĩa là một người bạn thân, nói rằng mình cần tiền gấp và đã liên lạc với nạn nhân họ Quách qua WeChat.

Vì tin tưởng bạn mình và đã xác minh danh tính của đối phương qua trò chuyện video, anh Quách đã mất cảnh giác và gửi 4,3 triệu nhân dân tệ (khoảng 608.281 USD) vào thẻ ngân hàng của tên tội phạm trong 2 lần chuyển tiền.

Nhưng anh không thể ngờ rằng cuộc gọi đó được thực hiện bởi công nghệ AI thay đổi khuôn mặt. Tên tội phạm đã sử dụng công nghệ thay đổi khuôn mặt AI, giả làm bạn anh để lừa đảo.

Theo một báo cáo trước đây của Nhật báo đô thị Tây Trung Quốc, tháng 2/2022, ông Trần đã đến Đồn cảnh sát Tiên Nham, thuộc Chi nhánh Âu Hải của Văn phòng Công an thành phố Ôn Châu, tỉnh Chiết Giang, báo cáo rằng ông đã bị lừa gần 50.000 nhân dân tệ (khoảng 7.071 USD) từ một người bạn giả.

Qua xác minh của cảnh sát, kẻ lừa đảo đã lợi dụng các video mà “A Thành” – người bạn của ông Trần – đăng trên mạng xã hội, sau khi tải các cảnh quay khuôn mặt xuống rồi sử dụng công nghệ “đổi khuôn mặt bằng AI” để tạo video ông Trần nói chuyện với “bạn” để lừa đảo sự tin tưởng, từ đó thực hiện hành vi lừa đảo.

Công an thành phố Ôn Châu, tỉnh Chiết Giang từng thông báo, vào năm 2021, Sở cảnh sát Củng Thần Kiều nhận được trình báo, nạn nhân Tiểu Trần nói rằng mình bị đối phương tống tiền sau khi trò chuyện video với một nữ cư dân mạng.

Cảnh sát điều tra xách minh đối phương đã sử dụng công nghệ thay đổi khuôn mặt AI, cắt ghép gương mặt anh Tiểu Trần trong một video không đứng đắn, và tống tiền anh.

Năm 2020, giám đốc điều hành một công ty ở Thượng Hải đã bị lừa 1,5 triệu nhân dân tệ (khoảng 212.185 USD) vì đối phương sử dụng công nghệ AI thay đổi khuôn mặt và tạo giọng nói nhân tạo, làm thành khuôn mặt của lãnh đạo công ty và yêu cầu giám đốc điều hành chuyển tiền.

Luật sư: Có thể cấu thành tội gian lận

Ông Triệu Chiếm Lĩnh, luật sư từ Công ty luật Văn Gia Bắc Kinh, nói với tờ Tài chính và Kinh tế mới Trung Quốc rằng AI thay đổi khuôn mặt chủ yếu liên quan đến các vấn đề như quyền chân dung.

“Nếu nói MC nào đó thay hình người khác mà không được sự đồng ý của họ là xâm phạm quyền chân dung. Nếu dùng cả tên của người khác, thì bị nghi ngờ vi phạm quyền danh tính.”

Loại hành vi này có thể gây ra nhiều vấn đề xã hội. Luật sư Tiêu Cẩm Dương từ Trung Quốc Đại lục cho rằng việc sử dụng công nghệ tổng hợp sâu để tạo ra hành vi “AI thay đổi khuôn mặt” trong phòng livestream, mà không có sự đồng ý của người nổi tiếng là hành vi “cố ý thông báo sai sự thật cho người tiêu dùng, hoặc cố tình che giấu tình hình thực tế, dụ dỗ người tiêu dùng hiểu sai ý”, cấu thành tội lừa đảo.

Theo “Bộ luật Dân sự”, nếu người dẫn chương trình hoặc thương nhân livestream sử dụng AI để tráo đổi “khuôn mặt của những ngôi sao”, mà không có sự đồng ý hoặc ủy quyền của họ, thì sẽ vi phạm quyền chân dung.

Trong khi livestream, nếu MC hoặc thương nhân còn sử dụng tên hoặc nghệ danh, bút danh của ngôi sao đó, họ cũng sẽ vi phạm quyền danh tính của ngôi sao này. Từ quan điểm này, việc thay đổi khuôn mặt AI để livestream là hành vi điển hình “không có sự đồng ý của người khác” và “vì mục tiêu lợi nhuận”.