OpenAI, Meta cảnh báo: Deepfake khiến bằng chứng video, âm thanh khó xác minh

Đại diện OpenAI và Meta hôm thứ Năm (15/10) cảnh báo một ủy ban tư pháp Mỹ rằng deepfake đã tinh vi đến mức việc xác minh bằng chứng video, âm thanh tại tòa sẽ ngày càng khó khăn.

Các chuyên gia của hai công ty trình bày mối lo ngại tại cuộc họp ở Boston của Ủy ban Tư vấn về Quy tắc Chứng cứ thuộc Hội nghị Tư pháp Mỹ, Investing.com đưa tin. Từ năm 2023, ủy ban này đã nghiên cứu cách xử lý rủi ro từ bằng chứng giả do AI tạo ra tại tòa.

Bà Shira Anderson, cố vấn chính sách của OpenAI, nói với ủy ban rằng chất lượng hình ảnh do AI tạo ra vẫn tiếp tục được cải thiện. Bà không tin rằng sau này sẽ có phương pháp khoa học nào phát hiện được những hình ảnh đó.

Ông Devin Norder, giám đốc quản lý sản phẩm của Meta, nhận định con người không thể phân biệt sản phẩm của các mô hình AI gần đây với nội dung thật. Theo ông, làm ra những sản phẩm như vậy giờ chỉ tốn rất ít tiền và thời gian.

Nhiều công ty, trong đó có OpenAI và Meta, đã phát triển công cụ xác minh nội dung hình ảnh. Các luật mới tại California và Liên minh châu Âu cũng yêu cầu gắn thủy vân (watermark) để phát hiện deepfake.

Tuy nhiên, bà Anderson lưu ý mỗi công ty sử dụng một hệ thống riêng, nghĩa là không có cách chung nào phát hiện được mọi loại thủy vân hay xác minh chắc chắn một nội dung hình ảnh là thật. Bà cho rằng các hệ thống này sẽ còn được cải thiện, nhưng sẽ không bao giờ đáng tin cậy hoàn toàn.

Ủy ban cũng đang tìm cách bảo đảm bằng chứng do AI tạo ra phải đạt chuẩn tin cậy ngang với bằng chứng do các nhân chứng chuyên gia đưa ra.

Thẩm phán liên bang Jesse Furman ở Manhattan, chủ tịch ủy ban, cho biết giới học thuật dự đoán tòa án sẽ phải đối mặt với deepfake, nhưng vấn đề này chưa xuất hiện thường xuyên trong các vụ án thực tế.

Một khảo sát của Trung tâm Tư pháp Liên bang hồi tháng 3 cho thấy chỉ 15 trên 931 thẩm phán tham gia trả lời từng gặp vụ việc có một bên phản đối bằng chứng với lý do đó là deepfake.