Google thu hồi công cụ AI có thể giả mạo ảnh vệ tinh chỉ sau 1 ngày ra mắt

Tập đoàn công nghệ Mỹ Google đã ra mắt công cụ AI tạo ảnh từ dữ liệu vệ tinh vào ngày 30/7, nhưng chỉ một ngày sau đã quyết định thu hồi do tính năng này làm dấy lên những lo ngại rộng rãi về nguy cơ “giả mạo từ góc nhìn trên không” bằng trí tuệ nhân tạo.

Tính năng AI mới có thể tạo ảnh giả chỉ với một cú nhấp chuột

Theo BBC ngày thứ Sáu (31/7), Google vừa bổ sung một tính năng AI mới trên nền tảng Google Earth, cho phép người dùng chỉ cần nhấn một nút là có thể sử dụng công cụ tạo ảnh AI Nano Banana 2 để tạo ra các khung cảnh hư cấu dựa trên ảnh vệ tinh, ảnh chụp từ trên không hoặc hình ảnh 3D có thật.

Chỉ một ngày sau khi ra mắt, Google đã đăng thông báo trên nền tảng X, cho biết sẽ rút lại tính năng này “cho đến khi triển khai các biện pháp bảo vệ mạnh mẽ hơn”.

Google cho biết công ty nhận thấy “các chuyên gia địa không gian đã sử dụng tính năng này cho nhiều mục đích hữu ích”, nhưng đồng thời cũng phát hiện “một số người đã chia sẻ ảnh chụp màn hình của các hình ảnh do AI tạo ra, và những nội dung này có thể vi phạm chính sách của chúng tôi.”

Có thể giả mạo cả nhà máy điện hạt nhân, người tị nạn và lũ lụt

Nhà nghiên cứu mã nguồn mở Henk van Ess cho biết với Đài Phát thanh Công cộng Quốc gia Mỹ (NPR) qua tin nhắn rằng ông đã thử nhập các lời nhắc như dòng người tị nạn tại biên giới Mexico, sự cố tại nhà máy điện hạt nhân ở Iran, tai nạn máy bay tại Amsterdam hay một bệnh viện ở Gaza bị bom tạo thành hố lớn.

Ông cho biết “không có bất kỳ cảnh giả nào bị hệ thống từ chối tạo ra”.

Phóng viên của NPR cũng dễ dàng tạo được các hình ảnh hư cấu về vụ cháy trên đảo Kharg của Iran và cảnh Điện Capitol của Mỹ bị ngập lụt, mặc dù trên thực tế cả hai sự kiện này đều chưa từng xảy ra.

Trong quá trình thử nghiệm, nhóm BBC Verify cũng tạo thành công các hình ảnh giả như tháp Eiffel sụp đổ, hố sụt khổng lồ nuốt chửng Đại Kim tự tháp Giza hay xe tăng Nga xuất hiện tại thủ đô Kyiv của Ukraine.

Kênh Channel NewsAsia (CNA) của Singapore cũng cho biết họ dễ dàng tạo được các hình ảnh giả về sân bay Changi bị hư hại hay Gardens by the Bay bốc cháy – những sự việc chưa từng xảy ra – mà hệ thống không đưa ra bất kỳ giới hạn hay từ chối nào.

Chuyên gia: Độ tin cậy của ảnh vệ tinh có thể bị suy giảm

Điều tra viên chuyên về giám định hình ảnh Evan Hill của The Washington Post đặt câu hỏi trên nền tảng X liệu tính năng này đã trải qua quá trình kiểm thử nội bộ hay chưa. Ông cho rằng công cụ này có thể bị lợi dụng để phát tán thông tin sai lệch và “gần như không bị bất kỳ ràng buộc nào”.

Nhà nghiên cứu cấp cao Jake Godin của tổ chức điều tra mạng Bellingcat cũng nhận định rằng trước đây ảnh vệ tinh rất khó bị làm giả nên luôn được xem là một trong những công cụ đáng tin cậy để xác minh các sự kiện khẩn cấp.

Ông lấy ví dụ, trong thời gian xảy ra xung đột giữa Mỹ và Iran, trên mạng từng lan truyền hình ảnh vệ tinh giả cho thấy một căn cứ quân sự của Mỹ tại Bahrain bị phá hủy. Sau đó, ảnh vệ tinh thật xác nhận căn cứ này đúng là bị hư hại, nhưng mức độ thiệt hại hoàn toàn khác với hình ảnh giả.

Ông lo ngại tính năng tạo ảnh chỉ bằng một cú nhấp chuột sẽ khiến tốc độ lan truyền hình ảnh giả ngày càng nhanh hơn, trong khi “thông tin sai lệch luôn lan truyền nhanh hơn và rộng hơn bất kỳ sự đính chính nào”.

Ông Hồng Chính Quân, Giám đốc Trung tâm Nghiên cứu An ninh Quốc gia Xuất sắc thuộc Trường Nghiên cứu Quốc tế S. Rajaratnam của Singapore, cho biết trước đây việc tạo ra những bức ảnh vệ tinh giả chân thực đòi hỏi kỹ thuật và nguồn lực đáng kể. Tuy nhiên, hiện nay gần như bất kỳ ai cũng có thể tạo ra chỉ với một cú nhấp chuột những hình ảnh đủ sức gây hoang mang hoặc đánh lừa công chúng.

Ông cũng lưu ý rằng một khi các hình ảnh này được lan truyền trên các nhóm trò chuyện như WhatsApp, Telegram hay WeChat, rất ít người chủ động kiểm chứng tính xác thực của chúng.

Google: Đã bổ sung hình mờ AI

Google cho biết sẽ tiếp tục nâng cấp các biện pháp bảo vệ. Hiện toàn bộ hình ảnh do AI tạo ra đều được gắn hình mờ kỹ thuật số SynthID, đồng thời có thể được các công cụ của Google như Gemini nhận diện là nội dung do AI tạo. Công ty cũng sẽ chặn các yêu cầu tạo hình ảnh liên quan đến những chủ đề có hại.

Tuy nhiên, nhiều chuyên gia được phỏng vấn vẫn chưa yên tâm. Họ cho rằng nếu không có thêm các biện pháp kiểm soát hiệu quả, niềm tin lâu dài của công chúng đối với ảnh vệ tinh nói chung và nền tảng Google Earth nói riêng có thể sẽ bị suy giảm.