Ý thông báo cấm chatbot Replika sử dụng dữ liệu của người dùng

Được biết, Replika do công ty Luka Inc. của Mỹ xây dựng vào năm 2017, là một chatbot đồng hành – một người bạn “ảo” được xây dựng dựa trên trí tuệ nhân tạo (AI), để có thể lắng nghe và trò chuyện cùng người dùng.

Tuy được cung cấp miễn phí, nhưng Replika vẫn mang về khoảng 2 triệu USD doanh thu hằng tháng từ việc bán các tính năng bổ sung như trò chuyện bằng giọng nói.

Dù Replika có thể giúp cải thiện tâm trạng của người dùng, nhưng theo Cơ quan Bảo vệ dữ liệu của Ý, với việc đi sâu vào đời sống người dùng, chatbot này “có thể làm gia tăng rủi ro cho các cá nhân đang trong giai đoạn phát triển hoặc trong trạng thái mong manh về cảm xúc”.

Cơ quan trên cũng nhận định rằng Replika cần thiết lập cơ chế xác minh độ tuổi của người dùng, ví như cần tạo bộ lọc đối với người dùng là trẻ vị thành niên hoặc thậm chí chặn truy cập nếu người dùng không nói rõ tuổi của họ. Replika đã vi phạm các quy định về quyền riêng tư tại châu Âu và xử lý dữ liệu cá nhân của người dùng một cách bất hợp pháp, vì nó không thể hoạt động dựa trên một hợp đồng mà trẻ vị thành niên không thể ký kết.

Cơ quan bảo vệ dữ liệu của Ý nêu rõ công ty Luka Inc. sẽ phải thông báo với nhà chức trách nước này về các biện pháp áp dụng cho Replika trong vòng 20 ngày, đồng thời cảnh báo Luka Inc. có thể bị phạt tới 20 triệu EUR (khoảng 21,80 triệu USD), hoặc tối đa 4% doanh thu toàn cầu hằng năm liên quan những vấn đề nêu trên.

Phan Anh