EU cấm 8 loại ứng dụng nguy hiểm của AI

Hôm thứ Ba (4/2), Ủy ban châu Âu (EU) công bố hướng dẫn cho biết, một số ứng dụng trí tuệ nhân tạo (AI) được coi là quá nguy hiểm hiện đã bị cấm ở EU; những vấn đề nguy hiểm bao gồm như giám sát hàng loạt, nhận dạng cảm xúc…

Liên minh châu Âu (EU) vào năm ngoái đã có động thái lập pháp mang tính tiên phong liên quan AI, theo đó phần “lệnh cấm” trong luật này lần đầu tiên có hiệu lực vào Chủ nhật vừa qua, nhưng những lệnh cấm này sẽ không được thực hiện cho đến ngày 2/8 là thời hạn cuối cùng để các nước thành viên chỉ định cơ quan quản lý quốc gia của họ giám sát các hệ thống công nghệ cao này.

Quy định này nhằm mục đích khuyến khích đổi mới và hạn chế lạm dụng AI. Theo một quan chức cấp cao của Cơ quan điều hành châu Âu, hướng dẫn được công bố hôm thứ Ba nhằm cung cấp “hành lang pháp lý” cho các nhà cung cấp ứng dụng AI cũng như đối với cơ quan quản lý.

Động thái luật pháp này của EU căn cứ vào mức độ rủi ro để phân loại các ứng dụng. Các chi tiết được công bố hôm thứ Ba chỉ đề cập đến các công cụ được coi là nguy hiểm đến mức cần phải bị cấm. Nếu phát hiện có vi phạm, nhóm cung cấp hoặc thực hiện AI bị cấm có thể phải đối mặt với khoản tiền phạt lên tới 35 triệu euro, và trong trường hợp là tập đoàn thì khoản phạt tối đa có thể lên tới 7% doanh thu toàn cầu của họ.

Ủy ban châu Âu xác định 8 loại ứng dụng hệ thống AI bị cấm:

(1) Sử dụng camera ở những nơi công cộng để nhận dạng cá nhân trong thời gian thực: EU cấm sử dụng camera có công nghệ nhận dạng khuôn mặt thời gian thực trên đường phố thương mại để xác định những người bị truy nã. Khái niệm “thời gian thực” trong quy định này là rất quan trọng. Dù vậy có một số nhiệm vụ thực thi pháp luật đặc biệt (như chống khủng bố) có thể được xử lý ngoại lệ.

(2) Đánh giá phân loại cá nhân tiềm ẩn rủi ro dựa trên dữ liệu không liên quan đến vấn đề rủi ro đó: Không được phép dùng AI để tính toán khả năng một người có vẻ gian lận trục lợi bằng việc căn cứ vào dữ liệu cá nhân mà bối cảnh dữ liệu đó không liên quan (chẳng hạn như nguồn gốc, màu da hoặc hành vi trên mạng xã hội), ví dụ cụ thể như khi đánh giá rủi ro nợ nần chỉ có thể xem xét dữ liệu tài chính.

(3) Đánh giá nguy cơ phạm tội của một cá nhân dựa trên dữ liệu sinh trắc học: Cảnh sát không thể sử dụng AI để dự đoán nguy cơ hành vi phạm tội của một cá nhân (ví như khả năng tham gia bạo loạn hoặc thực hiện một cuộc tấn công…) bằng cách chủ yếu dựa trên các đặc trưng diện mạo cá nhân (như đặc điểm khuôn mặt…), trong khi đặt nhẹ các sự kiện khách quan và có thể kiểm chứng liên quan trực tiếp đến hành vi của họ.

(4) Dùng hệ thống nhận dạng khuôn mặt tạo cơ sở dữ liệu khuôn mặt: Cấm sử dụng các công cụ để tìm kiếm và trích xuất ảnh khuôn mặt bừa bãi trên Internet, mục đích để xây dựng cơ sở dữ liệu lớn chứa hàng tỷ hình ảnh khuôn mặt mọi người, không khác gì giám sát của một nhà cầm quyền độc tài cấp quốc gia.

(5) Nhận dạng cảm xúc tại nơi làm việc hoặc cơ sở giáo dục: Một tổ chức không được sử dụng camera hoặc hệ thống nhận dạng giọng nói để kiểm tra cảm xúc của nhân viên.

(6) Dùng AI để thao túng hành vi: Việc sử dụng AI trong thiết kế giao diện kinh doanh phải minh bạch và trung thực với lựa chọn của người dùng; không được dùng các kỹ thuật lừa đảo, thao túng hoặc lợi dụng tâm lý người dùng để dụ họ mua hàng mà trong điều kiện bình thường họ sẽ không mua.

(7) Khai thác các điểm yếu liên quan đến tuổi tác hoặc khuyết tật: Đối với đồ chơi có chứa AI được thiết kế để tương tác với trẻ em, nếu thiết kế để giữ sự chú ý của trẻ và khuyến khích chúng tham gia vào các thử thách nguy hiểm có thể gây hại cho chúng, vậy thì loại đồ chơi đó sẽ bị cấm sử dụng.

(8) Suy luận quan điểm chính trị hoặc khuynh hướng tình dục dựa trên dữ liệu sinh trắc học: Một hệ thống AI dựa trên phân tích khuôn mặt để đoán quan điểm chính trị hoặc khuynh hướng tình dục sẽ không được phép sử dụng ở EU.