Vì sao phương Tây hạn chế công quyền dùng công nghệ nhận dạng khuôn mặt?

Ở Trung Quốc, sự phát triển của công nghệ nhận dạng khuôn mặt nhiều khi được nhìn nhận là tiến bộ công nghệ đáng khích lệ, nhưng tại nhiều nước phương Tây thì xu thế nghi ngờ và hạn chế công nghệ này đang ngày càng gia tăng. Nguyên nhân vì sao?

Công nghệ nhận dạng khuôn mặt của Trung Quốc đã được ứng dụng vào nhiều lĩnh vực, hiện nay thậm chí còn phát triển đến nhận dạng dáng đi, cảm xúc… khiến cả nước Trung Quốc không khác gì một nhà tù khổng lồ, mọi thường dân đều phải sống trong vòng giám sát. Vào cuối tháng 10, giới chức Bắc Kinh cũng cho biết họ có kế hoạch sử dụng công nghệ nhận dạng khuôn mặt trong hệ thống tàu điện ngầm: “Nghiên cứu xây dựng quy chuẩn phân loại nhân sự, hình thành cơ sở dữ liệu khuôn mặt tương ứng, dựa vào hệ thống nhận diện khuôn mặt để nhận dạng hành khách và chuyển thông tin cho nhân viên kiểm tra an ninh, nhân viên an ninh sẽ theo đó để thực hiện các biện pháp an ninh.”

Thông tin này đã kéo theo nhiều tranh luận. Một bài viết với tựa đề “Tại sao các nước phương Tây hạn chế sử dụng công nghệ nhận dạng khuôn mặt?” đã được nhiều người chia sẻ rộng rãi trên internet. Tác bài viết giải thích lý do tại sao các nước phương Tây (Âu Mỹ) hạn chế công nghệ nhận dạng khuôn mặt.

Nhận diện khuôn mặt: Người Trung Quốc tự hào, phương Tây luôn cảnh giác

Bài viết chỉ ra rằng công nghệ nhận dạng khuôn mặt là một trong những công nghệ mới phát triển nhanh nhất trong vài năm qua.

Ở Trung Quốc, sự phát triển của công nghệ nhận dạng khuôn mặt nhiều khi được người dân nhìn nhận là tiến bộ công nghệ đáng khích lệ, thậm chí còn khiến nhiều người tự hào và ca ngợi. Nhưng đối với phương Tây, xu thế nghi ngờ và hạn chế công nghệ này đang ngày càng gia tăng.

Vào tháng Năm năm nay, thành phố San Francisco (Mỹ) đã thông qua nghị quyết cấm các cơ quan công quyền như cảnh sát sử dụng công nghệ nhận dạng khuôn mặt.

Vào cuối tháng Tám, Thời báo Tài chính của Anh đưa tin, khối EU đang xem xét hạn chế nghiêm ngặt đối với công nghệ trí tuệ nhân tạo. Trong phương án kế hoạch quản lý giám sát này, nếu cơ quan công quyền hoặc công ty thương mại muốn sử dụng công nghệ trí tuệ nhân tạo, thì tất cả các công dân EU có liên quan đều có quyền biết: dữ liệu khuôn mặt của mình được sử dụng như thế nào.

Tại sao phương Tây cảnh giác công nghệ mới này?

1. Đối tượng hạn chế: Không phải cá nhân mà là quyền lực công và các công ty thương mại

Điều đầu tiên cần làm rõ là, trong lệnh cấm công nghệ nhận diện khuôn mặt tại nhiều nước phương Tây, không phải cấm các cá nhân sử dụng công nghệ này, càng không phải cấm phát triển công nghệ này. Nói cách khác, không thể hạn chế người mở khóa iPhone bằng nhận diện khuôn mặt.

Vấn đề mà các nước phương Tây chú ý hạn chế là việc áp dụng công nghệ nhận dạng khuôn mặt của các cơ quan công quyền (chính phủ, cảnh sát…) và các công ty thương mại. Tại sao vậy?

Một trong những logic quan trọng cần phải chú ý: khi người tiêu dùng sử dụng công nghệ nhận dạng khuôn mặt là do người ta dùng một cách tự nguyện, khi đó người dùng biết rằng khuôn mặt của họ đang được nhận diện; tuy nhiên, nếu công nghệ được sử dụng bởi cơ quan công quyền, như cảnh sát sử dụng công nghệ này để giám sát ở những nơi công cộng, khi đó công chúng có thể không biết rằng khuôn mặt của họ đang được chụp ảnh, quét, phân tích, so sánh và đưa vào cơ sở dữ liệu; ngay cả khi biết thì cũng không thể tắt được hệ thống nhận diện khuôn mặt. Sự khác biệt này khiến phương Tây phổ biến cho rằng, việc sử dụng công nghệ nhận dạng khuôn mặt cho quyền lực công sẽ cần được quy định nghiêm ngặt cao hơn nhiều.

Tất nhiên, việc cơ quan công quyền sử dụng công nghệ nhận dạng khuôn mặt có thể mang lại nhiều lợi ích, chẳng hạn như tăng tỷ lệ phát hiện tội phạm và giảm tỷ lệ tội phạm. Một trường hợp thực tế: Vụ nổ súng quy mô lớn hồi tháng Sáu năm ngoái tại tòa báo The Capital Gazette có trụ sở tại Maryland, khiến 5 người thiệt mạng. Khi cảnh sát giải quyết vụ án này đã sử dụng công nghệ nhận dạng khuôn mặt để định vị nghi phạm.

Tuy nhiên, những lợi ích về an ninh công cộng này là không đủ để bù đắp những lo ngại về việc công quyền lạm dụng công nghệ này.

Liên minh Tự do Dân sự Mỹ (ACLU) tích cực nhất ủng hộ hạn chế sử dụng công nghệ này, luật sư Matt Cagle của ACLU cho rằng “Công nghệ này mang lại cho Chính phủ quyền lực vô biên trong việc theo dõi cuộc sống hàng ngày của mọi người. Quyền lực lớn như vậy là không tương thích với chế độ dân chủ lành mạnh.”

Luật sư Cagle cũng nhấn mạnh rằng hiện giờ chúng ta không biết công nghệ mới này được các Chính phủ và các công ty sử dụng trong phạm vi lớn như thế nào, bởi vì họ luôn giữ bí mật vấn đề này, còn công chúng thì hoàn toàn mù mịt, đây là vấn đề rất nguy hiểm.

Nói đơn giản, giới làm luật phương Tây hạn chế các cơ quan công quyền sử dụng công nghệ nhận dạng khuôn mặt, mục đích để ngăn chặn trước hệ quả tình trạng nhà nước giám sát (surveillance state) kiểu cưỡng bức.

Một đất nước như vậy thường được gọi là quốc gia “kiểu Orwell” (Orwellian), dựa theo tiểu thuyết kinh điển “1984” của nhà văn Orwell. Trong tiểu thuyết này, tên đại ca tùy tiện theo dõi cuộc sống của mọi người thông qua màn hình điện, ủng hộ chế độ toàn trị khủng bố.

Để ngăn chặn tình trạng khủng khiếp này trở thành hiện thực, nhiều nước phương Tây sẵn sàng thỏa hiệp ở một mức độ nhất định, theo đó không cần nhận diện khuôn mặt để theo đuổi vấn đề cải thiện tỷ lệ phát hiện tội phạm.

So với cơ quan công quyền, các công ty thương mại dường như không có quyền lực chính trị kiểu Orwell, tại sao họ phải bị hạn chế?

Lý do là vì, nếu không hạn chế đối với các công ty thương mại, họ có thể thu thập dữ liệu khuôn mặt trên quy mô lớn vì mục tiêu lợi ích thương mại, tiêu biểu như có thể bán và lạm dụng dữ liệu đó mà không cần sự cho phép của chính người tiêu dùng.

Nhiều người cho rằng dữ liệu khuôn mặt là dữ liệu sinh trắc học (biometric data) nhạy cảm nhất trong thông tin cá nhân, hậu quả gây ra do việc bị lạm dụng là rất nghiêm trọng, cần được bảo vệ hạn chế đến mức tối đa.

2. Lỗi của công nghệ nhận dạng khuôn mặt

Ngoài ra, còn có một lý do rất quan trọng khiến nhiều quốc gia và đô thị phương Tây hạn chế đối với công nghệ nhận dạng khuôn mặt: bản thân công nghệ này vẫn chưa hoàn thiện, còn rất nhiều lỗi, sẽ gây ra tình trạng phân biệt đối xử với những người khác nhau.

Vào tháng Tư năm nay, một sinh viên đại học Mỹ 18 tuổi đã kiện công ty Apple, cáo buộc Apple sử dụng công nghệ nhận dạng khuôn mặt trong cửa hàng đã xác định nhầm cậu ta là một tên trộm, làm cậu ta bị cảnh sát trát hầu tòa, sau đó bị cảnh sát bắt giữ, khiến cậu bị tổn thất tinh thần nghiêm trọng. Sinh viên đại học yêu cầu Apple bồi thường 1 tỷ USD (Đô la Mỹ).

Công ty Apple đã phủ nhận các cáo buộc. Bất kể phán quyết của vụ án này như thế nào, vấn đề ở đây cho chúng ta biết rõ rằng: công nghệ nhận dạng khuôn mặt hiện nay thực sự có thể gây ra “những trường hợp oan sai”.

Vào tháng Một năm nay, ACLU đã kiểm tra hệ thống nhận dạng khuôn mặt Rekognition do hãng Amazon phát triển, cho hệ thống này nhận dạng hình ảnh của các nghị sĩ Mỹ. Kết quả, hệ thống đã xác định tới 28 nghị sĩ là tội phạm.

Phát triển trí tuệ nhân tạo trên nền tảng luân lý

Do những lý do trên, nhiều quốc gia và đô thị phương Tây đã áp đặt các hạn chế nghiêm ngặt đối với việc áp dụng công nghệ nhận dạng khuôn mặt.

Cùng với thông qua các biện pháp hạn chế, thành phố San Francisco (Mỹ) cũng thông qua một quy định khác có nội dung rộng hơn. Theo quy định mới này, nếu cơ quan công quyền thành phố San Francisco muốn mua công nghệ giám sát thì phải nộp đơn xin phê duyệt trước. Những công nghệ giám sát này bao gồm máy quét biển số tự động, máy bay không người lái có camera…

Công nghệ nhận dạng khuôn mặt có khả năng chọc vào điểm nhạy cảm của văn hóa Mỹ, đó là chú trọng quyền tự do cá nhân, nỗi sợ hãi tình trạng chính phủ lạm quyền. Do đó nước Mỹ đặc biệt phản ứng nhanh về lập pháp đối với nhận dạng khuôn mặt.

Đối với EU, chính sách hạn chế công nghệ nhận dạng khuôn mặt là một phần của kế hoạch quản lý giám sát rộng lớn hơn. Kế hoạch này có thể được gọi là “Luật trí tuệ nhân tạo dựa trên nền tảng luân lý” (ethically based laws governing AI).

Tất nhiên, mục đích của EU về phát triển quản lý giám sát không phải là áp chế công nghệ mới, mà là hy vọng công nghệ mới có thể mang lại lợi ích cho xã hội nhiều nhất có thể, chứ không phải nhằm gây ra tác dụng phụ.

Trong quan điểm của giới lập pháp EU, những hạn chế đối với công nghệ trí tuệ nhân tạo thực sự có thể nâng cao tin tưởng và chấp nhận của công chúng đối với công nghệ này, nhờ đó có lợi cho phát triển lành mạnh và ứng dụng đúng đắn loại công nghệ này.

Huệ Anh

Xem thêm: