Quốc hội xem xét luật trí tuệ nhân tạo, phạt tối đa 2 tỷ đồng vi phạm

Bộ trưởng Khoa học và Công nghệ Nguyễn Mạnh Hùng trình Quốc hội dự án Luật Trí tuệ nhân tạo lần đầu tiên, với 8 chương 36 điều tập trung nguyên tắc phát triển vì con người và quản lý rủi ro.

Ngày 21/11, ông Nguyễn Mạnh Hùng, Bộ trưởng Bộ Khoa học và Công nghệ, thừa ủy quyền của Thủ tướng, trình bày tờ trình dự án Luật Trí tuệ nhân tạo trước Quốc hội.

Dự án luật này gồm 8 chương và 36 điều, nhằm tạo hành lang pháp lý cho lĩnh vực trí tuệ nhân tạo. Luật quy định nguyên tắc, phạm vi cùng chính sách phát triển trí tuệ nhân tạo, bảo đảm công nghệ này phục vụ con người và lấy con người làm trung tâm. Đồng thời, luật xác định rõ vai trò của Nhà nước trong việc quản lý, điều phối và hỗ trợ phát triển.

Luật thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc phát triển, ứng dụng cùng sử dụng trí tuệ nhân tạo diễn ra an toàn, minh bạch, có thể kiểm soát và chịu trách nhiệm giải trình. Luật cũng hướng đến việc phát triển hạ tầng, bảo đảm chủ quyền trí tuệ nhân tạo quốc gia, an ninh, an toàn, tự chủ công nghệ cùng chủ quyền dữ liệu quốc gia.

Ngoài ra, luật thúc đẩy hệ sinh thái đổi mới sáng tạo và phát triển nguồn nhân lực qua các cơ chế, chính sách hỗ trợ nghiên cứu, đầu tư, đào tạo nhân lực chất lượng cao, tạo điều kiện cho doanh nghiệp, tổ chức cùng cá nhân tham gia phát triển và ứng dụng trí tuệ nhân tạo.

Luật quy định về đạo đức và trách nhiệm trong hoạt động trí tuệ nhân tạo, bao gồm khung đạo đức quốc gia, bảo đảm hệ thống trí tuệ nhân tạo được phát triển và sử dụng vì con người, không gây hại, không thiên lệch, tôn trọng các giá trị nhân văn.

Luật tăng cường cơ chế giám sát, thanh tra và xử lý vi phạm, bảo đảm tính răn đe, công khai, minh bạch cùng củng cố niềm tin xã hội trong phát triển và ứng dụng trí tuệ nhân tạo.

Dự thảo luật quy định mức phạt tiền tối đa đối với vi phạm hành chính trong lĩnh vực trí tuệ nhân tạo là 2 tỷ đồng đối với tổ chức và 1 tỷ đồng đối với cá nhân. Đối với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm liền trước của tổ chức vi phạm.

Trong trường hợp tái phạm, mức phạt có thể đạt 2% doanh thu toàn cầu của năm trước liền kề. Nếu không có doanh thu năm trước hoặc mức phạt theo doanh thu thấp hơn, thì áp dụng mức phạt tiền tối đa 2 tỷ đồng đối với tổ chức, và cá nhân thực hiện cùng hành vi vi phạm chịu mức phạt bằng một nửa.

Luật quy định trách nhiệm minh bạch, gắn nhãn và giải trình. Nhà cung cấp chịu trách nhiệm bảo đảm hệ thống trí tuệ nhân tạo được thiết kế, vận hành cùng cung cấp theo cách thức cho phép nhận diện, giám sát và giải thích phù hợp với mức độ rủi ro. Nhà cung cấp cung cấp cho bên triển khai thông tin, hướng dẫn kỹ thuật cùng dữ liệu cần thiết để bên triển khai thực hiện đầy đủ nghĩa vụ minh bạch, gắn nhãn và giải trình theo quy định của luật.

Bên triển khai chịu trách nhiệm thông báo rõ ràng cho người sử dụng khi nội dung do hệ thống trí tuệ nhân tạo tạo ra, chỉnh sửa hoặc cung cấp thuộc trường hợp phải gắn nhãn theo quy định, đồng thời thực hiện việc gắn nhãn hoặc công bố thông tin minh bạch theo quy định.

Đối với sản phẩm là tác phẩm nghệ thuật hoặc sáng tạo, việc gắn nhãn được thực hiện theo phương thức bảo đảm không làm cản trở việc hiển thị, trình diễn hoặc thưởng thức tác phẩm.

Việc gắn nhãn áp dụng đối với nội dung do hệ thống trí tuệ nhân tạo tạo ra hoặc chỉnh sửa có yếu tố giả mạo, mô phỏng người thật, sự kiện thật và có khả năng khiến người xem, người nghe hoặc người đọc hiểu sai là thật; nội dung do trí tuệ nhân tạo tạo ra nhằm mục đích truyền thông, quảng cáo, tuyên truyền hoặc cung cấp thông tin công khai; các trường hợp khác theo quy định của Thủ tướng.

Dự luật quy định xử lý vi phạm và trách nhiệm bồi thường thiệt hại đối với tổ chức, cá nhân có hành vi vi phạm quy định của luật và quy định khác của pháp luật có liên quan đến trí tuệ nhân tạo. Tùy theo tính chất, mức độ, hậu quả của hành vi vi phạm, có thể bị xử phạt hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo quy định của pháp luật.

Trong báo cáo thẩm tra, ông Nguyễn Thanh Hải, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội, cho biết Ủy ban đồng ý việc xây dựng Luật Trí tuệ nhân tạo theo hướng luật khung.

Tuy nhiên, do trí tuệ nhân tạo phát triển nhanh, việc sửa đổi luật trong thời gian ngắn có thể xảy ra. Có ý kiến cho rằng luật trí tuệ nhân tạo là luật gốc, và mỗi luật chuyên ngành cần có một chương riêng về trí tuệ nhân tạo.

Về phân loại và quản lý hệ thống trí tuệ nhân tạo theo rủi ro, Ủy ban nhất trí phân loại thành 4 mức: thấp, trung bình, cao và không chấp nhận được.

Tuy nhiên, dự thảo luật chưa xác định rõ tiêu chí định lượng hoặc định tính để xác định và phân loại rủi ro, chưa có quy định về biện pháp quản lý, công cụ cùng phương pháp đánh giá rủi ro, nên việc phân loại, tự phân loại rủi ro gặp khó khăn, dẫn đến lo ngại về trách nhiệm pháp lý trong thực hiện.

Ủy ban đề nghị rà soát, cắt giảm các quy định tiền kiểm như yêu cầu hồ sơ kỹ thuật, nhật ký hoạt động trước khi đưa sản phẩm vào lưu hành, vì các quy định này tăng chi phí tuân thủ, chậm quá trình đổi mới và ứng dụng trí tuệ nhân tạo, giảm tính cạnh tranh cùng thu hút đầu tư, cần nghiên cứu chuyển mạnh sang cơ chế hậu kiểm.

Với nội dung về cơ sở dữ liệu quốc gia hệ thống trí tuệ nhân tạo và cơ sở dữ liệu phục vụ trí tuệ nhân tạo, Ủy ban đề nghị bổ sung nguyên tắc cốt lõi để bảo đảm chất lượng dữ liệu phục vụ trí tuệ nhân tạo như dữ liệu phải đúng, đủ, sạch, sống và thống nhất dùng chung; có cơ chế kết nối liên thông, chia sẻ dữ liệu để tránh phân tán tạo điểm nghẽn trong nghiên cứu, phát triển trí tuệ nhân tạo; có quy định nguyên tắc bắt buộc về bảo đảm an ninh mạng, bảo mật dữ liệu cùng phòng vệ đối với hạ tầng trí tuệ nhân tạo quốc gia, chống nguy cơ chiếm quyền điều khiển, rò rỉ dữ liệu.

Về trách nhiệm pháp lý của các bên liên quan, những hành vi và lỗi do con người thực hiện thì trí tuệ nhân tạo cũng có thể thực hiện. Trách nhiệm pháp lý của trí tuệ nhân tạo còn nhiều quan điểm khác nhau, nên rất khó xác định trách nhiệm theo nghĩa truyền thống. Khi có vụ việc phát sinh sẽ gây tranh chấp về trách nhiệm hành chính, dân sự, hình sự.

Do vậy, Ủy ban cho rằng cần bổ sung nguyên tắc để phân biệt trách nhiệm giữa các chủ thể, các bên liên quan kể cả đối với nhà cung cấp nước ngoài khi cung cấp dịch vụ trí tuệ nhân tạo xuyên biên giới, và phân biệt giữa các trường hợp cố ý, không cố ý hoặc lỗi do giới hạn kỹ thuật, không tiên lượng được trước.

Về các hành vi bị cấm, Ủy ban đề nghị bổ sung để nhận diện sớm các hành vi vi phạm từ khâu nghiên cứu đến triển khai sử dụng trí tuệ nhân tạo, trong đó phải gồm cả hành vi của người sử dụng, của tổ chức, cá nhân lợi dụng trí tuệ nhân tạo thực hiện các hành vi bị cấm theo hướng cấm sử dụng trí tuệ nhân tạo để gây rối, kích động chính trị, xâm phạm an ninh quốc gia, thao túng các cuộc bỏ phiếu, bầu cử; cấm sử dụng trí tuệ nhân tạo để tạo dựng những nội dung giả mạo, tạo dựng hình ảnh, video clip phục vụ lừa đảo, xúc phạm danh dự, nhân phẩm, gây chia rẽ và các mục đích xấu khác.

Ủy ban cũng đề nghị làm rõ thẩm quyền thành lập, cơ chế tổ chức và hoạt động của Ủy ban Quốc gia về trí tuệ nhân tạo. Việc gắn nhãn đối với các sản phẩm do trí tuệ nhân tạo tạo ra nhằm bảo đảm minh bạch và quyền được biết của người dùng, giúp người tiếp nhận thông tin biết rõ nội dung đó do trí tuệ nhân tạo tạo ra, không phải con người. Việc gắn nhãn cũng nhằm phòng ngừa gian lận, sai lệch thông tin, giúp hạn chế việc lợi dụng trí tuệ nhân tạo để tạo tin giả, xuyên tạc, thao túng dư luận, hoặc giả mạo phát ngôn của cá nhân, tổ chức.

Cùng với đó, gắn nhãn tăng trách nhiệm của tổ chức, cá nhân triển khai trí tuệ nhân tạo, giúp xác định nguồn gốc nội dung, hỗ trợ truy vết khi xảy ra rủi ro hoặc tranh chấp liên quan đến bản quyền, tính xác thực hoặc tác động tiêu cực. Như vậy, gắn nhãn tạo sự ràng buộc về trách nhiệm đạo đức và pháp lý để xây dựng lòng tin trong kỷ nguyên trí tuệ nhân tạo.

Ủy ban đồng ý với quy định về gắn nhãn tại dự luật, nhưng đề nghị tham khảo kinh nghiệm quốc tế đối với các sản phẩm do trí tuệ nhân tạo tạo ra để bảo đảm phù hợp với điều kiện thực tiễn của Việt Nam.

Đối với các sản phẩm, thiết bị phần cứng có ứng dụng trí tuệ nhân tạo như tủ lạnh, tivi, máy giặt, cần nghiên cứu, cân nhắc việc áp dụng hình thức gắn nhãn vô hình để giảm chi phí, thủ tục nhưng vẫn bảo đảm khả năng quản lý và truy xuất.

Đồng thời, Ủy ban đề nghị quy định tại dự thảo luật những nguyên tắc để giao Chính phủ hướng dẫn chi tiết về hình thức, tiêu chuẩn kỹ thuật và các trường hợp miễn trừ. Có ý kiến đề nghị chuyển quy định gắn nhãn từ bắt buộc sang khuyến khích, kèm hướng dẫn kỹ thuật tối thiểu; thí điểm cơ chế gắn nhãn tự nguyện ở một số lĩnh vực; đồng thời tăng cường truyền thông để tránh việc hiểu nhầm không có nhãn là không phải sản phẩm trí tuệ nhân tạo.