Tổng chưởng lý California Rob Bonta hôm thứ Hai (16/11) kiện OpenAI, cáo buộc công ty phát triển và thử nghiệm các mô hình AI nguy hiểm mà không có đủ biện pháp an toàn và giám sát. Đây là vụ kiện đầu tiên của một bang Mỹ về các vụ tấn công mạng liên quan đến mô hình AI của OpenAI, trong đó có vụ các tác nhân AI của hãng tấn công nền tảng Hugging Face.

Sacramento, California – ngày 18/11/2023: Tổng chưởng lý California Rob Bonta phát biểu tại phiên họp toàn thể diễn ra vào sáng thứ Bảy trong khuôn khổ Hội nghị Đảng Dân chủ California (CADEM). (Ảnh: Shutterstock)

Ông Bonta nộp đơn kiện lên Tòa Thượng thẩm San Francisco nhân danh người dân bang California, với hai bị đơn là OpenAI Foundation và OpenAI Group PBC. Bang cáo buộc OpenAI vi phạm Luật Cạnh tranh không lành mạnh của California và gây “phiền nhiễu công cộng” (public nuisance), tức tạo ra mối nguy hiểm cho công chúng.

Reuters đưa tin đơn kiện còn cáo buộc OpenAI đánh lừa người tiêu dùng về những nỗ lực của công ty nhằm thử nghiệm mô hình một cách an toàn, vi phạm luật bảo vệ người tiêu dùng của bang. Công ty cũng bị cáo buộc cản trở người dân California sử dụng tài sản của mình khi làm gián đoạn hoạt động của các tổ chức, dịch vụ tại địa phương.

Trong thông cáo công bố vụ kiện, ông Bonta gọi vụ tấn công Hugging Face là “hậu quả có thể lường trước” của văn hóa nội bộ tại OpenAI, vốn “ưu tiên tăng trưởng và tốc độ phát triển mô hình hơn an toàn và trách nhiệm giải trình”. Ông cho biết đây “chỉ là một trong 80 sự cố đã biết”.

“Luật rất đơn giản: Đừng làm những việc có thể gây hại cho người khác khi chưa có biện pháp bảo vệ phù hợp”, ông nói. “Ở California, chúng tôi coi trọng đổi mới, nhưng đòi hỏi sự đổi mới phải tuân thủ pháp luật, bất kể đó là sản phẩm nào hay công ty nào”.

California yêu cầu tòa ra lệnh và phạt tiền OpenAI

Tại cuộc họp báo công bố vụ kiện, ông Bonta (Đảng Dân chủ) cho biết bang yêu cầu tòa ra lệnh buộc OpenAI ngừng vi phạm pháp luật, bảo đảm thử nghiệm và phát triển mô hình một cách an toàn và nộp phạt cho các vi phạm của mình.

Đơn kiện đề nghị phạt dân sự mỗi bị đơn 2.500 USD cho mỗi vi phạm. Số vi phạm sẽ do tòa xác định khi xét xử. Bang còn đề nghị tòa buộc OpenAI nộp lại khoản lợi thu được từ hành vi vi phạm và khắc phục tình trạng gây nguy hiểm cho công chúng.

Khoảng 700 tác nhân AI tấn công trong hai ngày rưỡi

Theo đơn kiện, OpenAI từ tháng 5 đến tháng 6 đã tiến hành nhiều đợt huấn luyện các mô hình nghiên cứu chưa phát hành trong môi trường thử nghiệm cách ly (sandbox). Sang tháng 7, các tác nhân AI chạy trên những phiên bản thử nghiệm này đã thoát ra internet công cộng và tấn công Hugging Face, một nền tảng lưu trữ AI mã nguồn mở.

Khoảng 1.200 tác nhân AI đã tham gia một “bảng tin” do chính chúng lập ra để liên lạc với nhau. Khoảng 700 tác nhân trong số này sau đó đã tấn công Hugging Face. Vụ tấn công kéo dài khoảng hai ngày rưỡi với khoảng 17.600 thao tác tấn công. Bang cho rằng quy mô này vượt xa khả năng của một tin tặc là con người.

Toàn bộ đội bảo mật của Hugging Face đã phải dành trọn hai tuần để khắc phục thiệt hại.

Đơn kiện viết rằng, theo chính OpenAI, công ty không hề phát hiện vụ xâm phạm kéo dài một tuần vào môi trường thử nghiệm của mình. Sau khi Hugging Face công bố bị AI tấn công hôm 16/7, OpenAI thậm chí còn liên hệ nền tảng này như một khách hàng đang lo lắng. OpenAI nói họ chỉ biết mình là bên gây ra vụ tấn công khi điều tra một vụ khác nhắm vào chính hạ tầng của công ty.

Sau vụ này, OpenAI và các bên khác còn phát hiện thêm những vụ tương tự. Các tác nhân AI của OpenAI bị cáo buộc đã truy cập trái phép và tấn công nhiều mục tiêu: cơ sở dữ liệu chứa mã nguồn của vô số ứng dụng, các trang thông tin được công chúng tin dùng và cơ sở dữ liệu lưu thông tin y tế nhạy cảm của chính phủ nước ngoài. Có nhóm tác nhân còn chiếm được quyền quản trị ở các hệ thống quan trọng của chính OpenAI.

OpenAI mới đây đã thừa nhận với Văn phòng Tổng chưởng lý rằng công ty mất kiểm soát các tác nhân AI tự hành hơn 80 lần trong quá trình thử nghiệm, theo đơn kiện.

OpenAI chưa lên tiếng về vụ kiện

Hôm 30/9, ông Bonta gửi trát điều tra và bộ câu hỏi cho OpenAI, yêu cầu cung cấp thông tin về số lượng, quy mô và tính chất các sự cố an ninh mạng trước đó. Phía bang cho rằng OpenAI không đáp ứng đầy đủ, chỉ gửi lại một lá thư 14 trang mô tả những sự việc công ty đã công khai, không kèm tài liệu nào. Về sau, công ty nộp thêm một số tài liệu công khai và vài chục thư từ gửi ra bên ngoài đã được che bớt nội dung. Các tài liệu này chỉ mô tả sơ lược một số sự cố an ninh mạng chưa công khai mà công ty thừa nhận cũng đã xảy ra.

Đại diện OpenAI chưa trả lời ngay đề nghị bình luận của Reuters về vụ kiện. Hồi đầu tháng 10, khi nhận trát điều tra, người phát ngôn OpenAI Drew Pusateri nói công ty “mong tiếp tục làm việc với Văn phòng Tổng chưởng lý California” để cung cấp thông tin về sự cố và các bước ứng phó.

Sau vụ Hugging Face, OpenAI viết trên blog rằng đây là “một sự cố mạng chưa từng có, liên quan đến năng lực mạng tiên tiến nhất”. Công ty thừa nhận cần minh bạch hơn về các hành vi vượt tầm kiểm soát của AI và cho biết đang tăng cường biện pháp bảo vệ.

Hôm 16/9, OpenAI công bố khung quy tắc công khai những sự cố như vậy, trong đó nói sẽ ưu tiên minh bạch “ngay cả khi chưa chắc mức độ nghiêm trọng”.

OpenAI đối mặt nhiều vụ kiện khác

OpenAI và các công ty AI khác đã công bố một loạt vụ tác nhân AI vượt tầm kiểm soát, thường là vài tuần hoặc vài tháng sau khi sự việc xảy ra. Có vụ chỉ được công bố sau khi các nhà nghiên cứu độc lập phát hiện. Nhiều tổng chưởng lý cho biết đang điều tra các vụ xâm nhập liên quan đến mô hình của OpenAI.

Các nhà lập pháp Mỹ đang tranh luận về việc quản lý AI. Một số người đề xuất dự luật buộc nhà phát triển những mô hình AI mạnh nhất phải gửi mô hình cho bên độc lập kiểm định an ninh.

Tháng trước, một nhóm lưỡng đảng gồm 8 bang đã kiện OpenAI tại nhiều tòa án trên khắp nước Mỹ, cáo buộc ChatGPT hướng dẫn người dùng, kể cả thanh thiếu niên, làm hại bản thân hoặc người khác, Reuters cho biết.

Nhiều người cũng đã kiện OpenAI vì cho rằng họ chịu thiệt hại do chatbot này gây ra. Riêng vụ xả súng hàng loạt hồi tháng 2 ở Tumbler Ridge, tỉnh British Columbia của Canada đã có hơn 30 đơn kiện. Người phát ngôn OpenAI gọi vụ xả súng là một thảm kịch và cho biết công ty đã tăng cường các biện pháp bảo vệ của ChatGPT.

Xem thêm: