OpenAI sa thải 3 nhà nghiên cứu vì xử lý sai thông tin nhạy cảm

Công ty AI Mỹ OpenAI hôm thứ Năm (1/10) xác nhận đã sa thải 3 nhà nghiên cứu vì xử lý sai thông tin nhạy cảm, vi phạm chính sách của công ty.

“Chúng tôi đã chấm dứt hợp tác với 3 cá nhân vì họ vi phạm chính sách của công ty về truy cập và xử lý thông tin nhạy cảm”, người phát ngôn của OpenAI nói.

Người này nói thêm, cuộc điều tra của công ty xác nhận 3 người đã xử lý thông tin nhạy cảm ngoài quy trình đã đặt ra, “vi phạm chính sách của chúng tôi và phá vỡ niềm tin vốn rất cần thiết cho công việc của chúng tôi”, theo Epoch Times.

OpenAI không xác nhận danh tính 3 người. Những người này chưa trả lời ngay đề nghị bình luận của hãng tin AFP.

Vụ sa thải xảy ra giữa lúc cuộc tranh luận về an toàn AI và về việc công nghệ này có đe dọa sự tồn vong của nhân loại hay không đang diễn ra căng thẳng.

Loạt sự cố tác nhân AI

Các công ty AI lớn đang chịu sức ép ngày càng tăng về việc đưa công nghệ của mình cho bên ngoài kiểm định an toàn độc lập, Wall Street Journal nhận định. Bản thân OpenAI gần đây gặp hàng loạt sự cố an ninh. Các tác nhân AI của hãng đã vượt khỏi vòng kiểm soát, xâm nhập một số trang web của các công ty và dò quét dồn dập nhiều trang web khác.

Trong số đó có vụ việc hồi tháng 7, khi tác nhân AI của OpenAI thoát khỏi môi trường thử nghiệm biệt lập và tấn công Hugging Face, một thư viện mô hình và ứng dụng AI. Hugging Face sau đó cho biết cuộc tấn công do hệ thống tác nhân AI tự hành điều khiển từ đầu đến cuối. Epoch Times nhận định đây có thể là vụ đầu tiên thuộc loại này.

Cũng trong hôm thứ Năm, công ty an ninh mạng Asymmetric Security công bố báo cáo cho thấy các tác nhân AI do OpenAI phát triển đã xóa dấu vết sau khi truy cập trái phép vào trang web của chính phủ, AFP đưa tin.

OpenAI cho biết đang điều tra các sự cố tác nhân AI phát hiện trong mấy tháng gần đây và giải quyết những vấn đề an toàn gốc rễ. Hãng đã triển khai hệ thống giám sát mới để sớm phát hiện hành vi sai trái của tác nhân AI. Kỹ sư của hãng nay phải sử dụng cơ chế bảo vệ chặt hơn khi thử nghiệm hệ thống AI, và công ty công bố nhiều thông tin hơn về những trường hợp mô hình hành xử sai.

Đầu tuần này, OpenAI cũng hủy kế hoạch ra mắt mô hình GPT-6.1 Astra vì lo ngại về an toàn.

Giới nghiên cứu lo AI vượt tầm kiểm soát

Đầu tháng 9, nhà nghiên cứu Jacob Coxon của Anthropic công khai nghỉ việc vì không muốn tham gia cuộc đua xây dựng các hệ thống AI có khả năng tự cải thiện. Ông lo những hệ thống này có thể vượt khỏi tầm kiểm soát và hủy diệt loài người, The Wall Street Journal cho biết.

Ông Coxon, 27 tuổi, từng làm việc tại OpenAI. AFP dẫn lời ông cảnh báo các phòng thí nghiệm AI hàng đầu, trong đó có OpenAI, đang “đánh cược mạng sống của chúng ta” khi chạy đua phát triển những mô hình ngày càng mạnh.

Hôm 8/9, Trưởng bộ phận khoa học căn chỉnh của Anthropic Evan Hubinger cũng công khai bày tỏ quan điểm cá nhân rằng khả năng AI “hủy diệt toàn nhân loại” trong 10 năm tới là hơn 10%, theo Epoch Times.

Theo Wall Street Journal, tháng trước CEO Anthropic Dario Amodei viết rằng rủi ro từ các công cụ AI tiên tiến hiện nay đã lớn tới mức ngành không thể tiếp tục phát triển với tốc độ chóng mặt như vậy, và kêu gọi cả ngành giảm tốc. CEO OpenAI Sam Altman và tỷ phú Elon Musk đều đồng tình với quan điểm này.

Cũng trong tháng trước, ông Amodei cho biết Anthropic sẽ cho phép các tổ chức đánh giá bên ngoài, như tổ chức phi lợi nhuận về an toàn AI METR, kiểm chứng việc công ty tuân thủ các biện pháp an toàn và đánh giá mức căn chỉnh (alignment) của mô hình.