Nhân viên OpenAI cảnh báo: Hệ thống AI mất kiểm soát có thể khiến loài người tuyệt chủng

Mới đây, 16 nhân viên hiện tại và cựu nhân viên của OpenAI đã đưa ra một bức thư ngỏ, cảnh báo rằng công ty trí tuệ nhân tạo (AI) hàng đầu thế giới này thiếu sự minh bạch và trách nhiệm giải trình cần thiết, để ứng phó với những rủi ro tiềm ẩn trong AI. Bởi hệ thống AI mất kiểm soát có thể khiến loài người diệt vong.

Sự phát triển không giới hạn của trí tuệ nhân tạo (AI) đã đe dọa đến sự an toàn của nhân loại.  AFP đưa tin, một bức thư ngỏ của các nhân viên OpenAI đã nêu lên mối lo ngại về rủi ro bảo mật AI, từ việc làm sâu sắc thêm sự bất bình đẳng hiện có, đến thao túng và thông tin sai lệch, đến khả năng loài người tuyệt chủng nếu hệ thống AI tự trị vượt quá tầm kiểm soát.

16 người ký kết, bao gồm cả nhân viên tại Google DeepMind, cảnh báo rằng các công ty AI có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả, và khả năng tự giám sát của các công ty này không lớn.

Bức thư nêu rõ, các công ty AI có nhiều thông tin không công khai về khả năng và hạn chế của hệ thống của họ, về tính đầy đủ của các biện pháp bảo vệ và nguy cơ xảy ra các tác hại khác nhau. Nhưng hiện tại họ không có nghĩa vụ phải chia sẻ một số thông tin này với chính phủ. Họ cũng chưa chia sẻ thông tin này với xã hội dân sự, và không thể hoàn toàn mong đợi họ chia sẻ thông tin này một cách tự nguyện.

Bức thư ngỏ cũng cho biết, thực tế này có nghĩa là nhân viên trong công ty là những người duy nhất có thể thông báo cho công chúng. Những người ký thư ngỏ kêu gọi ban hành luật tố cáo rộng rãi hơn để bảo vệ họ.

• AI có thể “nhìn”, “nói” và đánh lừa con người

Theo New York Times, 4 nhân viên hiện tại của OpenAI đã ký đơn thỉnh nguyện nặc danh, vì sợ bị công ty trả thù.

Những người đồng ký tên còn bao gồm các nhà tiên phong nghiên cứu AI như Yoshua Bengio, Geoffrey Hinton và Stuart Russell. Họ thường được gọi là “bố già” của AI, từng chỉ trích việc mọi người thiếu sự chuẩn bị cho những rủi ro về AI.

Ông Musk kiện OpenAI và CEO Altman vi phạm mục đích ban đầu của công nghệ là mang lại lợi ích cho nhân loại

Ngày 29/2, ông Elon Musk, tỷ phú công nghệ toàn cầu kiêm CEO Tesla, đã đệ đơn kiện lên Tòa án cấp cao San Francisco, do công ty luật Irell＆Manella ở Los Angeles đại diện, kiện OpenAI và giám đốc điều hành Sam Altman.

Trong đơn kiện, ông Musk cho biết, Altman và OpenAI đã vi phạm thỏa thuận rằng công ty nghiên cứu AI được thành lập để phát triển công nghệ, mang lại lợi ích cho nhân loại, chứ không phải vì mục tiêu lợi nhuận.

Ông Musk tuyên bố, mối quan hệ gần đây của OpenAI với ‘gã khổng lồ’ công nghệ Microsoft đã làm suy yếu ý định ban đầu của công ty, là phát triển AI thông dụng, nguồn mở.

Các tài liệu của tòa án cho thấy, ông Musk đã đệ đơn cáo buộc OpenAI vi phạm hợp đồng, vi phạm nghĩa vụ ủy thác và các hoạt động kinh doanh không công bằng, đồng thời yêu cầu công ty khôi phục nguồn mở.

Ông cũng yêu cầu tòa án ban hành lệnh cấm OpenAI, cùng chủ tịch Greg Brockman, Sam Altman (đồng bị cáo trong vụ án) và công ty Microsoft được hưởng lợi từ AI thông dụng của công ty này.

Musk cho biết, trên thực tế OpenAI đã chuyển đổi thành một công ty con nguồn đóng của Microsoft. Dưới sự lãnh đạo của ban giám đốc mới, họ không chỉ phát triển, mà còn thực sự cải tiến AGI vì lợi nhuận của Microsoft, tối đa hóa lợi nhuận, mà không mang lại lợi ích cho nhân loại.

Các nhà nghiên cứu đã phát hiện các ví dụ về các công cụ tạo hình ảnh từ các công ty bao gồm OpenAI và Microsoft đã tạo ra những bức ảnh với thông tin sai lệch liên quan đến bầu cử, mặc dù có chính sách chống lại nội dung như vậy.

Bức thư ngỏ này là cảnh báo mới nhất nêu lên những lo ngại về an toàn liên quan đến công nghệ AI tạo sinh, có thể nhanh chóng sản xuất văn bản, hình ảnh và âm thanh giống như con người với chi phí cực thấp.

Nội dung bài đăng trên X: “Elon Musk đã đệ đơn kiện Open AI và Sam Altman vì vi phạm hợp đồng. Vụ kiện cáo buộc Altman và cộng sự đã phản bội thỏa thuận rằng thành lập Open AI với vai trò là một công ty phi lợi nhuận.”

Ông Musk cho biết, AGI là một loại AI được phát triển để tự động thể hiện mức độ nhận thức tương đương với con người. Điều này được phản ánh trong mô hình GPT-4 của OpenAI.

Ông chỉ ra rằng GPT-4 ra mắt vào tháng 3/2023 vẫn là một mẫu khép kín so với các phiên bản trước. Động thái này được thúc đẩy bởi những cân nhắc về lợi nhuận kinh doanh hơn là vì lợi ích của nhân loại.

Ông Musk là người đồng sáng lập OpenAI, nhưng đã rời khỏi hội đồng quản trị vào năm 2018. Ông cho biết, xung đột giữa hội đồng quản trị và Altman bắt nguồn từ sự phát triển của GPT-4 và khả năng lặp lại công nghệ AGI tiếp theo, điều mà Musk lo ngại có thể gây nguy hiểm cho an toàn công cộng.

Tháng 8/2015, nhà vật lý lý thuyết nổi tiếng người Anh Stephen Hawking lần đầu đề xuất “Lý thuyết về mối đe dọa” đối với AI trên trang web Reddit của Mỹ.

Ông tin chắc rằng AI ưu việt chắc chắn sẽ đạt được mục tiêu của mình. Vì vậy khi con người khác biệt với nó, nó chắc chắn sẽ có khả năng sự diệt trừ con người một cách gián tiếp hoặc trực tiếp.

Sau đó, ông tiếp tục cảnh báo, hệ thống AI sẽ tự khởi động và tiếp tục thiết kế lại, hoàn thiện bản thân với tốc độ chưa từng có. Nghiên cứu AI giống như triệu hồi ma quỷ. Một ngày nào đó sự phát triển toàn diện của AI đó có thể dẫn đến sự hủy diệt của loài người!