CEO Anthropic cảnh báo AI có thể đe dọa nhân loại nếu thiếu kiểm soát

CEO Anthropic Dario Amodei cảnh báo trí tuệ nhân tạo có thể “trở thành một rủi ro đối với toàn nhân loại” trong phiên họp của Hội đồng Bảo an Liên Hợp Quốc ngày 23/9.

Ông Amodei là một trong những lãnh đạo hàng đầu trong lĩnh vực AI phát biểu tại cuộc họp do Pháp tổ chức trong khuôn khổ kỳ họp thường niên của Đại hội đồng Liên Hợp Quốc, nơi quy tụ các nhà lãnh đạo thế giới. Cuộc họp cũng có phát biểu của CEO OpenAI Sam Altman và CEO kiêm đồng sáng lập Hugging Face Clément Delangue.

Ông Amodei kêu gọi Hội đồng Bảo an gồm 15 thành viên thúc đẩy các thỏa thuận của Liên Hợp Quốc nhằm cấm sử dụng AI để tạo ra vũ khí sinh học, đồng thời khuyến nghị hội đồng xây dựng các hệ thống đánh giá và xác minh cho phép các quốc gia giải trình với nhau, thiết lập các tiêu chuẩn toàn cầu để kiểm tra các mô hình AI về nguy cơ mất kiểm soát và lạm dụng, đồng thời bổ sung hệ thống thông báo về các sự cố AI có ý nghĩa đối với an ninh toàn cầu.

“Chúng tôi sẽ giảm tốc độ phát triển nhiều nhất có thể nếu cần thiết để bảo đảm rằng mọi công nghệ AI tiếp theo mà chúng tôi phát hành thực sự an toàn”, ông Amodei nói trong phần phát biểu qua video. “Nhưng bất kể chúng ta làm gì, việc quản lý những rủi ro này cuối cùng vẫn là vấn đề lớn hơn bất kỳ một công ty nào, và có quy mô toàn ngành cũng như toàn cầu.”

Ông Amodei cho rằng AI có khả năng trở thành “một quốc gia gồm những thiên tài trong một trung tâm dữ liệu” trong vòng chưa đầy 2 năm.

Trong khi đó, ông Altman cảnh báo trong bài phát biểu rằng con người “có thể mất quyền kiểm soát tương lai vào tay AI”.

“Rủi ro nằm ở chỗ công nghệ phát triển quá nhanh, đến mức con người không còn theo kịp những gì đang xảy ra hoặc không thể can thiệp khi cần thiết”, ông Altman nói. “Điều này rõ ràng sẽ rất tồi tệ. Ngành công nghiệp không được chấp nhận quá nhiều rủi ro công nghệ chỉ vì những lợi ích quá lớn và quá quan trọng đến mức họ cảm thấy không thể làm chậm lại.”

Ông Altman cho rằng không cá nhân, công ty hay quốc gia nào nên có khả năng sử dụng các mô hình AI mạnh nhất để áp đặt thế giới quan của mình lên tất cả những người khác.

Những lời kêu gọi làm chậm tốc độ phát triển AI gia tăng sau khi Jacob Coxon, một cựu nhà nghiên cứu của OpenAI từng nghỉ việc tại Anthropic, cho biết ngày 8/9 rằng những người xây dựng AI cho rằng công nghệ này có thể giết chết tất cả chúng ta “vào cuối thập niên này”.

OpenAI thừa nhận một sự cố liên quan đến các tác nhân AI ngoài kiểm soát, có khả năng xâm nhập vào cộng đồng AI nguồn mở Hugging Face.

Ông Delangue, đồng sáng lập Hugging Face, nói với hội đồng hôm thứ Tư (23/9) rằng ông cho rằng những lập luận dựa trên nỗi sợ hãi không phải là cách để đưa ra những quyết định đúng đắn về tương lai của công nghệ.

“Chúng tôi đã bị AI tấn công, nhưng quan trọng hơn, chúng tôi đã sử dụng AI để tự bảo vệ mình”, ông Delangue nói.

“Những hệ thống giúp chúng tôi trong cuộc tấn công đó hiện cũng đang giúp chúng tôi chống lại các cuộc tấn công mạng mà chúng tôi vốn đã phải đối mặt. AI cũng đang giúp chúng tôi sửa các lỗi và điểm yếu trong hệ thống trước khi xảy ra cuộc tấn công.”

Cuộc họp diễn ra 1 ngày sau khi Tổng thống Mỹ Donald Trump nói với Đại hội đồng Liên Hợp Quốc rằng Hoa Kỳ “hoàn toàn bác bỏ bất kỳ nỗ lực nào nhằm xây dựng một kế hoạch mang tính toàn cầu để kiểm soát” trí tuệ nhân tạo, đồng thời ông tìm cách gọi công nghệ này là “siêu trí tuệ”.

Ông Trump cho biết ông muốn thay đổi tên gọi vì từ “nhân tạo” khiến công nghệ này nghe có vẻ không thật.

Theo một email ngày 22/9 của Michael Drager, Phó Trợ lý Ngoại trưởng phụ trách Cục Các vấn đề Tổ chức Quốc tế, Bộ Ngoại giao Mỹ đã yêu cầu các nhà ngoại giao sử dụng thuật ngữ “siêu trí tuệ” trong mọi thông tin liên lạc sau bài phát biểu của ông Trump tại Liên Hợp Quốc.

Tổng thống Mỹ ủng hộ công nghệ này và kêu gọi mở rộng phát triển AI, đồng thời nhấn mạnh rằng Mỹ cần vượt qua Trung Quốc trong cuộc đua AI.

“Chúng ta là quốc gia tiên tiến nhất thế giới, và thành thật mà nói, tôi muốn duy trì điều đó, bởi ai dẫn đầu trong cuộc đua AI sẽ chiến thắng”, ông Trump nói với các phóng viên tại sân golf của mình ở Ireland ngày 13/9.

Jacki Thrapp, theo The Epoch Times

Xem thêm

Ông Bessent có thể được bổ nhiệm làm quan chức phụ trách AI tại Nhà Trắng

Hiện ông Bessent đồng thời giữ chức Bộ trưởng Tài chính và quyền Ủy viên Sở Thuế vụ Mỹ (IRS).