Hơn 350 chuyên gia cảnh báo AI có nguy cơ hủy diệt nhân loại

Vào thứ Ba (30/5), một nhóm các nhà khoa học và lãnh đạo ngành công nghệ, bao gồm Giám đốc điều hành OpenAI – Sam Altman, đã cảnh báo về những rủi ro do trí tuệ nhân tạo (AI) gây ra, so sánh tác động tiềm tàng của nó với chiến tranh hạt nhân.

Cảnh báo chỉ là một câu:

“Giảm nguy cơ trí tuệ nhân tạo diệt chủng nhân loại, nên xếp nó thành ưu tiên toàn cầu bên cạnh các nguy cơ quy mô xã hội khác, chẳng hạn như đại dịch và chiến tranh hạt nhân.”

Họ viết trên trang web của Trung tâm An toàn Trí tuệ Nhân tạo (Center for AI Safety，CAIS), một tổ chức phi lợi nhuận có trụ sở tại San Francisco.

Tuyên bố vẫn đang mời mọi người ký tên.

Hiện tại, tuyên bố đã được ký bởi hơn 350 quản lý cấp cao, nhà nghiên cứu và kỹ sư tham gia nghiên cứu trí tuệ nhân tạo, bao gồm Sam Altman (Giám đốc điều hành OpenAI), Demis Hassabis (Giám đốc điều hành Google DeepMind) và Dario Amodei (Giám đốc điều hành Anthropic).

Ông Geoffrey Hinton và ông Yoshua Bengio, thường được coi là “cha đỡ đầu” của trí tuệ nhân tạo hiện đại, cũng đã ký vào bản tuyên bố.

• “Cha đỡ đầu” của AI rời Google để cảnh báo về sự nguy hiểm của công nghệ này

Tuyên bố từ Trung tâm An toàn AI thừa nhận rằng đã có cuộc thảo luận gay gắt về tác động tiềm ẩn của AI, đặc biệt là kể từ khi ra mắt ChatGPT vào tháng 11 năm ngoái.

Tuyên bố cho biết: “Các chuyên gia AI, nhà báo, nhà hoạch định chính sách và công chúng đang ngày càng thảo luận nhiều hơn về nhiều rủi ro quan trọng và cấp bách do AI gây ra. Mặc dù vậy, cũng rất khó để bày tỏ lo ngại về một số rủi ro nghiêm trọng nhất đối với trí tuệ nhân tạo tiên tiến. Tuyên bố ngắn gọn dưới đây nhằm khắc phục trở ngại này, đồng thời mở ra cuộc thảo luận.”

Sáng kiến ​​này cũng nhằm nhấn mạnh rằng “ngày càng nhiều chuyên gia và nhân vật của công chúng cũng đang coi trọng một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến.”

Tuyên bố này được đưa ra sau các sáng kiến ​​khác gần đây của một số chuyên gia công nghệ và nhà khoa học, họ bày tỏ lo ngại về sự phát triển nhanh chóng của trí tuệ nhân tạo.

Hồi tháng 3, hơn 1.000 nhà lãnh đạo và chuyên gia về AI đã kêu gọi tạm dừng phát triển ChatGPT.

‘Cha đẻ’ của ChatGPT Sam Altman điều trần trước Quốc hội Mỹ

Hôm 16/5, người đứng đầu công ty OpenAI, ‘cha đẻ’ của ChatGPT, đã phát biểu trước Quốc hội Mỹ rằng sự can thiệp của chính phủ là điều vô cùng quan trọng để giảm thiểu rủi ro của các hệ thống AI vốn đang phát triển một cách mạnh mẽ.

Phát biểu tại phiên điều trần của Thượng viện, anh Sam Altman nói rằng: “Khi công nghệ này tiến bộ, chúng tôi hiểu rằng mọi người lo lắng về cách mà nó có thể thay đổi cuộc sống của chúng ta. Chúng tôi cũng vậy.”

Altman đã đề xuất thành lập một cơ quan tại Mỹ hoặc trên toàn thế giới chịu trách nhiệm cấp phép cho các hệ thống AI mạnh nhất, đồng thời có quyền “thu hồi giấy phép đó và đảm bảo việc tuân thủ các tiêu chuẩn an toàn.”

Những rủi ro mang tính xã hội này đã khiến anh Altman và các CEO công nghệ khác phải trình diện trước Nhà Trắng vào đầu tháng Năm và khiến các cơ quan của Hoa Kỳ hứa sẽ trấn áp những sản phẩm AI có hại, vi phạm quyền dân sự và luật bảo vệ người tiêu dùng hiện hành. Tuy nhiên, không có dấu hiệu ngay lập tức rằng Quốc hội Mỹ sẽ xây dựng các quy định mới về AI, như cách các nhà lập pháp châu Âu đang tiến hành.