Các lãnh đạo ngành AI ủng hộ CEO Anthropic kêu gọi làm chậm phát triển AI

CEO Anthropic Dario Amodei kêu gọi các công ty AI làm chậm quá trình phát triển những mô hình tiên tiến nhất, nhận được sự ủng hộ của một số lãnh đạo trong ngành. Tuy nhiên, cuộc cạnh tranh công nghệ Mỹ–Trung có thể trở thành trở ngại lớn đối với bất kỳ nỗ lực nào nhằm làm chậm phát triển AI trên toàn ngành.

Trong một bài luận dài được công bố ngày 12/9, Amodei cho rằng việc chỉ đầu tư vào phòng ngừa rủi ro là không còn đủ. Thay vào đó, ông cho rằng các công ty phát triển những mô hình AI tiên tiến nhất nên chủ động làm chậm tốc độ nâng cao năng lực của chúng.

Theo ông, điều này có thể giúp các nhà nghiên cứu và chính phủ có thêm thời gian để xây dựng các biện pháp bảo vệ trước khi các hệ thống AI trở nên quá mạnh.

“Tôi tin rằng nếu việc làm chậm quá trình phát triển giúp chúng ta có thêm dù chỉ một hoặc hai năm trước khi các mô hình đạt đến những mức năng lực nguy hiểm, và chúng ta tận dụng thời gian đó để thúc đẩy việc phát triển AI theo hướng an toàn, chúng ta có thể giảm đáng kể nguy cơ xảy ra sự cố nghiêm trọng”, ông Amodei viết.

“Tiến bộ vẫn sẽ diễn ra nhanh chóng, và chúng ta phải sử dụng khôn ngoan khoảng thời gian có được”, ông nói thêm.

Một trong những mối lo ngại chính của ông là khả năng ngày càng tăng của AI trong việc hỗ trợ xây dựng thế hệ hệ thống AI tiếp theo.

Ông Amodei cho biết quá trình này, thường được gọi là tự cải thiện kiểu đệ quy (recursive self-improvement), đã tăng tốc từ khoảng mùa hè năm nay. Ông cảnh báo rằng nghiên cứu được AI hỗ trợ cuối cùng có thể phát triển nhanh hơn khả năng của con người trong việc quản lý các hệ thống AI.

“Nếu không được kiểm soát, quá trình này có thể vượt xa khả năng của chúng ta trong việc hiểu và kiểm soát các hệ thống này”, ông viết.

Các lãnh đạo trong ngành ủng hộ đề xuất

Trong một thời điểm hiếm hoi thể hiện sự đồng thuận, các lãnh đạo và nhà nghiên cứu tại những công ty AI cạnh tranh với nhau đã lên tiếng ủng hộ lời kêu gọi của Amodei.

“Tôi đồng ý với Dario rằng chúng ta cần làm chậm tốc độ phát triển của AI tiên tiến nhất”, CEO OpenAI Sam Altman viết trên X, đồng thời cho biết OpenAI sẽ thực hiện cam kết tương tự Anthropic, đó là cho phép các đơn vị đánh giá độc lập tiếp cận các hệ thống của công ty ở mức tương đương nhân viên.

Elon Musk, CEO SpaceXAI, cũng ủng hộ Amodei ngày 12/9, viết trên X: “Dario nói đúng”.

CEO Hugging Face Clement Delangue cho biết công ty của ông đang khởi động một “sáng kiến mở về an an toàn và định hướng AI” và đề nghị tham gia các nỗ lực nhằm cho phép tiếp cận sâu hơn với các phòng nghiên cứu AI.

Andrej Karpathy, một nhà nghiên cứu AI và cựu lãnh đạo tại OpenAI và Tesla, cũng ủng hộ đề xuất.

“Tôi rất ủng hộ ý tưởng này và thực sự hy vọng toàn ngành có thể cùng nhau hành động để biến nó thành hiện thực”, ông Karpathy viết trên X.

CEO Google DeepMind Demis Hassabis chưa công khai phản hồi đề xuất của Amodei trước thời điểm bài viết được đăng. Tuy nhiên, trước đây ông từng kêu gọi tăng cường giám sát từ bên ngoài đối với AI tiên tiến.

Kế hoạch 3 bước

Ông Amodei đề xuất một khuôn khổ gồm 3 giai đoạn để “làm chậm tốc độ phát triển AI tiên tiến”.

Bước đầu tiên là trao cho các đơn vị đánh giá an toàn độc lập quyền tiếp cận lâu dài các hệ thống của những công ty phát triển AI tiên tiến ở mức tương đương nhân viên. Anthropic cho biết sẵn sàng tự áp dụng biện pháp này và kêu gọi các nhà phát triển lớn khác làm theo.

Bước thứ hai là yêu cầu các công ty phát triển AI tiên tiến phối hợp xây dựng những tiêu chuẩn an toàn chung, để một công ty không bị đặt vào thế bất lợi về cạnh tranh chỉ vì làm chậm quá trình phát triển.

Bước thứ ba — và có lẽ cũng là bước khó thực hiện nhất — là đạt được thỏa thuận với Trung Quốc nhằm ngăn chặn một cuộc chạy đua AI, trong đó các nhà phát triển cảm thấy buộc phải đẩy nhanh tiến độ vượt quá khả năng theo kịp của các biện pháp an toàn.

Ông Amodei cho rằng chính phủ có thể cần tham gia để thiết lập các tiêu chuẩn có tính ràng buộc và giải quyết những vấn đề pháp lý liên quan đến việc các công ty cạnh tranh với nhau hợp tác.

Trung Quốc khiến việc làm chậm AI trở nên phức tạp

Bất kỳ nỗ lực làm chậm phát triển AI trên toàn ngành nào cũng sẽ vấp phải một trở ngại địa chính trị lớn: cuộc cạnh tranh công nghệ Mỹ-Trung.

Ông Amodei lập luận rằng các công ty Mỹ không thể làm chậm vô thời hạn nếu các nhà phát triển Trung Quốc vẫn tiếp tục tiến lên với tốc độ tối đa.

“Khả năng các nền dân chủ làm chậm tốc độ phát triển AI sẽ bị giới hạn bởi khoảng cách mà các công ty Mỹ đang dẫn trước các chế độ độc tài, chủ yếu là Đảng Cộng sản Trung Quốc”, ông viết.

Ông Amodei kêu gọi siết chặt các biện pháp kiểm soát chip AI tiên tiến và thực hiện các biện pháp ngăn chặn việc đánh cắp hoặc sao chép những mô hình hàng đầu của Mỹ. Đồng thời, ông cho rằng Washington cuối cùng nên tìm kiếm các thỏa thuận với Bắc Kinh về ít nhất một số vấn đề an toàn AI.

Ông cho rằng ngay cả sự hợp tác hạn chế cũng có thể giúp cả hai bên có thêm dư địa để làm chậm quá trình phát triển khi xuất hiện những năng lực nguy hiểm.

Đề xuất này đã thu hút sự chú ý của các thành viên Quốc hội.

Thượng nghị sĩ Brian Schatz (Đảng Dân chủ, bang Hawaii) viết trên X rằng ông đang “nghiên cứu” đề xuất của Amodei, gọi đây là “một khởi đầu hợp lý” và “nghiêm túc nhìn nhận nhu cầu cần nhanh chóng ban hành các biện pháp cần thiết”.

Trong khi đó, Thượng nghị sĩ John Cornyn (Đảng Cộng hòa, bang Texas) bày tỏ hoài nghi về khả năng Trung Quốc hợp tác. “Trung Quốc thì sao?” ông viết.

Việc làm chậm phát triển AI có thể trở thành một chủ đề được đề cập khi Tổng thống Donald Trump gặp nhà lãnh đạo Trung Quốc Tập Cận Bình tại Washington vào cuối tháng này. Ông Trump đã xác nhận trí tuệ nhân tạo sẽ là một trong những vấn đề hai bên thảo luận.

“Ông Tập Cận Bình sẽ tới đây vào ngày 24/9. Chúng tôi đã nói về trí tuệ nhân tạo khi tôi ở Bắc Kinh và sẽ tiếp tục thảo luận về vấn đề này”, ông Trump nói hồi tháng 7.

Mỹ và Trung Quốc cũng đang chuẩn bị cho một cuộc đối thoại rộng hơn về AI, dự kiến sẽ đề cập đến các vấn đề như an ninh mạng, các mô hình tiên tiến và những rủi ro do các hệ thống ngày càng tự chủ gây ra.

Đối với ông Amodei, cạnh tranh quốc tế không làm mất đi nhu cầu phải làm chậm quá trình phát triển.

Ngược lại, ông lập luận rằng điều đó khiến việc phối hợp giữa các bên ngày càng quan trọng.

“Những lợi ích đó chỉ có thể đạt được nếu chúng ta phát triển công nghệ theo hướng đúng đắn và an toàn”, ông viết.

Theo Bill Pan, The Epoch Times