Cựu nhà nghiên cứu Anthropic: Các công ty AI đang hành động “cực kỳ liều lĩnh”

Ông Jacob Coxon, cựu nhà nghiên cứu của Anthropic, hôm thứ Hai (5/10) ra làm chứng tại phiên điều trần của Hội đồng thành phố New York, cho rằng các công ty AI đang “cực kỳ liều lĩnh”.

Hội đồng thành phố New York tổ chức phiên điều trần này dưới hình thức họp toàn thể, để thảo luận với các chuyên gia trong ngành về an toàn AI. Ông Coxon rời Anthropic hồi tháng trước và đăng bài trên mạng X cảnh báo AI “có thể hủy diệt loài người”. Bài đăng thu hút 170 triệu lượt xem chỉ trong một ngày, Epoch Times cho biết.

New York Post đưa tin ông có mặt theo lời mời của Chủ tịch Hội đồng thành phố Julie Menin. Bà Menin đang kêu gọi những người tố giác trong ngành AI ra làm chứng, khi thành phố muốn tham gia nhiều hơn vào quản lý ngành này.

“Theo kinh nghiệm của tôi, với rủi ro lớn như vậy, các công ty đang cực kỳ liều lĩnh,” ông Coxon nói. “Các công ty vận hành theo tư duy khởi nghiệp: làm nhanh, phá vỡ, sửa sau. Cách đó hợp với một ứng dụng chia sẻ ảnh. Nó không hợp khi xây dựng công nghệ mạnh nhất từng có.”

“Chúng ta không hiểu động cơ của nó”

Mở đầu phần phát biểu, ông Coxon nêu hai điều khiến ông lo ngại. Điều thứ nhất là con người chưa biết cách kiểm soát AI.

“Chúng ta không hiểu động cơ của nó, cũng không hiểu vì sao nó làm những việc nó làm”, ông nói.

Điều thứ hai là năng lực của các hệ thống AI đang tăng ngày càng nhanh, và các mô hình năm tới sẽ rất mạnh. “Chúng ta đang tiến gần đến thời điểm các hệ thống AI có khả năng tự cải thiện”, ông cảnh báo. Khi đó, AI có thể tự làm những nghiên cứu mà trước đây con người đảm nhận.

Ông Coxon thừa nhận AI có thể mang lại lợi ích to lớn, “gần như có thể cải thiện cuộc sống của mọi người”. Tuy nhiên, theo kinh nghiệm của ông, nếu cứ phát triển với tốc độ này thì “nhân loại rất có thể sẽ mất kiểm soát AI và cuối cùng đi đến diệt vong”.

Ông kể lại công việc cũ của mình.

“Ở công việc trước, theo một nghĩa nào đó, tôi làm việc để tự động hóa chính mình… Từ trải nghiệm trực tiếp, tôi có thể nói rằng phần lớn mã nguồn hiện nay do AI viết, và người ta không còn kiểm tra kỹ như trước nữa”.

Ông Coxon cho biết OpenAI đặt kế hoạch đạt “cột mốc nghiên cứu tự động hóa” vào khoảng năm 2027 hoặc 2028. “Họ có khả năng đạt được mục tiêu này, và đó chỉ là chuyện của vài tháng tới”, ông nói.

Trước khi kết thúc phần phát biểu, ông kêu gọi các công ty minh bạch hơn với công chúng và các chuyên gia độc lập, và coi trọng vấn đề an toàn hơn. “Trước khi có thể tin tưởng hoàn toàn vào AI, chúng ta nên làm chậm lại tốc độ phát triển AI tiên phong”, ông nói.

Hai nhà nghiên cứu khác cũng cảnh báo rủi ro lớn

Cùng làm chứng trực tuyến tại phiên điều trần còn có cựu nhà nghiên cứu Google DeepMind Alex Turner và ông Daniel Kokotajlo. Ông Kokotajlo từng là nhà nghiên cứu của OpenAI, hiện đứng đầu AI Futures Project, tổ chức chuyên về tác động xã hội của công nghệ mới.

“Một bầy siêu trí tuệ có thể giành quyền kiểm soát nền văn minh nhân loại”, ông Turner nói. “Nó sẽ biết chúng ta tìm cách ngăn nó đạt mục tiêu, nên nhiều khả năng nó sẽ chờ đến lúc chúng ta không còn kịp tắt nó đi. Khi đó sẽ không còn đường lui. Bản thân tôi ước tính khả năng AI tiếp quản vào khoảng 1/3”.

Ông Turner cho biết nguy cơ AI thay thế con người không phải chủ đề mới, giới nghiên cứu đã bàn nhiều năm. Ông cho rằng Google dường như đã từ bỏ các cam kết cũ về kiểm soát rủi ro AI, như không dùng công nghệ của DeepMind cho mục đích quân sự, tình báo hay phát triển vũ khí tự hành. “Năm 2025, Google đã xóa bỏ những nguyên tắc này”, ông nói.

Ông Turner hoan nghênh các dự luật mà Hội đồng thành phố đưa ra và sẵn sàng góp thêm ý kiến sau phiên điều trần.

Ông Kokotajlo so sánh quan hệ giữa con người với AI như quan hệ giữa hội đồng quản trị với công ty. “Chúng ta thậm chí phải dựa vào những lời giải thích do AI tạo ra để hiểu hoạt động bên trong công ty”, ông nói. Theo ông, khả năng nhận ra AI đi chệch mục tiêu hiện đã kém, và sẽ còn kém hơn trong tương lai gần.

Ông đưa ra hai đề xuất: tăng mạnh tính minh bạch của ngành AI, và chấm dứt cuộc chạy đua giữa các công ty AI tiên phong.

Dù lãnh đạo các hãng công nghệ nay ủng hộ quản lý chặt hơn, ông Kokotajlo cho rằng không nên giao cho họ quyền kiểm soát AI. “Tôi nghĩ có khả năng rất thực tế là họ dùng nó để trở thành những nhà độc tài hay giới tài phiệt ngay tại nước Mỹ”, ông nói.

Câu hỏi về Trung Quốc

Tổng thống Mỹ Donald Trump từng cho rằng rủi ro lớn hơn là Mỹ làm chậm phát triển AI và để Trung Quốc vượt lên trong cuộc đua này. Những người tố giác phản bác lập luận đó tại phiên điều trần.

Khi bà Menin hỏi Mỹ sẽ đối phó với cạnh tranh từ Đảng Cộng sản Trung Quốc (ĐCSTQ) ra sao nếu làm chậm phát triển AI, ông Kokotajlo đáp rằng AI là mối đe dọa cấp bách hơn ĐCSTQ.

“Nói một cách thẳng thắn và đơn giản, chúng ta phải giải quyết mối đe dọa cấp bách ngay trong nước trước, rồi mới tìm cách bảo đảm Trung Quốc cũng không khiến chúng ta mất mạng”, ông nói.

Ông Kokotajlo lập luận rằng các sản phẩm AI của Trung Quốc thực chất đều bắt nguồn từ Mỹ, nên nếu Mỹ chậm lại thì Trung Quốc cũng chậm theo. AI của Trung Quốc cũng đang hướng tới khả năng “tự cải thiện đệ quy”. Vì vậy, theo ông, việc Mỹ cần làm lúc này là áp dụng đủ biện pháp an ninh để quân đội ĐCSTQ không đánh cắp được các mô hình.

Dự luật buộc lắp “công tắc ngắt”

Anthropic, OpenAI, Google và Meta đều có đại diện dự phiên điều trần theo hình thức trực tuyến, nhưng không phải giám đốc điều hành mà là người phụ trách chính sách và một số lãnh đạo khác, New York Post cho biết.

Bà Menin cho biết Google, OpenAI và Anthropic chỉ đồng ý tham dự sau khi Hội đồng thành phố gửi thư đe dọa dùng quyền ra trát.

Nghị viên Phil Wong (Hoàng Hữu Hưng) của khu Queens nói với Epoch Times trước phiên điều trần rằng một phiên họp toàn thể như vậy là hiếm có tại Hội đồng thành phố New York. “Tôi tự hào vì New York là nơi đầu tiên trong cả nước tổ chức phiên điều trần như thế này”, ông nói.

“Vấn đề này khá nghiêm trọng. Trẻ em làm bài tập cũng dùng AI, người lớn thì coi AI như luật sư, như bác sĩ… Điều đó rất nguy hiểm”, ông Wong cảnh báo.

Các nhà lập pháp thành phố và lãnh đạo công nghệ đang thảo luận một loạt dự luật nhằm quản lý các công ty AI tại New York. Một dự luật quy định công ty không được “quảng bá, chào bán hay triển khai” hệ thống AI tại 5 quận của thành phố nếu chưa qua thẩm định của chuyên gia bên ngoài.

Một dự luật khác buộc mọi công cụ AI dùng trong thành phố phải có “công tắc ngắt”, mà Hội đồng định nghĩa là “cơ chế để con người can thiệp, có thể tắt hệ thống”. Vi phạm một trong hai dự luật này sẽ bị phạt 25 nghìn USD.

Hội đồng thành phố cũng đề xuất thưởng tiền cho người tố giác, lấy kinh phí từ tiền phạt các công ty vi phạm, một cơ chế “đầu tiên trên toàn quốc”.