Nhà nghiên cứu OpenAI, DeepMind cảnh báo đua AI tự cải thiện có thể vượt tầm kiểm soát

Vân Thiên
•
Thứ Sáu, 02/10/2026

Các nhà nghiên cứu từ OpenAI và Google DeepMind cảnh báo các công ty AI đang chạy đua phát triển những hệ thống có khả năng tự cải thiện chính mình, trong khi các biện pháp an toàn chưa theo kịp. Họ lo ngại rằng nếu AI tiến tới khả năng tự cải thiện đệ quy, tốc độ phát triển có thể vượt quá khả năng giám sát và kiểm soát của con người. Áp lực cạnh tranh giữa các công ty và giữa các quốc gia khiến việc giảm tốc hoặc phối hợp áp dụng các tiêu chuẩn an toàn trở nên khó khăn hơn.

Khái niệm trọng tâm là recursive self-improvement — tự cải thiện đệ quy. Thay vì con người phải thiết kế từng thế hệ AI mới, AI có thể ngày càng tham gia vào nghiên cứu, viết mã, thử nghiệm, tối ưu và cuối cùng có khả năng thiết kế các hệ thống kế nhiệm mạnh hơn. Anthropic cũng xác nhận AI hiện đã được sử dụng ngày càng nhiều trong quá trình phát triển AI, dù hãng nhấn mạnh hệ thống tự cải thiện hoàn toàn chưa tồn tại và không phải điều chắc chắn sẽ xảy ra.

Một nghiên cứu công bố tháng 9/2026 đã trình diễn một agent nghiên cứu AI có thể sửa mã của chính nó, đánh giá phiên bản mới rồi tiếp tục dùng phiên bản tốt hơn cho vòng cải tiến tiếp theo. Tuy nhiên, bằng chứng hiện tại chưa chứng minh rằng quá trình này sẽ tất yếu dẫn tới một “bùng nổ trí tuệ” không kiểm soát.

Một số nhà nghiên cứu cho rằng các phòng thí nghiệm đang ưu tiên năng lực hơn an toàn.
Những người tham gia dự án nói môi trường tại các công ty AI thường khen thưởng việc xây dựng các mô hình mới nhiều hơn việc yêu cầu thận trọng hoặc trì hoãn phát triển. Ông Geoffrey Irving, người từng làm tại cả OpenAI và DeepMind, cho rằng mức độ rủi ro đang tăng nhanh và các công ty có thể đơn phương giảm tốc thay vì chờ toàn ngành cùng hành động.

Nhà nghiên cứu DeepMind Neel Nanda nói ông tin có ít nhất 10% khả năng AI cuối cùng có thể dẫn tới sự tuyệt chủng của loài người, và gọi mức đó là quá cao để có thể bỏ qua.

Kỹ sư nghiên cứu định hướng AI phù hợp với con người (alignment) của OpenAI Juan Felipe Ceron Uribe mô tả tình trạng các phòng thí nghiệm các hệ thống AI tiên phong đang chạy đua với nhau trong khi chưa biết rõ kết quả cuối cùng sẽ là những lợi ích khổng lồ, mất việc trên diện rộng hay những hậu quả nghiêm trọng hơn.

Cạnh tranh khiến việc giảm tốc rất khó

Một nguyên nhân quan trọng là các công ty sợ rằng nếu họ chậm lại thì đối thủ sẽ vượt lên. Đặc biệt, trong bối cảnh công nghệ Mỹ–Trung đang cạnh tranh với nhau, khi chính quyền Mỹ gây áp lực duy trì lợi thế AI trước Trung Quốc.

Cựu nhà nghiên cứu quản trị OpenAI Daniel Kokotajlo cho rằng một số lãnh đạo phòng thí nghiệm tin rằng họ không thể đơn phương dừng lại vì nếu họ chậm lại trong khi đối thủ tiếp tục phát triển thì tình hình có thể còn nguy hiểm hơn.

Bản thân các công ty AI cũng bắt đầu thừa nhận vấn đề

OpenAI gần đây công khai kêu gọi xây dựng các yêu cầu an toàn AI bắt buộc ở cấp quốc gia và đặc biệt đề cập việc chuẩn bị cho khả năng tự cải thiện đệ quy.

Anthropic cũng viết rằng AI đang đảm nhận ngày càng nhiều phần việc trong quá trình phát triển AI. Theo hãng, nếu xu hướng này tiếp tục đủ xa, về lý thuyết có thể xuất hiện một hệ thống đủ khả năng tự thiết kế và phát triển hệ thống kế nhiệm của chính nó.

Vân Thiên, theo Yahoo News Singapore, Reuters, Yahoo Finance Canada, Anthropic