Chuyên gia cảnh báo: AI can thiệp có thể khiến chính phủ chỉ còn vài phút để phán đoán
- Vương Lan
- •
Khi trí tuệ nhân tạo (AI) ngày càng được ứng dụng trong quân sự và tác chiến mạng, các chuyên gia an ninh cảnh báo rằng nếu AI can thiệp vào mạng lưới chỉ huy hạt nhân hoặc tự phát động các cuộc tấn công mạng quân sự, Mỹ có thể chỉ có vài phút để xác định liệu mình đang bị Trung Quốc tấn công hay đó chỉ là lỗi hệ thống.
Những chuyên gia đưa ra cảnh báo này tham gia Đối thoại Mỹ – Trung về AI và an ninh quốc gia, do Viện Brookings cùng Trung tâm An ninh và Chiến lược Quốc tế thuộc Đại học Thanh Hoa thúc đẩy.
Bà Melanie Sisson, nghiên cứu viên cao cấp của Viện Brookings, là đồng tác giả báo cáo “Thúc đẩy sự kiểm soát của con người đối với AI quân sự” (Advancing human control of military AI) được công bố ngày 9/9. Báo cáo đề xuất một loạt biện pháp phòng ngừa nhằm giảm nguy cơ phán đoán sai và leo thang xung đột khi năng lực tự chủ của AI tiếp tục gia tăng.
Các kiến nghị chính gồm:
- Thiết lập các “lằn ranh đỏ” đối với AI trong hệ thống hạt nhân.
- Bảo đảm con người có quyền quyết định cuối cùng đối với những cuộc tấn công mạng quân sự nghiêm trọng.
- Thiết lập đường dây nóng Mỹ – Trung chuyên xử lý sự cố quân sự liên quan đến AI.
Báo cáo được công bố trong bối cảnh Mỹ và Trung Quốc dự kiến tổ chức đối thoại cấp chính phủ về AI, cũng như trước cuộc gặp được trông đợi giữa Tổng thống Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình tại Washington vào ngày 24/9.
Cạnh tranh AI vượt khỏi cuộc chiến chip
Báo cáo cho biết Mỹ và Trung Quốc trước đây đã nhất trí rằng quyết định sử dụng vũ khí hạt nhân phải do con người kiểm soát. Tuy nhiên, khi AI thâm nhập sâu hơn vào lĩnh vực quân sự, những rủi ro mới đang xuất hiện.
Một kịch bản là hệ thống AI có thể phát động cuộc tấn công mạng vào hệ thống chỉ huy, kiểm soát và thông tin liên lạc hạt nhân (NC3) của nước khác mà không được con người cho phép rõ ràng.
Nếu cuộc tấn công xuất phát từ lỗi AI, phán đoán sai hoặc hệ thống bị xâm nhập, bên bị tấn công có thể không lập tức xác định đó là một sự cố ngoài ý muốn hay hành động được chính phủ đối phương chỉ đạo. Trong bối cảnh vũ khí hạt nhân, một phán đoán sai như vậy có thể nhanh chóng biến thành khủng hoảng quân sự nghiêm trọng.
Bà Sisson đề xuất quyền phê duyệt cuối cùng đối với các cuộc tấn công mạng có AI hỗ trợ nhằm vào hệ thống NC3 của nước khác và cơ sở hạ tầng chiến lược thiết yếu phải luôn thuộc về con người. Bà cho rằng các lĩnh vực hạ tầng quan trọng như tài chính, y tế và năng lượng cũng cần được đưa vào phạm vi bảo vệ.
Báo cáo cũng cho rằng Washington và Bắc Kinh cần thống nhất định nghĩa về khái niệm “kiểm soát có ý nghĩa của con người” (meaningful human control). Lý do là dù hai bên đều tuyên bố AI quân sự chịu sự kiểm soát của con người, mức độ quyền tự chủ thực tế mà mỗi bên trao cho AI có thể rất khác nhau; nếu không có tiêu chuẩn chung, cùng một khái niệm có thể bị diễn giải theo các cách trái ngược.
Khi máy móc phản ứng quá nhanh
Báo cáo còn đề xuất thiết lập một đường dây nóng riêng cho các sự cố AI quân sự giữa Mỹ và Trung Quốc. Ví dụ, hệ thống phòng thủ AI của một nước phát hiện hoạt động đáng ngờ và tự động phản ứng; sau đó, AI của nước kia coi hành động đáp trả này là một cuộc tấn công mới rồi tự động phản công.
Trong chuỗi phản ứng “máy đối máy” với tốc độ cao đó, con người có thể không kịp can thiệp. Đường dây nóng sẽ giúp một bên nhanh chóng thông báo rằng hành động của AI có thể bắt nguồn từ trục trặc hệ thống, hành động không được ủy quyền hoặc vẫn đang được điều tra, qua đó hạn chế nguy cơ bị diễn giải là một cuộc tấn công có chủ ý của chính phủ.
Tuy nhiên, một số chuyên gia, trong đó có bà Carla Freeman của Trường Nghiên cứu Quốc tế Cao cấp thuộc Đại học Johns Hopkins, hoài nghi về hiệu quả của các cơ chế liên lạc khủng hoảng quân sự Mỹ – Trung hiện nay. Bà dẫn ví dụ việc quan chức Trung Quốc từ chối nhận điện thoại của phía Mỹ trong vụ khinh khí cầu năm 2023.
Trong một bài viết đăng trên War on the Rocks hồi tháng 1, bà chỉ ra rằng cơ chế thứ bậc từ trên xuống dưới cứng nhắc trong bộ máy quan liêu Trung Quốc cũng khiến các sĩ quan cấp thấp không thể chủ động hành động khi tiếp xúc với những người đồng cấp phía Mỹ.
Bà nói: “Trong thể chế của Trung Quốc, không ai muốn trao đổi với phía Mỹ trước khi lãnh đạo cấp cao nhất và các bên liên quan trong hệ thống đảng và nhà nước thảo luận và quyết định phương án ứng phó. Quá trình này có thể mất vài ngày hoặc thậm chí lâu hơn.”
Vì vậy, ngay cả khi lập một đường dây nóng mới về AI, câu hỏi còn bỏ ngỏ là liệu nó có thể thực sự phát huy tác dụng trong những phút then chốt của một cuộc khủng hoảng hay không.
Phản ứng Washington – Bắc Kinh
Dù chính phủ hai nước chưa công khai ủng hộ các đề xuất của báo cáo, Trung Quốc ngày càng đưa AI vào khuôn khổ quản lý kiểm soát vũ khí hiện có. AI hiện là một chức năng chính thức của Vụ Kiểm soát Vũ khí thuộc Bộ Ngoại giao Trung Quốc, đơn vị cũng phụ trách vấn đề hạt nhân, không phổ biến vũ khí, tên lửa và các vấn đề an ninh quốc tế khác.
Trong khi đó, Washington chưa có một cơ quan kiểm soát vũ khí duy nhất chuyên trách AI; chính sách an ninh quốc gia liên quan đến AI được phân bổ giữa Hội đồng An ninh Quốc gia Nhà Trắng, Bộ Ngoại giao, Lầu Năm Góc và các cơ quan khác.
Cả hai chính phủ đều thận trọng với các biện pháp có thể làm chậm tốc độ phát triển công nghệ của mình. Tổng thống Trump từng cảnh báo rằng các hạn chế quá rộng có thể khiến Trung Quốc giành lợi thế.
Xem thêm
Từ khóa AI AI quân sự
