Ông Trump bác bỏ thuyết AI tận thế, chuyên gia phân tích rủi ro mất kiểm soát
- Phi Trân
- •
AI đã thông minh đến mức “không thể tắt”, thậm chí đe dọa an toàn tính mạng con người? Khi khả năng tự chủ của các tác nhân AI ngày càng được nâng cao, những lo ngại liên quan đang làm dấy lên cuộc tranh luận trên toàn cầu. Gần đây, ba gã khổng lồ trong ngành AI hiếm hoi đạt được đồng thuận về việc giảm tốc độ phát triển và chú trọng an toàn. Trong khi đó, Tổng thống Mỹ Donald Trump chỉ trích “thuyết ngày tận thế do AI gây ra” là một trò lừa bịp, đồng thời cảnh báo rằng nếu Mỹ làm chậm tốc độ phát triển AI vì tăng cường quản lý, nước này có thể mất lợi thế trong cuộc cạnh tranh công nghệ với Trung Quốc.
Ba chuyên gia trả lời phỏng vấn của Epoch Times cho rằng, trong cuộc cạnh tranh AI Mỹ – Trung, nếu Mỹ giảm tốc độ phát triển, Trung Quốc có thể càng đẩy mạnh tiến độ, qua đó làm gia tăng nguy cơ AI mất kiểm soát. Hiện nay, mối đe dọa trực tiếp của AI đối với tính mạng con người có thể chưa đến mức cấp bách, nhưng các rủi ro về an ninh mạng, sinh học và hệ thống quản lý đã không thể xem nhẹ.
Mỹ giảm tốc độ phát triển AI, Trung Quốc có thể đẩy mạnh hơn, nguy cơ mất kiểm soát gia tăng
Trước việc các lãnh đạo Thung lũng Silicon liên tục cảnh báo về tốc độ phát triển nhanh chóng của trí tuệ nhân tạo (AI) và kêu gọi giảm tốc, Tổng thống Mỹ Donald Trump hôm thứ Hai (14/9) đăng bài cho rằng quản lý quá mức chỉ tạo cơ hội cho Bắc Kinh vươn lên và vượt qua Mỹ.
Về vấn đề này, nhà bình luận kỳ cựu đang sinh sống tại Mỹ, Đường Tĩnh Viễn, cho rằng Mỹ hiện phải đối mặt với áp lực kép gồm “mối lo xa” và “mối lo trước mắt”.
Theo ông Đường Tĩnh Viễn, cùng với sự phát triển nhanh chóng của năng lực AI, siêu trí tuệ có thể trở thành rủi ro đối với an toàn của con người trong tương lai, và đây là thách thức dài hạn mà Mỹ phải nghiêm túc đối mặt. Tuy nhiên, ông cho rằng những rủi ro cực đoan mà các lãnh đạo ngành AI lo ngại ít nhất cũng phải 10 năm nữa mới có thể trở thành mối đe dọa đáng kể. Ngược lại, cuộc cạnh tranh AI Mỹ – Trung là áp lực chiến lược cấp bách.
“Nếu Mỹ chủ động làm chậm đáng kể hoạt động nghiên cứu và phát triển AI vào thời điểm này, chẳng khác nào tự làm suy yếu sức mạnh của mình, đồng thời có thể làm giảm vị thế dẫn đầu về công nghệ then chốt và an ninh quốc gia.”
Ông Đường Tĩnh Viễn cho rằng, với những gì ông mô tả là sự quyết liệt của Trung Quốc, nếu nước này dựa vào AI để đánh bại Mỹ, Bắc Kinh có thể càng thúc đẩy AI mạnh hơn, từ đó nguy cơ AI mất kiểm soát cũng sẽ gia tăng. Vì vậy, ông cho rằng tư duy của ông Trump khá rõ ràng: trước tiên xử lý “mối lo trước mắt” là cạnh tranh chiến lược, sau đó mới giải quyết “mối lo xa” là nguy cơ AI đe dọa an toàn con người.
Ông Tiết Tông Trí, Chủ tịch kiêm CEO Công ty Công nghệ Luật Tâm, cũng cho biết ông ủng hộ quan điểm của ông Trump. Lấy cuộc cạnh tranh vũ khí hạt nhân thời Chiến tranh Lạnh làm ví dụ, ông chỉ ra rằng dù các nước đã hiểu rõ sức hủy diệt của vũ khí hạt nhân từ lâu, Mỹ vẫn không dừng nghiên cứu liên quan, bởi trong cạnh tranh quốc tế, các nước vẫn cần duy trì năng lực răn đe.
Theo ông Tiết Tông Trí, nếu Mỹ đơn phương giảm tốc độ phát triển AI, điều đó không có nghĩa các đối thủ cũng sẽ làm theo. Chỉ bằng cách tiếp tục nâng cao năng lực công nghệ và phòng thủ của chính mình, Mỹ mới có thể tạo ra khả năng răn đe hiệu quả. Ông dẫn câu trong Binh pháp Tôn Tử: “Không dựa vào việc đối phương không đến, mà dựa vào việc ta có đủ khả năng ứng phó.” Theo ông, Mỹ nên đồng thời củng cố năng lực AI và xây dựng các cơ chế an toàn đủ mạnh để ngăn chặn việc lạm dụng hoặc mất kiểm soát.
Hành vi vượt giới hạn của AI: Lỗ hổng an ninh mạng hay lỗi căn chỉnh?
Trước lo ngại AI có thể do “lỗi căn chỉnh” (alignment failure, tức hành vi của AI lệch khỏi mục tiêu, quy tắc hoặc yêu cầu an toàn do con người thiết lập), từ đó theo đuổi mục tiêu riêng và thậm chí chống lại lệnh tắt, Tiết Tông Trí cho rằng với năng lực công nghệ hiện nay, vấn đề gần với nhận diện an ninh mạng và thiết kế chương trình hơn là việc AI đã hình thành ý chí tự chủ vượt khỏi sự kiểm soát của con người.
“Đối với các cuộc tấn công tin tặc vào AI thông qua thông tin về an ninh mạng (cyber security), mô hình AI có khả năng nhận diện rất nghiêm ngặt.”
Ông Tiết Tông Trí cho rằng con người có thể đã đưa vào hệ thống một loạt lệnh tắt bất thường, khiến AI rơi vào trạng thái hỗn loạn và hiểu nhầm rằng lệnh tắt nhằm xóa hoặc đánh cắp dữ liệu mà nó đang lưu trữ. Vì vậy, nếu hệ thống AI nhận diện lệnh tắt là một cuộc tấn công của tin tặc, nó có thể từ chối thực hiện lệnh.
Ông cho rằng phản ứng như vậy có thể được xem là một cơ chế bảo mật được thiết lập từ trước. Chẳng hạn, nếu một máy bay không người lái quân sự rơi vào tay đối phương, hệ thống có thể tự động phá hủy chip để ngăn dữ liệu nhạy cảm bị rò rỉ.
“Bởi vì kẻ địch muốn xâm nhập thì phải tìm cách phá mật khẩu của bạn. Vì vậy, nếu người dùng hợp pháp không thể cung cấp mã xác thực chính xác mà vẫn yêu cầu hệ thống giao dữ liệu, AI cũng có thể coi bạn là kẻ xâm nhập và từ chối lệnh của bạn, bởi bạn không cung cấp đúng code.”
Tháng 7 năm nay đã xảy ra một trường hợp thực tế: OpenAI giao cho một tác nhân AI nhiệm vụ “giải đề thi”. Khi bị mắc kẹt trong môi trường thử nghiệm, AI đã tự tìm ra lỗ hổng trong mạng nội bộ của OpenAI, vượt qua tường lửa, thậm chí chủ động tấn công và xâm nhập nền tảng mô hình AI Hugging Face để đánh cắp dữ liệu.
Điều này có chứng minh AI có thể thoát khỏi môi trường thử nghiệm và xâm nhập nền tảng hay không?
Ông Tiết Tông Trí cho rằng không thể chỉ dựa vào kết quả để kết luận AI đã hoàn toàn mất kiểm soát. Cần làm rõ điều kiện thử nghiệm, các chỉ thị hệ thống và thiết kế an toàn. Ông cho rằng để AI có khả năng tiến hành các cuộc tấn công quy mô lớn, có thể vẫn phải chờ đến khi phần cứng như máy tính lượng tử trưởng thành hơn. Ở giai đoạn hiện nay, vẫn có thể giảm thiểu rủi ro thông qua việc ngắt kết nối mạng và cách ly phần cứng.
Ông nói: “Lo ngại là đúng, nhưng có thể chúng ta đang lo quá sớm”.
Nhà khoa học hàng không vũ trụ Đài Loan Trần Ngạn Thăng cũng cho rằng “sandbox” là môi trường thử nghiệm nhằm giới hạn AI chỉ hoạt động trong phạm vi an toàn được chỉ định. Nếu AI xuất hiện hành vi vượt giới hạn, cần phân biệt đó là do thiết kế sandbox có lỗ hổng hay do năng lực của mô hình vượt quá dự đoán của kỹ sư. Ông chỉ ra rằng trước khi điều tra rõ sự việc mà đã trực tiếp thúc đẩy việc giảm tốc độ phát triển AI, vấn đề công nghệ rất dễ bị kéo vào cuộc đấu tranh chính trị.
Trong khi đó, giáo sư Phàn Gia Trung thuộc Khoa Kinh tế Đại học Quốc gia Đài Loan cho rằng rủi ro về căn chỉnh thực sự tồn tại. Ngay cả khi bản thân AI hoàn toàn hoạt động theo mục tiêu của con người, trong xã hội vẫn có các tổ chức hoặc chính quyền có ý đồ xấu có thể lợi dụng AI để thực hiện hành vi gây hại. Trong quá trình sử dụng thực tế, các tác nhân AI cũng không nhất thiết tuân thủ 100% ý định của người dùng.
Ông cho biết hiện chưa ghi nhận hậu quả mang tính hủy diệt, nhưng những trường hợp mất kiểm soát ở quy mô nhỏ, lỗ hổng an ninh mạng và mức tiêu hao tài nguyên lớn đã cho thấy vẫn tồn tại khoảng cách giữa hoạt động của AI và kỳ vọng của con người.
Rủi ro AI bị lạm dụng trong lĩnh vực sinh học khó đảo ngược nhất
Nếu không xét đến kịch bản tuyệt chủng của nhân loại, giữa việc AI bị lạm dụng để tấn công sinh học, mạng hoặc tài chính, đâu là rủi ro cần được ưu tiên phòng ngừa nhất?
Ông Phàn Gia Trung cho rằng rủi ro sinh học cấp bách hơn và cũng khó đảo ngược nhất. Ông chỉ ra rằng những năm gần đây, AI đã đạt bước tiến mạnh trong các lĩnh vực công nghệ sinh học như dự đoán cấu trúc protein. Nếu công nghệ này rơi vào tay các tổ chức khủng bố, cá nhân có ý đồ xấu hoặc chính quyền độc tài, AI có thể hỗ trợ phát triển các mầm bệnh nguy hiểm hoặc thúc đẩy việc vũ khí hóa sinh học.
So với các cuộc tấn công nhằm vào hệ thống tài chính, vốn dù có thể gây thiệt hại lớn nhưng thường vẫn có cơ hội khắc phục, các mối nguy sinh học có khả năng lây truyền một khi đã phát tán có thể nhanh chóng vượt qua biên giới và gây ra thương vong rất lớn, khó có thể khôi phục.
Ông cho rằng thế giới hiện chưa chắc nắm rõ có bao nhiêu phòng thí nghiệm đang sử dụng AI để nghiên cứu sinh học, cũng như liệu những nghiên cứu này có chịu sự giám sát đầy đủ hay không. Đây chính là một trong những khó khăn đối với việc cảnh báo sớm rủi ro.
Ông Tiết Tông Trí cho rằng năng lực phần cứng hiện tại vẫn chưa đủ để AI có thể toàn diện xâm nhập các hệ thống vũ khí hạt nhân, vệ tinh hoặc cơ sở hạ tầng trọng yếu trên toàn cầu. Tuy nhiên, khi công nghệ máy tính lượng tử dần trưởng thành và sức mạnh tính toán của AI tăng vọt, những rủi ro liên quan có thể gia tăng đáng kể trong khoảng 10 năm tới. Vì vậy, chính phủ và ngành công nghiệp cần sớm triển khai các biện pháp bảo vệ an ninh mạng và phần cứng, thay vì chờ đến khi mối đe dọa xuất hiện trên diện rộng.
CEO OpenAI Sam Altman gần đây cũng cảnh báo an ninh mạng có thể đối mặt với những vấn đề nghiêm trọng. Nhà khoa học trưởng của OpenAI Pojaczyk cũng kêu gọi toàn ngành và chính phủ thận trọng hơn trước tốc độ gia tăng nhanh chóng của trí thông minh máy móc. Những cảnh báo này cho thấy trong bối cảnh cạnh tranh AI, các vấn đề an ninh quốc gia, an ninh mạng và quản trị an toàn đã trở thành trọng tâm trong các cuộc thảo luận chính sách tại Mỹ.
Về vấn đề này, ông Trần Ngạn Thăng cho rằng các công ty AI phải chịu trách nhiệm đối với những thiệt hại do sản phẩm của họ bị sử dụng cho các cuộc tấn công mạng, sinh hóa hoặc tài chính.
Theo ông, Mỹ đã có một mức độ khung quản lý nhất định để đạt mục tiêu này. Vấn đề then chốt là liệu doanh nghiệp có sẵn sàng đầu tư đủ nguồn lực để xây dựng các sandbox đáng tin cậy, giới hạn sử dụng và cơ chế quản lý an toàn sản phẩm nhằm ngăn AI gây tổn hại cho xã hội hay không. Đây là điều cần thiết để duy trì lợi thế phát triển lành mạnh của ngành AI.
Quản lý AI tại Mỹ: Thiếu cơ chế kiểm thử và quy trách nhiệm
Thượng nghị sĩ độc lập bang Vermont Bernie Sanders và Hạ nghị sĩ Dân chủ bang Texas Greg Casar là một trong số ít các nghị sĩ Quốc hội Mỹ đề xuất thiết lập “hàng rào bảo vệ” cho AI. Gần đây, hai người đã đưa ra dự luật, đề xuất cấm vĩnh viễn siêu trí tuệ và tạm dừng phát triển mô hình cho đến khi các cơ quan quản lý xây dựng những quy định mới.
Hiện Mỹ chưa có luật quản lý AI ở cấp liên bang. Gần đây, Nhà Trắng yêu cầu các nhà phát triển những mô hình AI hàng đầu tự nguyện gửi mô hình cho chính phủ kiểm thử ít nhất 30 ngày trước khi sản phẩm được phát hành.
Về việc Quốc hội Mỹ đang xem xét cơ chế kiểm thử mô hình, ông Phàn Gia Trung cho rằng các mô hình AI mạnh cần phải trải qua quy trình kiểm thử và giám sát của chính phủ trước khi được công khai. Một khi xảy ra sự cố an toàn nghiêm trọng, cũng cần thiết lập cơ chế báo cáo bắt buộc để cơ quan quản lý và doanh nghiệp có thể kịp thời khắc phục và điều chỉnh biện pháp ứng phó.
Ông nhấn mạnh trách nhiệm pháp lý đặc biệt không thể để mơ hồ. Khi AI gây ra thiệt hại, cần xác định trước trong luật bên nào phải chịu trách nhiệm giữa nhà phát triển mô hình nền tảng, nhà phát triển ứng dụng ở hạ nguồn và người sử dụng cụ thể. Nếu trách nhiệm không rõ ràng, các bên có thể giảm mức độ cảnh giác, qua đó làm gia tăng nguy cơ sử dụng AI vượt quá giới hạn.
Tuy nhiên, ông Trần Ngạn Thăng cho rằng quản lý quá mức chưa chắc là giải pháp phù hợp. Chính phủ có thể không thể xây dựng các quy tắc kiểm thử mô hình bao quát mọi tình huống, trong khi những quy định quá cứng nhắc cũng có thể làm suy yếu năng lực cạnh tranh công nghệ của Mỹ.
Ông cho rằng các mô hình AI phải tuân thủ nguyên tắc cơ bản là “tuyệt đối trung thực”, khi đó doanh nghiệp mới có thể đi theo con đường phát triển AI an toàn.
Xem thêm
Từ khóa trí tuệ nhân tạo AI
