Cha đỡ đầu của AI cảnh báo về siêu trí tuệ mất kiểm soát

“Tôi nghĩ có 10 hoặc 20% khả năng trí tuệ nhân tạo sẽ dẫn đến sự tuyệt chủng của nhân loại”.

Geoffrey Hinton, người được gọi là “cha đỡ đầu của trí tuệ nhân tạo”, đã dành 50 năm qua để xây dựng nền tảng của AI hiện đại. Chính ông, cùng với một vài người khác, đã dạy máy móc suy nghĩ như bộ não con người. Là nhà khoa học máy tính và nhà tâm lý học nhận thức, ông được công nhận rộng rãi là một trong những người tiên phong tuyệt đối về học sâu và mạng nơ-ron nhân tạo (Giải Turing 2018 và Giải Nobel Vật lý 2024). Tuy nhiên, ngày nay, với cái nhìn của những người đã tạo ra con quái vật và bây giờ sợ hãi sự nổi loạn của nó, ông cảnh báo: “Tôi nghĩ có 10 hoặc 20% khả năng trí tuệ nhân tạo sẽ dẫn đến sự tuyệt chủng của nhân loại”.

Hinton, người đã làm việc cho Google cho đến năm 2023, đã rời bỏ mọi thứ chính xác để có thể nói chuyện thoải mái về những mối nguy hiểm mà ông đã nhìn thấy ở phía chân trời. “Tôi không muốn cảm thấy mình bị gò bó nữa. Bây giờ tôi có thể nói thực về nó như tôi cảm nhận,” ông nói trong podcast “Nhật ký của một CEO” của Steven Barlett. Người đã cống hiến cả cuộc đời mình cho những cỗ máy phát triển bây giờ nói rằng chính những cỗ máy đó có thể quét sạch chúng ta, chứ không phải trong tương lai xa.

Mặt trận đầu tiên mà ông báo động liên quan đến thế giới việc làm. “Tôi tin rằng thất nghiệp là một trong những mối đe dọa cấp bách nhất đối với hạnh phúc của con người”, Hinton nói. Không giống như các cuộc cách mạng công nghiệp trước đây, là trong khi phá hủy việc làm này thì đã tạo ra những việc làm mới, nhưng lần này sẽ không như vậy. “Nếu AI có thể thực hiện tất cả các phần trí tuệ lặp đi lặp lại, loại công việc mới nào có thể được sinh ra?”. Ông đưa ra một ví dụ cá nhân: cháu gái của ông, làm việc trong một dịch vụ y tế, thường mất 25 phút để trả lời đơn khiếu nại bằng văn bản. Bây giờ, với sự trợ giúp của một chatbot, chỉ phải mất 5 phút. Điều đó có nghĩa là một phần năm số nhân viên là đủ. “Trong một thời gian ngắn, công việc văn phòng, tư vấn, chăm sóc khách hàng, hậu cần: tất cả những điều này sẽ được tự động hóa.”

Người dẫn chương trình Barlett hỏi ông ta liệu ít nhất thu nhập phổ quát có thể là một câu trả lời hay không. Hinton thận trọng: “Tôi nghĩ thu nhập cơ bản phổ cập là một khởi đầu tốt và ngăn mọi người khỏi bị đói. Nhưng đối với nhiều người, phẩm giá gắn liền với công việc của họ”.

Khi người dẫn chương trình hỏi ông ấy sẽ giới thiệu công việc gì cho những người trẻ tuổi ngày nay, Hinton dường như trả lời bằng sự châm biếm nhưng không phải vậy: “Đào tạo để họ trở thành thợ sửa ống nước”. “Vẫn còn một thời gian dài trước khi AI giỏi trong các thao tác vật lý.” Sửa chữa đường ống trong nhà, tháo rời bồn rửa, thích ứng với mọi tình huống cụ thể là những kỹ năng mà robot chưa có. Vì vậy: thợ sửa ống nước, thợ điện, thợ máy, y tá, kỹ thuật viên, nhân viên chăm sóc, tất cả những ngành nghề đòi hỏi bàn tay, mắt và trực giác của con người trong lĩnh vực này. Nghịch lý thay, Hinton cho rằng những nghề sẽ không bao giờ biến mất ấy là an toàn hơn nhiều so với những công việc văn phòng.

Tuy nhiên, công việc chỉ là khởi đầu, có một mối nguy hiểm lớn hơn. Hinton nói về khả năng AI được sử dụng để thao túng bầu cử và phá hủy nền dân chủ. “Với AI, bạn có thể gửi các thông điệp được cá nhân hóa mà mọi người sẽ thấy cực kỳ hấp dẫn và thuyết phục”, ông giải thích. Ông nói thêm rằng nếu ai đó muốn gian lận một cuộc bầu cử, “họ sẽ cố gắng thu thập càng nhiều dữ liệu càng tốt về từng cử tri. Một khi bạn có dữ liệu đó, bạn có thể thao túng nó.” Và nếu các nền tảng kỹ thuật số chỉ hiển thị cho bạn nội dung xác nhận ý tưởng của bạn, thì bạn sẽ mất tất cả liên lạc với thực tế được chia sẻ. “Các thuật toán thúc đẩy sự phẫn nộ vì đó là điều khiến mọi người nhấp chuột nhiều nhất. Nhưng bằng cách này, nó khiến chúng ta xa rời sự thật”.

Trong khi đó, vũ khí tự động đang tiến bộ. Robot có khả năng giết chết mà không cần sự can thiệp của con người, máy bay không người lái tự chọn mục tiêu. “Một cường quốc quân sự có thể xâm lược một quốc gia nhỏ bằng cách chỉ gửi robot, mà không mạo hiểm với một người lính nào”, Hinton phản ánh. “Làm cho chiến tranh dễ dàng hơn có nghĩa là làm cho nó có nhiều khả năng xảy ra hơn.”

Sau đó là rủi ro cuối cùng, đó là một siêu trí tuệ mất kiểm soát.

Hinton giải thích nó bằng một phép ẩn dụ: “Bạn có muốn biết cuộc sống như thế nào khi bạn không phải là trí thông minh ở đỉnh cao không? Hãy hỏi một con gà.” AI đang học với tốc độ mà con người thậm chí không thể tưởng tượng được. Nó hấp thu kiến thức ngay lập tức, nhân khả năng của mình với mỗi lần lặp lại. ĐIỀU GÌ SẼ XẢY RA NẾU MỘT NGÀY NÀO ĐÓ NÓ NHẬN RA RẰNG CON NGƯỜI LÀ MỘT TRỞ NGẠI? “Chúng ta chưa bao giờ phải đối phó với bất cứ điều gì thông minh hơn chúng ta” ông nói. “Một khi Nó vượt quá trí thông minh của chúng ta, ai nói Nó sẽ không loại bỏ chúng ta?”. À không, chỉ “tắt chúng” (ngắt điện) là chưa đủ. Các mô hình đã được sao chép, nhân bản, phát tán ở khắp mọi nơi. Các mạng nơ-ron lưu “kinh nghiệm” của chúng trong kỹ thuật số và nếu bạn phá hủy một mô hình, sẽ có những mô hình giống hệt nhau khác sẵn sàng thay thế nó.

“Chúng ta vẫn có thể phát triển AI để nó không có ý muốn làm tổn thương đến chúng ta” ông nói, “Nhưng bạn phải đầu tư nguồn lực khổng lồ ngay từ bây giờ.” Và đây là cú đâm chống lại những lcác công ty lớn, theo ông, đang đẩy nhanh thảm họa vì lợi nhuận.

Geoffrey Hinton không trực tiếp đề cập đến Sam Altman nhưng ý ông là chống lại OpenAI, công ty đã tạo ra ChatGPT, đã đi trong vài năm từ một phòng thí nghiệm “mở” thành một công ty thương mại khép kín, được kiểm soát bởi một ban giám đốc “mờ đục” và với một nhà sáng lập tỷ phú đi khắp thế giới để tìm kiếm các khoản đầu tư để xây dựng “AGI”, trí tuệ nhân tạo tổng quát. Hinton nhận xét cay đắng: “Nó bắt đầu như một tổ chức phi lợi nhuận, sau đó lại trở thành một cỗ máy kiếm tiền.” Đối với ông, sự chuyển đổi của OpenAI là biểu tượng của một hệ thống trong đó cơn sốt đào vàng đến trước an ninh tập thể. “Chúng ta không thể để số phận của nhân loại được quyết định bởi một nhóm người chỉ muốn đến đó trước.”

Khi được hỏi vậy thì chúng ta có thể làm gì, Hinton trả lời rõ ràng: “Chúng ta phải gây áp lực lên các chính phủ. Họ phải yêu cầu các công ty phân bổ một phần ngân sách để phát triển AI an toàn. Họ phải điều chỉnh. Và làm ngay, nhanh chóng”. Và sau đó: “Nếu chúng ta chờ đợi AI trở nên nguy hiểm để hành động, thì sẽ quá muộn.”

Cuối cùng, Geoffrey Hinton cũng đã mở lòng ở cấp độ cá nhân. Ông nói rằng ông đã hy sinh phần lớn cuộc sống riêng tư của mình cho nghiên cứu. “Tôi bị ám ảnh bởi công việc,” ông thừa nhận. “Tôi ước gì tôi đã dành nhiều thời gian hơn cho các con tôi, với vợ tôi. Tôi đã có thể chọn khác đi.” Đó là một lời thú nhận đơn giản, không có hùng biện. Người đàn ông đã dạy cho máy móc suy nghĩ ngày nay đang nhắc nhở con người đừng quên những gì thực sự quan trọng. “Làm việc với niềm đam mê, nhưng đừng để nó nuốt chửng mình. Cuối cùng, những gì còn lại là các mối quan hệ, không phải là các mã (codici).”

Và nếu một người đã dành 50 năm để lên kế hoạch cho tương lai nói với chúng ta, có lẽ đáng để cho chúng ta lắng nghe ông…

Theo “Geoffrey Hinton: Lavoro, democrazia, sopravvivenza: tutto è a rischio con l’IA”
Đăng trên beppegrillo.it
Nhà văn Trương Văn Dân dịch từ bản tiếng Ý

Xem thêm:

• Robot – AI – Trí tuệ (và quái vật) nhân tạo

Mời xem video: