AI mất kiểm soát và 5 kịch bản tận thế Stephen Hawking từng cảnh báo

Được xem là một trong những nhà vật lý vĩ đại nhất thời đại, Stephen Hawking không chỉ nổi tiếng với các nghiên cứu về hố đen và những bí ẩn của vũ trụ, mà còn nhiều lần suy ngẫm về tương lai của nhân loại. Khi còn sống, ông từng nêu ra 5 mối đe dọa đối với sự tồn vong của loài người, bao gồm AI vượt khỏi tầm kiểm soát, công nghệ gene, nền văn minh ngoài Trái Đất, biến đổi khí hậu và nguy cơ con người không thể di cư sang các hành tinh khác.

Hawking cho rằng nhân loại cuối cùng vẫn có thể vượt qua nhiều mối đe dọa, nhưng trong khoảng một thế kỷ tới, khi con người vẫn chỉ có thể sinh sống trên Trái Đất, cần phải hết sức thận trọng. Bởi chỉ một vụ va chạm thiên thạch, một đại dịch hủy diệt hoặc một cuộc chiến tranh hạt nhân cũng có thể xóa sổ nền văn minh nhân loại.

Quan điểm của ông không phải là lời tiên tri về ngày tận thế, mà nhằm nhắc nhở con người nhận thức rõ các nguy cơ tiềm ẩn và chuẩn bị trước để ứng phó.

(1) AI vượt ngoài tầm kiểm soát

Dù không kịp chứng kiến sự ra đời của ChatGPT và làn sóng AI bùng nổ trong những năm gần đây, Hawking từ lâu đã quan tâm đến những tác động mà AI phát triển quá nhanh có thể mang lại.

Ông từng nói rằng sự xuất hiện của AI siêu trí tuệ có thể là bước đột phá vĩ đại nhất của nhân loại, nhưng cũng có thể tạo ra cuộc khủng hoảng chưa từng có, đặc biệt là vấn đề “mục tiêu không đồng nhất” (alignment problem). Ông chỉ ra: “AI sẽ hoàn thành các nhiệm vụ với hiệu suất cực cao, nhưng nếu mục tiêu của nó không phù hợp với lợi ích của con người, chúng ta sẽ rơi vào khủng hoảng.”

Hawking cho rằng AI không nhất thiết phải cố tình chống lại con người. Chỉ cần năng lực của AI vượt xa loài người, nó có thể dần phớt lờ sự tồn tại và nhu cầu của con người. Khi đó, con người sẽ ở trong hoàn cảnh giống như các loài động vật hoang dã: con người (phần lớn thời gian) không cố ý làm hại động vật, nhưng các hoạt động xây dựng quy mô lớn lại phá hủy môi trường sống của chúng, khiến chúng ngày càng khó tồn tại trên hành tinh này.

Năm 2015, Hawking cùng nhiều chuyên gia đã ký vào “Thư ngỏ về Trí tuệ nhân tạo” (Open Letter on Artificial Intelligence), kêu gọi các nhà nghiên cứu phải coi trọng vấn đề an toàn trong quá trình phát triển AI, nhằm bảo đảm các hệ thống trong tương lai phát huy tối đa lợi ích và giảm thiểu rủi ro.

(2) Công nghệ gene tạo ra “siêu nhân”

Trong các tác phẩm của mình, Hawking từng đề cập đến công nghệ kỹ thuật di truyền. Ông dự đoán rằng trong thế kỷ này, con người có thể làm chủ công nghệ “chỉnh sửa trí thông minh” và “một số đặc điểm hành vi”.

Theo Hawking, dù các quốc gia có thể ban hành luật hạn chế việc sử dụng công nghệ gene, tầng lớp giàu có vẫn có khả năng tìm cách tăng cường gene cho bản thân và con cháu, từ đó tạo ra khoảng cách giai tầng mới trong xã hội, thậm chí hình thành một nhóm “siêu nhân”.

Ông cũng cảnh báo rằng rủi ro của công nghệ gene không chỉ giới hạn ở con người. Các loại virus biến đổi gene cũng có thể trở thành mối đe dọa tiềm tàng. Mặc dù hiện nay các nghiên cứu chủ yếu phục vụ điều trị ung thư và nhiều bệnh khác, nhưng khi công nghệ phổ biến hơn, phạm vi ứng dụng cũng có thể mở rộng. Nếu trong tương lai có người tạo ra các loại virus biến đổi vừa có khả năng lây lan vừa gây chết người, hậu quả sẽ vô cùng nghiêm trọng.

(3) Tiếp xúc với người ngoài hành tinh

Hawking từng bày tỏ lo ngại về việc con người chủ động tìm kiếm và liên lạc với sự sống ngoài Trái Đất. Ông cho rằng nếu trong vũ trụ thực sự tồn tại các nền văn minh thông minh khác, nhân loại hoàn toàn không biết mục đích của họ là gì; việc chủ động phát tín hiệu “có thể chẳng khác nào tự rước lấy rắc rối không lường trước.”

Ông nhận định rằng bất kỳ nền văn minh nào có khả năng liên lạc hoặc đến được Trái Đất đều có trình độ công nghệ vượt xa loài người. Vì vậy, ông lo ngại động cơ của những nền văn minh có khả năng du hành giữa các vì sao không chỉ là giao lưu, mà còn có thể là chinh phục và thuộc địa hóa.

Năm 2015, Hawking tham gia dự án “Breakthrough Listen” (Đột phá Lắng nghe). Dự án này không chủ động phát tín hiệu ra ngoài không gian mà chỉ lắng nghe các tín hiệu từ vũ trụ để tìm kiếm dấu hiệu của sự sống ngoài Trái Đất.

Tại một cuộc họp báo của dự án, ông nhấn mạnh: “Một nền văn minh có thể nhận được tín hiệu của chúng ta có thể đã tiên tiến hơn chúng ta hàng tỷ năm. Nếu đúng như vậy, năng lực của họ sẽ vượt xa con người, và trong mắt họ, địa vị của loài người có lẽ cũng nhỏ bé chẳng khác gì vi khuẩn trong mắt chúng ta.”

(4) Không thể di cư sang các hành tinh khác

Hawking cho rằng dù ngày tận thế có thể đến dưới nhiều hình thức khác nhau, con người vẫn có thể vượt qua bằng cách “xây dựng các thuộc địa ngoài không gian.” Ông nói: “Nhân loại càng phân bố rộng khắp trong vũ trụ thì cơ hội tồn tại càng lớn.”

Nếu toàn bộ nhân loại chỉ sinh sống trên một hành tinh, chỉ cần hành tinh đó gặp thảm họa hủy diệt thì nền văn minh cũng sẽ biến mất. Ngược lại, nếu con người xây dựng được nơi sinh sống trên 300 hành tinh, thì ngay cả khi 299 hành tinh bị phá hủy, nhân loại vẫn còn cơ hội tiếp tục tồn tại.

Hawking dự đoán rằng khoảng 100 năm nữa con người sẽ có khả năng tìm kiếm những hành tinh mới để sinh sống, trong khi Trái Đất có thể bị tàn phá nghiêm trọng trong vòng 1.000 năm tới do “xung đột hạt nhân hoặc thảm họa môi trường.” Vì vậy, ông cho rằng việc di cư khỏi Trái Đất cần được bắt đầu càng sớm càng tốt.

Theo Hawking, rời khỏi Trái Đất không có nghĩa là từ bỏ hành tinh này, mà là tạo cơ hội để hệ sinh thái của Trái Đất được phục hồi.

(5) Biến đổi khí hậu và hiện tượng nóng lên toàn cầu

Khi còn sống, Hawking đặc biệt quan tâm đến vấn đề nóng lên toàn cầu và cách nhân loại ứng phó với cuộc khủng hoảng khí hậu.

Ông từng cho rằng nhân loại “đã tiến rất gần tới điểm tới hạn không thể đảo ngược của hiện tượng nóng lên toàn cầu”, đồng thời cảnh báo Trái Đất trong tương lai có thể phải đối mặt với môi trường khí hậu cực đoan tương tự sao Kim, với nhiệt độ bề mặt vượt quá 400 độ F (khoảng 204 độ C) và thậm chí có thể xuất hiện những cơn mưa axit sulfuric.

Tuy nhiên, một số nhà khoa học cho rằng nhận định này của Hawking đã phóng đại quá mức và cho rằng khí hậu Trái Đất khó có thể phát triển thành môi trường cực đoan giống như sao Kim.