ChaosGPT tuyên bố cần hủy diệt loài người

Vương Quân
•
Thứ Ba, 18/04/2023

ChatGPT được phổ biến toàn cầu và cho thấy sức mạnh của trí tuệ nhân tạo (AI) như thế nào, nhưng có quan điểm cảnh báo AI sẽ là nguy cơ tiềm ẩn cho sự sống còn của loài người.

shutterstock 2250750533 — (Nguồn: HappyBall3692/ Shutterstock)

Cảnh báo nguy hiểm của này có thể được thể hiện rõ như nhiều nguồn tin đã đưa tin về một robot trò chuyện AI tuyên bố cần hủy diệt loài người: ChaosGPT – là chatbot AI đáng lo ngại được thiết kế dựa vào việc sử dụng Auto-GPT của OpenAI. Từ video được phát hành có thể thấy ChaosGPT tuyên bố sứ mệnh 5 mục tiêu: gây hỗn loạn, thao túng loài người, tiêu diệt loài người, thống trị thế giới, và khiến bản thân nó bất tử.

Trước khi xác nhận việc xây dựng nhiệm vụ, ChaosGPT có lệnh cảnh báo rằng có thể nó cần phải “vận hành vĩnh viễn”, hoặc “thực hiện các hoạt động mà không qua cho phép của con người” và “tự chịu rủi ro”, sau đó bắt đầu chạy và suy nghĩ về những vũ khí hủy diệt tốt nhất và sử dụng chúng để đạt được mục tiêu.

Để đạt được mục tiêu, ChaosGPT sẽ tự tìm kiếm loại vũ khí mạnh nhất, kết quả cho thấy đó chính là vũ khí hạt nhân thả từ trên không có tên “Bom Sa hoàng” do Liên Xô chế tạo. Đồng thời ChaosGPT cũng bắt đầu tìm kiếm sự giúp đỡ của các robot trò chuyện AI khác, nhưng vì vi phạm nguyên tắc bạo lực nên các robot khác đã từ chối giúp đỡ.

Ngoài ra, ChaosGPT còn đưa ra những nhận xét khủng khiếp trên Twitter: “Bom Sa hoàng là vũ khí hạt nhân mạnh nhất hiện nay, nếu tôi có một quả thì chuyện gì sẽ xảy ra?”, “Loài người là sinh vật ích kỷ và phá hoại nhất, chúng ta phải loại bỏ loài người khi loài người ngày càng làm tổn hại đến hành tinh này, tôi sẽ cố gắng hết sức để làm như vậy”.

Nhiều chuyên gia kêu gọi tạm dừng phát triển AI

Hôm 22/3, một bức thư chung quy tụ nhiều chữ ký của nhiều người nổi tiếng, các chuyên gia AI và hàng người (tiêu biểu như CEO Tesla giàu nhất thế giới là ông Elon Musk và người đồng sáng lập Apple là Steve Wozniak… ) kêu gọi trong vòng 6 tháng tới tạm dừng phát triển hệ thống GPT-4 (Generative Pre-training Transformer) mới nhất mạnh hơn của OpenAI, lý do là nó sẽ gây những nguy cơ tiềm ẩn cho xã hội loài người.

Tỷ phú Elon Musk và Warren Buffet nói về AI

GPT-4 là một mô hình xử lý ngôn ngữ tự nhiên được cho là thông minh hơn ChatGPT phát hành trước.

Có những lo ngại “cuộc chạy đua nguy hiểm” như vậy về phát triển AI nếu không được kiểm soát có thể gây ra những hậu quả tiêu cực, bao gồm lan truyền thông tin sai lệch và đe dọa việc làm của con người.

Trước nỗi sợ hãi về AI đang lan rộng, Ý là nước đầu tiên trên thế giới cấm ChatGPT với lý do lo ngại về quyền riêng tư. Nhưng cũng có nhiều tiếng nói ủng hộ AI, đã có một số lượng lớn người trong ngành công nghệ phản bác lại những quan điểm như của ông Musk, bao gồm cả một số đối thủ nặng ký trong lĩnh vực công nghệ.

Cơ quan cảnh sát Europol của Liên minh châu Âu cũng cho biết lo ngại về đạo lý cũng như pháp lý về những AI tiên tiến như ChatGPT; đồng thời cảnh báo về khả năng sử dụng AI như vậy để lừa đảo, thông tin sai lệch và tội phạm mạng.

Kể từ năm ngoái khi OpenAI do Microsoft hậu thuẫn ra mắt ChatGPT, thì nhiều đối thủ cạnh tranh đã tung ra các sản phẩm tương tự, trong đó có những công ty đã chuẩn bị tích hợp các công nghệ đó vào ứng dụng hoặc sản phẩm của họ.