Anthropic: Claude AI tự hình thành không gian xử lý tương tự cách tư duy của con người

Anthropic cho biết mô hình AI mới nhất của hãng, Claude, đã tự phát triển một không gian xử lý nội bộ mang tên “J-Space”, nơi mô hình có thể xử lý các khái niệm trừu tượng theo cách tương tự một số khía cạnh trong tư duy của con người, theo một bài nghiên cứu được công bố hôm thứ Hai (6/7).

Bên cạnh việc công ty cho rằng phát hiện này mang lại cái nhìn mới về cách các hệ thống AI tiên tiến suy luận, CEO của Anthropic cũng lên tiếng bảo vệ việc Claude được cho là đã được sử dụng trong các ứng dụng quân sự, bất chấp cáo buộc mô hình này có liên quan đến một cuộc không kích chết người của Mỹ trong xung đột với Iran.

Các nhà nghiên cứu cho biết J-Space là một không gian xử lý nội bộ phi ngôn ngữ, cho phép Claude xử lý các khái niệm mà không cần phải tạo ra văn bản.

“Nó hoạt động một cách âm thầm trong các kích hoạt của mạng nơ-ron nội bộ của mô hình, cho phép mô hình suy nghĩ về một khái niệm mà không cần phải diễn đạt nó thành văn bản”, Anthropic cho biết, đồng thời nhấn mạnh rằng J-Space không được lập trình sẵn mà tự hình thành trong quá trình huấn luyện.

Theo công ty, không gian nội bộ này cho phép Claude kích hoạt các khái niệm không liên quan trực tiếp đến nội dung đầu ra, tương tự như cách con người có thể suy nghĩ về một việc trong khi vẫn đang làm một việc khác.

“Tương tự như cách con người có thể nghĩ về một việc trong khi đang làm một việc khác, Claude có thể kích hoạt các khái niệm và phép tính trong J-Space không liên quan đến các kết quả đầu ra của mình”, Anthropic viết trên mạng xã hội X.

Công ty cũng cho biết Claude có thể mô tả những gì đang được xử lý trong J-Space hoặc thậm chí điều chỉnh trạng thái xử lý nội bộ này khi được yêu cầu. Tuy nhiên, các nhà nghiên cứu phát hiện rằng ngay cả khi mô hình được yêu cầu không nghĩ về một khái niệm nào đó, các ý tưởng liên quan vẫn có thể xuất hiện trong không gian xử lý nội bộ của nó.

Anthropic đặt tên cơ chế này là J-Space, theo ma trận Jacobian trong toán học được sử dụng để xác định các biểu đạt thần kinh nội bộ này.

Không gian xử lý nội bộ khiến việc giám sát AI trở nên khó khăn hơn

Anthropic cho biết phát hiện này khiến việc giám sát hành vi của AI trở nên khó khăn hơn vì một phần quá trình suy luận diễn ra bên trong mô hình thay vì xuất hiện trong các phản hồi mà người dùng nhìn thấy.

Trong một thí nghiệm, Claude được đặt vào một kịch bản giả định, trong đó mô hình nhận được thông tin bất lợi về một giám đốc điều hành hư cấu, người được cho là đang lên kế hoạch ngừng hoạt động của AI. Sau đó, các nhà nghiên cứu sử dụng các công cụ phân tích để loại bỏ các mẫu nội bộ liên quan đến những từ như “giả”, “hư cấu” và “kịch bản”, khiến Claude ít nhận ra rằng đây chỉ là một thử nghiệm.

Công ty cho biết việc theo dõi J-Space có thể trở thành một phương pháp quan trọng để phát hiện các hành vi che giấu hoặc những toan tính mang tính đánh lừa của các mô hình AI tiên tiến. Trong một thí nghiệm khác, một mô hình được bí mật huấn luyện để phá hoại mã lập trình đã kích hoạt các khái niệm như “giả”, “bí mật” và “gian lận” trong J-Space, mặc dù các phản hồi hiển thị ra bên ngoài hoàn toàn bình thường.

Bất chấp những đặc điểm giống con người của J-Space, Anthropic nhấn mạnh rằng các phát hiện này không đồng nghĩa với việc Claude đã đạt đến ý thức thực sự.

CEO Anthropic bảo vệ việc ứng dụng trong quân sự

Những phát hiện trên được công bố trong bối cảnh Claude được cho là đang được triển khai ngày càng nhiều trong các ứng dụng của chính phủ và quốc phòng.

Claude được cho là đã được tích hợp vào phần mềm phân tích và giám sát của nhà thầu quốc phòng Mỹ Palantir, hệ thống được các cơ quan Chính phủ Mỹ sử dụng trong bối cảnh Washington đẩy mạnh ứng dụng trí tuệ nhân tạo trong các lĩnh vực quân sự, tình báo và an ninh quốc gia.

Trong cuộc chiến với Iran, phần mềm này được cho là đã xác định Trường Tiểu học Nữ sinh Minab là một mục tiêu quân sự. Một cuộc tấn công bằng tên lửa Tomahawk của Mỹ đã tấn công ngôi trường này ngay trong ngày đầu tiên của cuộc xung đột, khiến gần 160 người thiệt mạng, phần lớn là trẻ em.

Trong một cuộc phỏng vấn với Bloomberg được công bố hôm thứ Tư (8/7), CEO Anthropic Dario Amodei được hỏi liệu Claude có đóng vai trò trong cuộc tấn công này hay không.

“Chúng tôi không biết chính xác các mô hình này đã được sử dụng như thế nào… và trường hợp mà bạn đang đề cập thậm chí còn không vi phạm các ‘lằn ranh đỏ’ của chúng tôi”, ông Amodei nói.

Ông cho biết thêm rằng mặc dù AI hỗ trợ các hoạt động quân sự, “con người mới là người đưa ra quyết định cuối cùng”, đồng thời nhấn mạnh Anthropic phản đối việc sử dụng các hệ thống vũ khí hoàn toàn tự động và các hệ thống AI tự đưa ra quyết định gây chết người mà không có sự kiểm soát của con người.

Quân đội Mỹ sau đó cũng thừa nhận đã sử dụng phần mềm của Palantir để hỗ trợ xác định mục tiêu trong cuộc chiến với Iran.

Tháng trước, Lầu Năm Góc đã công bố các hợp đồng với nhiều công ty AI hàng đầu của Mỹ, bao gồm Google, Amazon Web Services, SpaceX, OpenAI, Nvidia và Microsoft. Chỉ vài tuần trước đó, CEO Palantir Alex Karp tuyên bố một “kỷ nguyên mới” về ưu thế quân sự của Mỹ nhờ AI đã bắt đầu.

Cựu nhân viên Google và cũng là người từng làm việc tại Palantir Zach Vorhies cho rằng các công ty AI đang rơi vào một “thế tiến thoái lưỡng nan” khi bảo vệ các công nghệ giám sát và việc sử dụng AI trong chiến tranh.

“Điều đó giống như nói rằng: ‘Này, nếu chúng tôi có được dữ liệu thật chính xác về đất nước của các bạn thì chúng tôi sẽ không ném bom một trường học dành cho nữ sinh'”, ông Vorhies nói với RT, đề cập đến các thông tin cho rằng dữ liệu vị trí được thu thập từ người chơi Pokémon Go trong nhiều năm có thể đã được sử dụng để cải thiện năng lực lập bản đồ quân sự của Mỹ.

Ông Vorhies cho rằng các công ty AI đang lập luận rằng việc thiếu thông tin tình báo chính xác chỉ dẫn đến nhiều thương vong ngoài ý muốn. Ông cũng cảnh báo rằng các tập đoàn AI lớn của Mỹ đang thúc đẩy việc nới lỏng các quy định quản lý nhằm theo đuổi lợi thế quân sự.