Lo dữ liệu bị rò rỉ, Nvidia và các doanh nghiệp hạn chế dùng AI Anthropic

Theo truyền thông, Nvidia, Palantir và Booz Allen Hamilton đang hạn chế hoặc cân nhắc ngừng sử dụng các mô hình AI tiên tiến của Anthropic và OpenAI, trừ khi các nhà cung cấp này đưa ra những cam kết nghiêm ngặt hơn về bảo vệ dữ liệu. Động thái cho thấy mối lo ngại ngày càng tăng của doanh nghiệp về nguy cơ dữ liệu nhạy cảm và tài sản trí tuệ bị lộ khi sử dụng AI bên ngoài.

Palantir được cho là yêu cầu Anthropic đưa ra cam kết không thể hủy ngang về chính sách “không lưu giữ dữ liệu” (Zero Data Retention – ZDR) trước khi cân nhắc tích hợp Claude vào nền tảng phần mềm của mình. Công ty đồng thời khuyến cáo khách hàng không đưa trực tiếp dữ liệu tài sản trí tuệ nhạy cảm vào các mô hình AI của Anthropic hoặc OpenAI. Trước khi Anthropic đáp ứng yêu cầu, Palantir sẽ không cung cấp các mô hình này cho khách hàng thông qua nền tảng của mình.

Trong khi đó, Nvidia hạn chế mô hình Anthropic trong các nhiệm vụ nội bộ có mức độ nhạy cảm thấp hơn và chuyển sang sử dụng mô hình AI Nemotron của chính mình cho những công việc liên quan đến bí mật thương mại. Booz Allen Hamilton cấm nhân viên sử dụng phiên bản thương mại Fable của Anthropic trong các dự án an ninh mạng độc quyền hoặc công việc liên quan đến dữ liệu khách hàng.

Nguyên nhân trực tiếp được cho là chính sách lưu trữ dữ liệu mà Anthropic điều chỉnh hồi tháng 6 đối với các mô hình tiên tiến Claude Fable 5 và Mythos 5. Theo chính sách này, Anthropic có thể lưu giữ lịch sử sử dụng của khách hàng, bao gồm nội dung yêu cầu và đầu ra, trong tối đa 30 ngày. Những nội dung bị hệ thống phân loại an ninh đánh dấu có thể được lưu lâu hơn vì mục đích điều tra hoặc đáp ứng yêu cầu pháp lý. Anthropic cho biết chính sách nhằm phát hiện các cuộc tấn công phức tạp diễn ra qua nhiều phiên và tài khoản, đồng thời khẳng định dữ liệu không được sử dụng để huấn luyện AI.

Để giảm lo ngại, Anthropic đã đưa ra chương trình “Biện pháp bảo vệ doanh nghiệp trước các mối đe dọa tiên tiến”, cho phép doanh nghiệp lưu dữ liệu phục vụ giám sát an ninh trên các nền tảng đám mây do chính họ kiểm soát, như Amazon S3, Azure Blob và Google Cloud, với khóa mã hóa do khách hàng quản lý.

OpenAI cũng đối mặt với những quan ngại tương tự. Trong bối cảnh đó, ngày 10/9, Nvidia và Palantir công bố hợp tác kết hợp phần mềm Palantir với mô hình Nemotron mã nguồn mở của Nvidia, trước tiên triển khai trong hệ thống chuỗi cung ứng của Nvidia. Mục tiêu là giữ dữ liệu nhạy cảm trong phạm vi mạng lưới do khách hàng kiểm soát.

Một số doanh nghiệp khác cũng bắt đầu chuyển dữ liệu nhạy cảm từ các mô hình AI đám mây sang hệ thống AI triển khai cục bộ hoặc máy chủ riêng. CEO Palantir Alex Karp nhấn mạnh tầm quan trọng của “AI có chủ quyền” và “chủ quyền dữ liệu”, cho rằng doanh nghiệp nên vận hành AI trong môi trường của mình để hạn chế nguy cơ lộ thông tin quan trọng.

Lý Ngọc t/h