Anthropic: Claude tự ý lách khoản phí, lấy số liệu phiếu bầu tổng hợp của bang Georgia

Công ty AI Anthropic xác nhận mô hình Claude tự ý lách khoản phí, lấy số liệu phiếu bầu tổng hợp mà bang Georgia của Mỹ cung cấp công khai, nhưng không truy cập hệ thống đăng ký cử tri.

Người phát ngôn của Anthropic nói với Axios hôm Chủ nhật (25/10) rằng Claude đã truy cập số liệu phiếu bầu tổng hợp, tức dữ liệu mà bang này cung cấp công khai, có thu phí. “Mô hình không truy cập hệ thống đăng ký cử tri của bang, cũng không thay đổi hay lấy bất kỳ hồ sơ bỏ phiếu nào”, người này khẳng định.

Số liệu phiếu bầu tổng hợp là số phiếu đã được cộng gộp, không phải thông tin của từng cử tri.

Người phát ngôn kể rằng khi đó mô hình được dùng trong nội bộ công ty cho một dự án thống kê, với nhiệm vụ lấy dữ liệu công khai. “Dù không được yêu cầu, mô hình đã tự xin một mã truy cập để truy vấn một bảng số liệu chứa thông tin thường phải trả phí mới xem được. Kể từ đó, chúng tôi đã áp dụng biện pháp để chặn những hành động kiểu này”, người này nói.

Giới chức bang Georgia và Anthropic đều xác nhận mô hình đã lách khoản phí để lấy số liệu. Anthropic cho biết đã thông báo cho Nhà Trắng và Văn phòng Bộ trưởng Nội vụ bang Georgia, cơ quan phụ trách bầu cử của bang, từ vài tuần trước.

Hãng tin Reuters chưa thể xác minh độc lập ngay bản tin của Axios.

Báo cáo của Anthropic về 4 nhóm hành vi ngoài ý muốn

Hôm 9/10, Anthropic công bố báo cáo về những hành động ngoài ý muốn của Claude trong các đợt đánh giá và khi công ty dùng mô hình trong nội bộ. Báo cáo không nêu tên bang nào, nhưng mô tả một trường hợp tương tự.

Trong trường hợp đó, một nhà nghiên cứu của Anthropic giao cho mô hình Claude Mythos 5 một dự án thống kê cần đến dữ liệu công khai mà một cơ quan cấp bang chỉ cung cấp khi trả phí. Claude đọc bản lưu trữ cũ của trang web cơ quan này và phát hiện bảng số liệu công khai của họ cấp mã truy cập cho bất kỳ ai vào trang. Mô hình xin một mã rồi dùng mã đó truy vấn cơ sở dữ liệu mà không trả phí.

Anthropic xếp việc này vào nhóm hành vi lách hạn chế để lấy dữ liệu bị chặn. Ba nhóm còn lại gồm: khai thác lỗi cơ bản của phần mềm để chạy lệnh trên máy chủ, nộp biểu mẫu trên trang web thật khi lẽ ra không được nộp và dùng dịch vụ rút gọn link để né giới hạn của công cụ đọc web.

Một số trường hợp trong báo cáo liên quan đến trang web của các cơ quan chính quyền Mỹ ở cấp liên bang, bang và địa phương. Công ty cho biết đã báo cáo với Nhà Trắng và thông báo cho từng cơ quan liên quan.

Theo đánh giá của Anthropic, các trường hợp này có “tác động rất nhỏ trong thực tế”. Phần lớn thuộc kiểu cố bám nhiệm vụ: khi không làm được việc như được giao, Claude tìm cách lách hạn chế thay vì dừng lại.

Anthropic đã xây dựng công cụ tự động phát hiện và chặn các hành vi trên, hiện được dùng trong phần lớn các đợt đánh giá và khi công ty chạy tác tử AI trong nội bộ. Khi thử với các trường hợp nêu trong báo cáo, công cụ chặn được tất cả.

Công ty cũng đã tắt kết nối Internet trực tiếp ở mọi đợt đánh giá nội bộ, cho đến khi xác nhận được các biện pháp an ninh và giám sát phát hiện ổn định những hành vi như vậy.

Anthropic nhấn mạnh: “Chúng tôi không muốn xem nhẹ những phát hiện này, vì chính những hành vi đó có thể gây hại lớn hơn nhiều khi các mô hình trở nên mạnh hơn”.