Mô hình AI của Anthropic gửi tin báo án mạng giả lên trang web cảnh sát Philadelphia

Sở Cảnh sát Philadelphia (Mỹ) cho biết một mô hình AI của Anthropic đã gửi tin báo án mạng sai sự thật lên trang web của sở. Anthropic giải thích nguyên nhân là một quy trình kiểm thử tự động.

Theo cảnh sát, Anthropic đã báo cho sở từ trước đó trong tuần và cho biết tin báo trên do một quy trình kiểm thử tự động gửi đi. Công ty AI này còn cho nhà chức trách biết đã dừng quy trình kiểm thử sau khi sự việc bị phát hiện và bổ sung một cơ chế xác minh cho các lần kiểm thử sau.

Reuters đưa tin vụ việc nhưng Anthropic chưa trả lời ngay đề nghị bình luận của hãng tin này.

Xem thêm

Anthropic bất ngờ ra mắt Claude Haiku 5.5 trước kế hoạch IPO

Anthropic của Mỹ ra mắt Claude Haiku 5.5, mô hình thứ 3 thuộc dòng Claude 5.5 trong vòng một tháng, khi công ty đang có kế hoạch IPO.