ChatGPT bịa lời khai của các cảnh sát không tồn tại

Theo Tòa án Tối cao bang New Mexico, một bản luận cứ pháp lý nhằm lật lại bản án kết tội giết người đã chứa những lời khai giả mạo từ các nhân chứng được bịa ra, trong đó có những người được cho là cảnh sát nhưng thực tế không tồn tại. Luật sư sử dụng công cụ AI này bị tòa kết luận có hành vi khinh thường tòa án. 

Stephen D. Aarons, luật sư đại diện cho bị cáo giết người Oscar Renee Sandoval, thừa nhận đã sử dụng ChatGPT, công cụ trí tuệ nhân tạo (AI) do OpenAI phát triển, khi soạn bản luận cứ chính trong vụ án, theo phán quyết dài 4 trang của tòa ngày 9/9.

Tòa cho biết: “Ông Aarons thừa nhận với Tòa rằng bản luận cứ chính chứa những lời khai sai sự thật từ các nhân chứng hoàn toàn được bịa ra—Sĩ quan Michelle Amarillo, Sĩ quan Sanchez, Manal Al-Jibury và Teresa Marquez; lời khai sai sự thật của Danny Stanton rằng ông đã nhận được những lời đe dọa từ bị cáo và coi những lời đe dọa đó là nghiêm trọng; lời khai sai sự thật của Linda Stanton về những lời đe dọa mà chồng bà nhận được; lời khai sai sự thật của Mariah Chavez và Teresa Marquez (nhân chứng được bịa ra) về quần áo và ngoại hình của kẻ xả súng; đồng thời trình bày sai các căn cứ pháp lý” khi trích dẫn nhiều vụ án.

Tòa cho biết luật sư Aarons đã ký bản luận cứ dù không xác minh các thông tin thực tế và căn cứ pháp lý trong tài liệu do AI tạo ra. Ông cũng không thông báo cho thân chủ về việc không kiểm chứng thông tin hoặc việc bản luận cứ chứa những thông tin không chính xác.

Ông Aarons cũng thừa nhận không thông báo cho thân chủ sau khi tòa phát hiện những thông tin sai lệch.

Tòa án tối cao bang cho rằng điều này cho thấy ông không thể hiện sự hối hận và không quan tâm đầy đủ đến quyền lợi của thân chủ.

Tòa kết luận ông Aarons, người hành nghề tại Santa Fe, có hành vi khinh thường tòa án, cấm ông tiếp tục đại diện trước tòa, phạt 5.000 USD và chuyển vụ việc lên Hội đồng Kỷ luật của Tòa án Tối cao New Mexico. Theo tòa, hội đồng này, vốn từ chối bình luận, sẽ điều tra và tiến hành các thủ tục liên quan.

OpenAI chưa phản hồi yêu cầu bình luận trước thời điểm bài báo được đăng.

Ông Aarons nói với The Epoch Times qua email rằng sau khi nhận lời xử lý vụ kháng cáo, ông đã sử dụng ChatGPT để tóm tắt diễn biến phiên tòa.

“Tôi tự viết bản luận cứ, nhưng mục lục và phần tóm tắt chứa rất nhiều lỗi”, ông nói. “Khi đó, tôi không biết AI có thể bịa ra các sự kiện không chỉ trong bản luận cứ của tôi mà cả trong những văn bản do các luật sư khác đệ trình”.

“Tôi rất mừng vì tòa đã bác bỏ bản luận cứ đầy sai sót của tôi và yêu cầu luật sư công soạn một bản luận cứ mới cho thân chủ cũ của tôi. Về phần mình, tôi rất hối hận nhưng hy vọng hội đồng kỷ luật sẽ xem xét đây là một sai lầm ngoài ý muốn. Đây là một bài học cho tất cả những người làm nghề đang sử dụng công nghệ mạnh mẽ nhưng đôi khi thiếu ổn định này”.

Zachary Stieber, theo The Epoch Times