Tóm tắt nhanh
- Luật sư Stephen Aarons dùng ChatGPT để tóm tắt hồ sơ kháng án.
- Mô hình tạo ra nhân chứng, lời khai và trích dẫn pháp lý không tồn tại hoặc sai lệch.
- Tòa phạt 5.000 USD và đình chỉ quyền tranh tụng trong thời gian chờ điều tra.
Tòa án Tối cao bang New Mexico (Mỹ) vừa ra phán quyết xử phạt luật sư bào chữa Stephen Aarons 5.000 USD và tuyên ông phạm tội coi thường tòa án vì nộp bản tóm tắt pháp lý chứa lời khai cùng danh tính nhân chứng hoàn toàn do ChatGPT tự dựng nên. Ông Aarons đã dùng mô hình o3 của OpenAI để tóm tắt hồ sơ kháng án cho một vụ giết người nhưng không đối chiếu lại nội dung trước khi nộp.
ChatGPT tự bịa nhân chứng và lời khai cảnh sát trong hồ sơ kháng án
Stephen Aarons là luật sư bào chữa hình sự có hơn 40 năm kinh nghiệm tại Santa Fe, New Mexico. Ông được gia đình Oscar Renee Sandoval thuê phụ trách kháng cáo bản án tù chung thân mà Sandoval phải nhận vào tháng 2/2025 vì tội sát hại Shiereen Al-Jibury.
Trong phiên điều trần ngày 21/8, ông Aarons thừa nhận đã sử dụng dịch vụ Rev.com để chuyển các bản ghi âm phiên tòa thành văn bản, sau đó đưa toàn bộ tài liệu cùng hồ sơ vụ án vào ChatGPT với kỳ vọng hệ thống sẽ xuất ra bản tóm tắt hoàn chỉnh không tì vết. Tuy nhiên, chatbot đã tự động tạo ra lời khai của các sĩ quan cảnh sát và nhân chứng không hề tồn tại trong vụ án, bao gồm nhân chứng có tên Teresa Marquez và lời khai hư cấu về trang phục của hung thủ. Thậm chí, tài liệu còn trích dẫn sai lệch nội dung của các tiền lệ pháp lý có thật.
Thẩm phán chỉ trích gay gắt và chuyển hồ sơ kỷ luật
Hội đồng thẩm phán New Mexico chỉ trích gay gắt sự cẩu thả của luật sư Aarons. Thẩm phán C. Shannon Bacon nhấn mạnh luật sư có nghĩa vụ xác minh tính chuẩn xác của mọi thông tin do chính mình ký tên, bất kể tài liệu đó do trợ lý luật sư hay AI tạo ra. Tòa án cũng bác bỏ lập luận cho rằng bản thân không biết AI có thể sinh ra thông tin giả mạo (hallucination), bởi vấn đề ảo giác của mô hình ngôn ngữ lớn đã được cảnh báo rộng rãi trong ngành pháp lý suốt nhiều năm qua.
Bên cạnh khoản phạt 5.000 USD nộp vào Quỹ Bảo vệ Khách hàng thuộc Đoàn Luật sư New Mexico, Tòa án Tối cao bang đã cấm ông Aarons tham gia tranh tụng trước cơ quan này trong thời gian chờ Ủy ban Kỷ luật Luật sư điều tra. Toàn bộ các bản tóm tắt pháp lý do ông Aarons đệ trình trước đó đều bị hủy bỏ, và tòa đã chỉ định một luật sư công đại diện cho thân chủ Oscar Sandoval để đảm bảo quyền lợi pháp lý trong phiên xử sắp tới.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
