법정에서 클로드가 환각을 일으킬 때: Latham & Watkins 사건과 변호사 책임의 의미
When Claude Hallucinates in Court: The Latham & Watkins Incident and What It Means for Attorney Liability
TL;DR AI
1분핵심 요약
Latham & Watkins는 Concord Music Group v. Anthropic 사건에 Claude가 생성한 인용문이 들어간 선언서를 제출했는데, 제목과 저자가 잘못 적혀 있었습니다.
이 오류는 실제 법원 제출 문서에 포함됐고, 상대방이 지적하면서 재판부의 검토 대상이 됐습니다.
법원은 이후 해당 사실의 공개와 함께, AI가 보조한 인용문을 제출할 때 더 강한 검증 절차를 요구했습니다.
이번 사례는 AI가 그럴듯하지만 부정확한 법률 참고문헌을 만들 수 있으며, 변호사에게 Rule 11 및 직업상 책임 위험을 키운다는 점을 보여줍니다.