[The Verge] AI가 만들어낸 가짜 증인, 변호사 5천 달러 벌금형에 처하다
79
설명
인공지능(AI) 기술이 법률 분야에 도입되면서 예상치 못한 부작용이 발생하고 있다. 특히 생성형 AI는 그럴듯한 허위 정보를 사실처럼 만들어내는 '환각(hallucination)' 현상으로 인해 법률 문서 작성 시 심각한 문제를 야기할 수 있다는 우려가 꾸준히 제기되어 왔다. 이는 단순히 기술적 오류를 넘어, 사법 시스템의 신뢰성과 공정성에 직접적인 영향을 미칠 수 있는 사안이다. 2023년 6월, 미국 변호사협회(ABA)는 AI 사용에 대한 윤리적 지침을 발표하며 법률 전문가들에게 AI 생성 정보의 사실 여부를 철저히 검증할 것을 권고한 바 있다. 이러한 배경 속에서 뉴멕시코주 대법원의 이번 판결은 AI의 법률 분야 적용에 대한 경각심을 다시 한번 일깨우는 사례로 기록될 것이다.
뉴멕시코주 대법원은 살인 사건 항소심에서 AI가 생성한 가짜 증인과 허위 경찰 증언을 포함시킨 변호사 스티븐 아론스(Stephen Aarons)에게 5,000달러의 벌금을 부과하고 법정 모독죄로 처벌했다. 2024년 5월 15일(수요일)에 제출된 법원 기록에 따르면, 아론스는 자신이 제출한 AI 생성 법률 의견서에 포함된 사실 주장과 법적 권위를 검증하지 않은 책임을 물었다. 법원 기록은 해당 의견서가 '완전히 조작된 증인들의 거짓 증언'과 '총격범의 복장 및 외모에 대한 거짓 증언'을 담고 있다고 명시했다. 이는 AI가 단순히 정보를 요약하거나 초안을 작성하는 수준을 넘어, 법률적 효력을 지닌 문서에 치명적인 허위 사실을 주입할 수 있음을 보여준다. 특히, 살인 사건이라는 중대한 사안에서 이러한 허위 정보는 사건의 진실 규명과 피고인의 권리 보호에 심각한 장애물이 될 수 있다. 재판부는 아론스가 AI의 위험성을 인지하지 못했는지에 대해 의문을 제기하며, 법률 전문가로서의 기본적인 검증 의무를 소홀히 했음을 지적했다.
### 향후 전망
이번 판결은 AI 기반 법률 서비스 제공업체와 이를 사용하는 법률 전문가들에게 상당한 부담으로 작용할 전망이다. 향후 AI 생성 콘텐츠의 정확성을 보장하기 위한 기술적, 제도적 장치 마련이 시급해질 것이다. 법원들은 AI 생성 문서에 대한 검증 절차를 강화하거나, AI 사용 시 명확한 고지 의무를 부과하는 등의 규제를 도입할 수 있다. 또한, AI 윤리 교육이 법률 교육 과정에 더욱 중요하게 포함될 가능성이 높다. 다른 주에서도 유사한 사례가 발생할 경우, AI의 법률 분야 활용에 대한 전반적인 재검토가 이루어질 수 있으며, 이는 AI 기술 발전 속도와 법률 시스템의 규제 속도 간의 간극을 좁히는 계기가 될 수 있다. 다만, AI 기술의 발전 속도를 고려할 때, 규제가 기술을 따라가지 못하는 상황이 지속될 수도 있다는 불확실성도 존재한다.
**시사점** — AI의 법률 문서 활용, '환각' 현상으로 인한 법적 책임 문제가 현실화되면서 법률 전문가들의 철저한 검증 의무가 강조되고 있다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/994207/chatgpt-new-mexico-lawyer-fined-murder-appeal))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.