美 변호사, 챗GPT 엉터리 변론서 제출했다 '덜미'

美 맨해든 연방지법, 변호사 2명·소속 법률회사 벌금부과

각각 5000달러 벌금…전례 없는 일

판사 "악의적으로 AI 인용 변론서 제출…허위 의견 지속 주장"

사진은 지난해 11월 발표된 생성형 인공지능 챗GPT(ChatGPT) ⓒAP/연합뉴스

미국에서 변호사들이 대화형 인공지능(AI) 챗GPT가 쓴 엉터리 변론서를 재판에 제출했다 발각돼 벌금을 부과받은 사건이 발생했다.

AP통신 등에 따르면 P. 케빈 캐스털 뉴욕 맨해튼 연방지방법원 판사는 22일(현지시간) 이 같은 책임을 물어 변호사 2명과 이들이 소속한 법률회사에 각각 벌금 5000달러(약 650만원)씩을 부과했다.

사건의 장본인은 피터 로두카와 스티븐 슈워츠로 법률회사 레비도, 레비도 앤드 오버먼에 근무하고 있다.

캐스털 판사는 "이들이 악의적으로 AI가 쓴 변론서를 재판에 제출했으며 직업적 책임을 저버렸다"며 벌금 부과 이유를 밝혔다. 그러면서 챗GPT에 의해 생성된 가짜 변론서 중 실제 사법 결정과 표면적으로 유사한 내용이 일부 있었지만 대부분의 내용은 정확하지 않은 엉터리였다고 설명했다.

이어 그는 "이들은 법원이 판례의 진위 여부에 의문을 제기했는 데도 불구하고 가짜 의견을 계속 주장했다"고 지적했다. 이어 "변호사들이 해당 변론서 작성에 챗GPT를 썼다는 점을 깨끗하게 인정했다면 제재까지 가지 않았을 것"이라고 말했다.

캐스털 판사는 "기술적 진보가 일상이 된 마당에 믿을 수 있는 AI 도구를 보조로 활용하는 게 그 자체로 부적절하지는 않다"며 "그러나 현행 규정은 변호사들에게 제출물의 정확성을 보장하는 게이트키핑(사실 여부를 검증하는 절차) 역할을 부과하고 있다"고 강조했다.

그는 또 법원이 챗GPT 때문에 모욕을 당한 데 대해 "강요된 사과는 진정한 사과가 아니기 때문에 법원이 사과를 요구하진 않을 것"이라고 밝혔다.

두 변호사는 2019년 국제선 항공기에서 기내식 식판에 무릎을 다쳤다는 원고를 대리해 아비앙카 항공을 상대로 소송을 제기했다.

이들 변호사 올해 3월 제출한 변론서에는 존재하지도 않은 판례와 허위 문구가 포함돼 있었다. 이에 피고 측 변호인들은 원고 측에서 주장하는 판례 등 법률적 문구가 존재하지 않는다고 문제를 제기했다.

이들 변호사는 소송에서도 패한 것으로 알려졌다. 캐스털 판사는 이날 몬트리올 협약에 따른 국제선 항공여행 소송의 유효기간 2년이 지난 뒤 소송이 제기됐다며 소송을 각하해달라는 아비앙카 항공의 신청을 받아들였다.

벌금을 청구받은 해당 법률회사는 판사의 명령을 따를 것이라고 말하면서도 변명이 들어간 성명서를 냈다. 이들은 성명에서 "우리는 법원과 의뢰인에게 사과했다. 다만 새로운 기술을 조금 인용했다는 일말의 실수를 저지른 것일 뿐"이라고 밝혔다. 법률회사 측은 항소 여부를 검토하고 있는 것으로도 알려졌다.