대화형 인공지능(AI) 챗GPT가 쓴 엉터리 변론서를 재판에 낸 미국 변호사들이 벌금을 부과받으며 망신을 당했다.

미국 CNBC에 따르면 P. 케빈 캐스털 뉴욕 맨해튼 연방지방법원 판사는 22일 챗GPT로 작성된 엉터리 변론서를 제출한 데 책임을 물어 변호사 2명에게 벌금 5천달러씩을 명령했다.

캐스털 판사는 피터 로두카, 스티븐 슈워츠 등 두 변호사가 소속된 법률회사 레비도, 레비도 앤드 오버먼에도 같은 벌금을 물렸다. 이들 변호사가 작성한 변론서에는 존재하지도 않은 판례와 허위 인용 문구가 포함돼 있었다.

캐스털 판사는 이들이 AI가 써낸 변론서를 재판에 제출해 책임을 저버렸다며, 법원이 판례의 진위에 의문을 제기한 뒤에도 허위의견을 계속 주장했다고 밝혔다. 그는 변호사들이 문제의 변론서 작성에 챗GPT를 썼다는 점을 깨끗하게 시인했다면 제재까지 하지는 않았을 수도 있다고 덧붙였다.

캐스털 판사는 존재하지 않는 판례의 저자로 변론 취지서에 허위로 기재된 판사들에게 제재 사실을 개별 통보하라고 두 변호사에게 명령하기도 했다. 그는 법원이 챗GPT 때문에 모욕을 당한 데 대해 “강요된 사과는 진정한 사과가 아닌 까닭에 법원이 사과를 요구하진 않을 것”이라고 밝혔다.

두 변호사는 2019년 국제선 항공기에서 기내식 식판에 무릎을 다쳤다는 원고를 대리해 아비앙카 항공을 상대로 소송을 제기했다.

문제의 변론서는 올해 3월에 제출됐다. 피고 측 변호인들은 원고 측에서 주장하는 판례 등 법률적 인용 문구가 존재하지 않는다고 문제를 제기했다.

캐스턴 판사는 법률 전문가가 인공지능 기기를 활용하는 것은 괜찮지만, 결과물을 책임감을 갖고 통제해야 한다고 밝혔다.

그는 “법원 제출물을 연구하고 작성할 때 훌륭한 변호사들은 후배 변호사, 법학도, 계약전문 변호사, 법률 백과사전, 데이터베이스 등으로부터 적절한 도움을 받는다”고 말했다.

그러면서 “기술적 진보가 일상이 된 마당에 믿을 수 있는 AI 도구를 보조로 활용하는 게 그 자체로 부적절하지는 않다”며 “그러나 현행 규정은 변호사들에게 제출물의 정확성을 보장하는 게이트키핑(문지기) 역할을 부과하고 있다”고 강조했다.

두 변호사는 기술혁신과 그로 인한 사회 전환 속에 나온 상징적 촌극으로 국제 망신을 당했을 뿐만 아니라 소송에서 이기지도 못했다.

캐스털 판사는 이날 소송을 각하해달라는 아비앙카 항공의 신청을 받아들였다.