미국 텍사스 주 북부지방법원의 한 판사가 앞으로 변호사들이 법정에 서류를 낼 때 이를 인공지능(AI)이 작성하지 않았다는 서명을 받기로 했다. 지난달 뉴욕의 한 변호사가 대화형 AI ‘챗GPT’가 답변한 허위 판례가 담긴 의견서를 제출했다가 징계를 받을 처지에 놓인 것을 계기로, 미 법조에서 AI에 대한 우려가 커지는 모습이다.

지난달 31일(현지시간) 미 기술전문지 테크크런치에 따르면 브랜틀리 스타 텍사스 북부지법 판사는 자신의 법정에 서는 모든 변호사에게 ‘자신이 제출한 서류의 어느 부분도 생성형 AI로 작성된 것이 아니며, AI 도움을 받은 경우 이를 사람이 확인했다’는 내용의 각서에 서명할 것을 요구하기로 했다. 텍사스 북부지법은 판사 개인이 자신의 법정에 대한 구체적 규정을 정할 수 있도록 하고 있다. 테크크런치는 스타 판사를 시작으로 다른 법정도 이 같은 규칙을 제정할 가능성이 있다고 보도했다.

스타 판사는 생성형 AI가 사실이 아닌 내용을 마치 진실처럼 생성하는 현상인 ‘환각 증상(Artificial Hallucination)’이 법정에서 큰 문제가 될 수 있다고 경고했다. 그는 “(생성형 AI) 플랫폼은 놀랍도록 능력이 뛰어나지만 환각 증상과 편견에 취약하다”며 “현재 상태로서는 거짓 출처와 인용문까지 만들어내고 있다”고 우려했다. 이어 “변호사는 개인적 편견·신념을 버리고 법과 의뢰인에게 충실할 것을 선서하지만, 생성형 AI는 이런 선서를 할 필요가 없는 프로그래밍의 산물”이라며 “이들은 미국의 법과 헌법, ‘진실’에 대한 충성심을 갖고 있지 않다”고 지적했다.

홍윤지 기자   hyj@lawtimes.co.kr

원본기사보기(클릭)
(출처 : 인터넷 법률신문 Lawtimes.co.kr)
<저작권자(c) 법률신문 – 무단 전재 . 재배포 금지>