[화담일보=김소희기자] 생성형 인공지능(AI)이 존재하지 않는 판례나 실제 내용과 다른 판례를 만들어내는 이른바 ‘환각’ 현상이 사법절차에서도 문제로 드러났다. 대법원이 각급 법원 법관을 대상으로 실시한 설문조사에서 민사·가사·행정 담당 응답 법관의 약 80%가 허위·부존재 판례 등이 인용된 사례를 경험했다고 답했다. 법원은 허위 인용을 막기 위한 제도적 대응과 실무상 대책 마련을 검토하고 있다.
대법원이 2일 공개한 「AI 허위 판례 등 인용 관련 설문조사 결과」에 따르면 이번 조사는 2026년 10월 6일부터 16일까지 각급 법원 법관을 대상으로 진행됐으며, 총 360명이 응답했다. 조사 결과 민사·가사·행정 담당 응답 법관 가운데 약 80%가 허위·부존재 판례 등이 소송 과정에서 인용된 사례를 경험했다고 밝혔다.
사례 유형별로는 부존재 판례 인용이 196명(80.7%)으로 가장 많았다. 이어 허위 판례 인용 159명(65.4%), 허위·부존재 법령 인용 41명(16.9%), 허위·부존재 논문·문헌 등 자료 인용 10명(4.1%) 순이었다. 해당 문항은 복수응답으로 진행됐다.
허위 판례 등을 인용한 주체로는 당사자 본인이 164명(69.5%)으로 가장 많이 선택됐다. 변호사인 소송대리인 또는 변호인도 136명(57.6%)으로 나타났다. 허위 인용 문제가 AI를 활용하는 일반 소송 당사자에게만 국한되지 않고 변호사가 제출하는 서면에서도 발생하고 있음을 보여주는 결과다.
대법원이 공개한 구체적인 사례도 눈길을 끈다. AI가 대법원 판결서 형식을 그대로 모방해 생성한 허위 판결서가 제출되거나, 처음 보는 법리와 함께 대법원 사건번호가 기재됐지만 실제 판례 검색에서는 확인되지 않는 사례가 있었다. 실제 판결의 판시 내용을 변경하거나 판결 취지와 다르게 인용한 경우도 제시됐다. AI와 나눈 대화 내용이나 소송 전략에 관한 문구가 서면에 그대로 포함된 사례도 확인됐다.
이러한 허위 인용은 단순한 문서 작성 오류를 넘어 재판 당사자에게 추가적인 부담을 줄 수 있다. 상대방은 인용된 판례의 존재 여부와 내용의 정확성을 확인하고 반박하는 데 시간과 비용을 들여야 한다. 특히 변호사 없이 직접 소송을 진행하는 당사자는 잘못된 인용을 찾아내고 대응하는 데 더 큰 어려움을 겪을 수 있다. 법원 역시 판례의 존재와 인용 내용의 정확성을 확인하는 과정에서 사건 심리가 지연될 가능성이 있다.
대법원은 설문조사에서 제도적 대응 방안 마련이 필요하다는 응답이 91.7%에 달했다고 밝혔다. 특히 ‘매우 필요하다’는 응답은 64.8%였다. 구체적인 대응 방안으로는 과태료 부과 근거 마련이 215명(61.4%), 인용한 판례 등의 검증의무 부과가 214명(61.1%), AI 활용 사실 기재의무 부과가 212명(60.6%), 반복적인 허위 인용 등에 대한 변호사 징계의뢰 등 제재방안 마련이 194명(55.4%)으로 집계됐다. 이 항목 역시 복수응답 결과다.
법원행정처는 이번 설문조사 결과를 토대로 제도와 실무 양면에서 대응 방안을 마련할 계획이다. 민사소송법과 형사소송법 개정을 통해 과태료 부과 등의 근거 규정을 마련할 필요가 있다고 보고, 법무부 등 관계기관과 협의한 뒤 국회에 의견을 제출할 예정이다. 전자소송 사이트에 AI 활용 시 유의사항을 안내하는 방안도 검토하고 있다.
AI 활용 자체를 제한하기보다 AI가 제시한 정보의 정확성을 확인하는 절차를 어떻게 마련할 것인지가 앞으로의 과제가 될 전망이다. 판례와 법령은 재판의 판단 근거가 되는 만큼, 존재 여부와 실제 판시 내용에 대한 검증이 필요하다. AI가 법률 정보 검색과 서면 작성에 활용되는 범위가 넓어질수록 이를 사용하는 당사자와 법률 전문가의 확인 책임도 중요해질 것으로 보인다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}