"판례가 없는데요?" AI가 만든 '유령 판례'에 법조계가 술렁이는 이유

"판례가 없는데요?" 

AI가 만든 '유령 판례'에 법조계가 술렁이는 이유

몇 달 전만 해도 SF 소설에나 나올 법한 이야기였다. AI가 지어낸 판례를 변호사가 법원에 냈다가 망신을 당하는 일. 그런데 이게 지금 대한민국 법정에서 실제로, 그것도 꽤 자주 벌어지고 있다.

토지수용 보상금을 다투던 한 소송에서, 주민 측 변호사는 "재결 절차 없이도 법원에 곧바로 손실보상금을 청구할 수 있다"며 근거 판례를 제시했다. 그런데 재판부가 확인해보니 그런 판결은 애초에 존재하지 않았다. 서울북부지방법원에서는 최근 넉 달 사이에만 무려 네 건의 소송에서 이런 '가짜 판례'가 발견됐다. 청주지검에서는 직장 내 괴롭힘 사건 관계자가 제출한 판례가 사건과 지나치게 비슷해 조사해봤더니 역시 조작된 것이었다.

반응형

왜 이런 일이 자꾸 벌어질까

생성형 AI는 그럴듯한 형식을 만드는 데는 능하지만, 사실 여부를 보장하지는 않는다. 존재하지 않는 사건번호, 실제 판결과 다른 취지로 왜곡된 인용, 판결문에 없는 문구까지 — AI가 "환각(할루시네이션)"을 일으키면 겉보기엔 진짜 판례와 구분이 안 될 만큼 정교한 가짜가 만들어진다. 문제는 이걸 검증 없이 그대로 서면에 옮겨 쓰는 경우가 늘고 있다는 점이다.

처음에는 변호사 없이 혼자 소송을 진행하는 '나홀로 소송'에서 주로 나타났다. 하지만 최근에는 전문 변호사가 작성한 준비서면에서도 허위 판례가 발견되면서, 법조계 전체의 골칫거리가 됐다. 실제로 판사가 추궁하자 "구글 제미나이에 검색했다"고 실토한 변호사도 있었다.

숫자로 보면 이 현상이 얼마나 빠르게 번지고 있는지 체감된다. 국내 법률 AI 서비스, 이른바 '슈퍼로이어' 가입자 수는 2025년 5월 약 1만 명에서 2026년 6월에는 3만 5천 명까지 늘었다. 1년 만에 3.5배 성장한 셈이다. AI가 법조 실무에 이렇게 빠르게 스며드는 만큼, 검증 없는 AI 활용이 만드는 부작용도 같은 속도로 커지고 있는 것이다.

한국만의 문제가 아니다

이건 국경을 가리지 않는 문제다. AI가 만든 허위 판례·법령이 전 세계 법정에서 적발되는 사례를 추적하는 'AI 환각 사례 데이터베이스'에 따르면, 2023년 이후 누적 집계된 사례가 2026년 6월 기준 1,635건에 달한다. 오류 유형을 보면 아예 없는 판례를 지어낸 '날조'가 가장 많고, 실제 판례를 엉뚱하게 왜곡한 경우, 판결문에 없는 문구를 인용한 '가짜 인용문' 순이다. 국가별로는 미국이 1,143건으로 압도적으로 많고 한국은 4건이 집계됐는데, 실제로는 이보다 훨씬 많을 것으로 보인다 — 언론에 보도된 사례만 반영된 수치이기 때문이다.

해외에서는 이미 제재가 현실화됐다. 미국 뉴욕남부지법은 2023년 챗GPT가 지어낸 판례를 제출한 변호사들에게 벌금을 부과했고, 제9연방항소법원은 허위 판례를 인용한 변호사 2명에게 각각 벌금을 물리고 해당 법원에서 6개월간 소송 수행을 정지시켰다. 한국은 아직 허위 판례 인용 자체를 직접 제재할 명확한 법 규정이 없는 상태라, 국회에서 관련 입법이 추진되고 있다.

법원과 로펌의 대응

대법원 법원행정처는 지난해 10월 'AI 활용 허위 주장·증거 제출 태스크포스'를 꾸리고 대응에 나섰다. 올해 2월에는 사법정보공개포털에 '허위 사건번호 확인 서비스'를 열었다. 사건번호를 입력하면 실제 존재하는 사건인지 바로 확인할 수 있고, 가짜일 경우 "존재하지 않는 사건번호입니다. 허위 정보일 수 있으니 주의하십시오"라는 경고가 뜬다.

여기서 한 발 더 나아가, 연말까지는 판사들이 쓰는 '재판지원 AI' 시스템에 서면에 인용된 판례·법령을 실제와 자동으로 대조해 '일치', '확인 필요', '불일치(허위·과장 의심)' 세 단계로 판정해주는 기능이 추가될 예정이다. 재판연구원 등이 하던 검토·분석 업무를 AI가 보조하면서, 판결문 작성 참고 자료로도 활용도를 넓힌다는 구상이다.

이 사건이 우리에게 주는 시사점

1. AI는 '초안 작성자'이지 '사실 확인자'가 아니다. AI가 그럴듯한 판례를 만들어내는 능력과, 그 판례가 실제 존재하는지 확인하는 능력은 완전히 다른 문제다. 법률 문서뿐 아니라 리포트, 논문, 기사 등 어떤 글을 쓰든 AI가 제시한 인용·통계·사실관계는 반드시 원출처를 직접 대조해야 한다.

2. 전문가일수록 검증 의무가 무거워진다. 나홀로 소송인의 실수는 재판부가 걸러줄 여지가 있지만, 변호사가 낸 서면의 오류는 신뢰도에 더 큰 타격을 준다. "AI가 그렇게 말했다"는 변명은 전문직의 책임을 대신해주지 않는다. 실제로 한 전문가는 법조 사회의 '인용 미확인' 관행이 AI 사용으로 인해 표면화된 것뿐이라고 지적한다 — AI 탓이 아니라, 원래도 있던 검증 소홀의 문제가 AI로 더 잘 드러난 것이라는 뜻이다.

3. 제도가 기술을 따라가야 한다. 법원의 허위 사건번호 확인 서비스나 재판지원 AI의 대조 기능처럼, 기술로 생긴 문제는 결국 기술로 보완하는 흐름이 자리잡고 있다. 동시에 허위 판례 인용에 대한 명확한 제재 규정을 만드는 입법도 병행돼야 실효성이 생긴다.

실무에서 챙겨야 할 주의점

• AI가 제시한 판례·법령·사건번호는 원문 데이터베이스(대법원 종합법률정보, 로앤비 등)에서 직접 검색해 존재 여부와 판시 내용을 대조한다.
• AI 응답을 그대로 복사·붙여넣기 하지 않고, 최소한 핵심 인용문 하나하나를 원문과 비교하는 습관을 들인다.
• 의뢰인이 AI로 미리 알아본 정보를 근거로 이의를 제기할 때는, 감정적으로 대응하기보다 왜 AI의 판단이 틀렸는지 구체적 근거로 설명한다.
• AI를 쓰지 않는 것이 능사가 아니라, "AI가 생성한 내용은 검증되기 전까지는 초안일 뿐"이라는 원칙을 조직 차원에서 명문화한다.

AI가 법률 서비스의 속도와 접근성을 크게 높여준 건 분명한 사실이다. 하지만 이번 '유령 판례' 사태는 편리함 뒤에 숨은 함정을 정확히 보여준다. 결국 관건은 AI를 쓰느냐 마느냐가 아니라, AI가 만든 결과물을 얼마나 꼼꼼히 검증하는 문화를 갖추느냐에 달려 있다.

와인병다육이세상사는이야기

와인병다육이세상사는이야기