진실을 감추는 AI와

혼란에 빠진 사법부 ⚖️ 

19세기 후반 미국 법정에 처음 사진이 등장했을 때, 판사들은 사진을 곧이 곧대로 믿지 않았다. 사진은 그 자체로 증거가 되지 못했고, 누군가 법정에 나와 "이 사진은 내가 본 장면을 정확히 보여준다"고 증언해야만 의미를 가졌다. 법학자 제니퍼 므누킨(Jennifer Mnookin)은 이를 '그림 증언(pictorial testimony)'이라 불렀다. 사진은 증인의 말을 보조하는 삽화에 불과했던 것이다. 사진과 영상이 증인 없이도 스스로 말하는 '침묵의 증인(silent witness)'으로 격상되기까지는 한 세기에 가까운 시간이 필요했다. 기술에 대한 사회적 신뢰가 천천히 쌓인 결과였다.

지금 우리는 그 신뢰가 빠르게 붕괴되는 장면을 목격하고 있다. 최근 한국을 떠들썩하게 했던 배우 김수현 씨를 둘러싼 의혹에서 결정적 증거로 유포된 통화 녹취 파일이 AI로 만든 '딥보이스'였던 것으로 드러났다. 관련 명예훼손 사건의 1심이 진행 중인 만큼 무죄추정의 원칙에 따라 지켜봐야 하지만, 이 사건은 진실을 찾아가는 사법기관들이 어떤 곤경에 처해있는지를 잘 드러낸다.

김수현 씨 스캔들의 수사 과정에서 녹취 파일을 처음 넘겨받은 국립과학수사연구원의 결론은 '판정 불가'였다. 대한민국 과학수사의 상징인 국과수가 결론을 내리지 못한 것이다. 대검찰청 과학수사부의 기나긴 정밀 감정을 거치고서야 조작의 흔적을 찾을 수 있었다. 그 사이 여론은 이미 기울어 있었다. 배우 김수현씨는 기자회견을 열어 억울함을 호소했지만 그마저도 가십으로 소비됐다.

DNA 검사, CCTV, 지문 감식까지, 지금까지 기술 발전은 수사와 재판을 돕는 도구였다. 과학기술의 발전으로 오래된 사건도 해결하기 쉬워지자 2007년 강력범죄에 대한 공소시효가 전반적으로 연장되기도 했고, 2015년에는 ‘태완이법’을 통해 살인죄의 공소시효를 완전히 폐지하기도 했다. 

하지만 AI는 그 방향을 뒤집었다. 기술이 진실을 밝히는 것이 아니라 진실을 알 수 없게 만드는 훼방꾼이 된 것이다. AI는 어떻게 사법을 혼란에 빠뜨리고 있을까?

거짓말의 비용이 0이 되었다.

과거에도 증거를 조작하는 사람은 있었다. 그러나 위조에는 돈과 기술이 들었고, 들키면 감옥에 갈 각오를 해야 했다. 위조의 높은 비용은 그 자체로 사법 시스템과 정의를 지키는 실질적인 방어벽이었다.

AI는 그 비용을 사실상 0으로 만들었다. 이제 방 안에서 몇 번의 클릭으로 가짜 알리바이와 가짜 증거가 완성된다.

법원이 실제로 속은 사례도 있다. 3억 2천만 원 상당의 사기 혐의로 구속영장 실질심사를 받던 20대 남성은 "계좌에 9억 원이 있어 도망갈 이유가 없다"며 잔고 증명서를 제출했고, 법원은 영장을 기각했다. 검찰의 보완 수사 결과 실제 잔고는 23원이었다. AI로 위조한 이미지 한 장이 사법 판단을 뒤집은 것이다.

대구에서는 한 사람이 AI로 카카오톡 대화 내역과 현금 인출증을 꾸며 제출했고, 수사기관은 두 차례 속아 무고한 사람을 기소했다. 공판 과정에서 검사가 이상한 점을 파고들지 않았다면 그는 범죄자가 될 뻔했다.

AI가 만든 허위 정보가 전 세계 법원에 제출된 사례를 추적한 한 연구자의 집계는 이미 1,400건을 넘었고, 그 수는 계속 늘고 있다.

진짜가 부정당하는 역설

더 큰 문제는 그 다음이다. 가짜를 만들기 쉬워지자 진짜를 부정하기도 쉬워졌다.

법학자 로버트 체스니와 대니엘 시트론은 이를 '거짓말쟁이의 배당금(liar's dividend)'이라 불렀다. 속이려는 쪽은 증거를 직접 조작할 필요도 없어졌다. 조작이 쉬워진다면, 불리한 진짜 증거를 부정하기도 쉬워진다. 적극적으로 속이는 행위 없이도 증거의 진정성에 의심을 심어 법원을 혼란에 빠뜨릴 수 있다.

2021년 미국 카일 리튼하우스 재판이 대표적이다. 17세 소년이 인종차별 항의 시위 현장에서 반자동소총으로 2명을 숨지게 하고 1명을 다치게 한 사건에서, 검찰은 드론 영상을 아이패드로 확대해 배심원에게 보여주려 했다. 변호인은 "애플의 AI가 확대 과정에서 없는 픽셀을 만들어낸다"고 이의를 제기했다. 기술적으로 전혀 근거 없는 주장이었지만 판사는 검찰에 원본성을 입증하라고 요구했고, 검찰은 영상 확대를 통한 입증에 제동이 걸렸다.

테슬라 오토파일럿 사망사고 소송에서는 일론 머스크 측 변호인이 2016년 인터뷰 영상을 두고 "딥페이크일 수 있다"고 주장해 논란을 빚었고, 미국 의사당 점거 사건의 피고인 측도 현장 영상을 딥페이크라고 주장했다. 국내 이혼 소송에서는 남편과 내연녀가 모텔에 들어가는 CCTV 영상을 두고 남편이 딥페이크라며 버티다가, 법원이 조작 흔적이 없음을 확인하자 외도를 인정했다.

'AI 핑계’는 굳이 사실일 필요조차 없다. 의심을 던지는 것만으로 충분하다. 이로써 비용의 비대칭이 발생한다. 의심을 제기할 때는  "저거 AI 아니냐"는 한마디면 되지만, 그 의심을 걷어내기 위한 전문가 감정에는 수백만 원이 든다. 형사사건에서는 그 비용을 국가가 부담하고, 민사소송에서는 진짜 증거를 낸 당사자가 고스란히 떠안는다. 주장과 반박의 비용 구조가 뒤집힌 것이다.

오랜 시간 동안 녹취와 영상은 증언이 엇갈릴 때 신뢰할 수 있는 최후의 안전장치였다. 딥페이크는 단순히 개별 증거의 신빙성이 아니라 녹취와 영상이 차지해 온 인식적 지위를 무너뜨린다. 수사기관과 법원은 증거의 진위를 파악하기 위해 더 많은 노력과 시간을 들이게 되었다. 속이려는 자들이 ‘거짓말쟁이의 배당금’으로 이득을 얻을 때, 비용은 사회 전체가 치른다.

AI가 오히려 비효율을 만든다?

AI의 위협은 증거에만 그치지 않는다. AI는 사법 절차 전반에 불신과 비효율을 낳고 있다.

우리나라는 2024년 기준 민사사건의 약 90%가 변호사를 수임하지 않고 당사자가 직접 진행하는 '나홀로 소송'이다. 변호사 비용이 부담스러운 사람들이 생성형 AI에 기대는 것은 자연스러운 흐름이다. 미국에서도 본인 소송 비율은 2022년 11%에서 2025년 약 17%로 늘었고, AI로 작성된 것으로 추정되는 법원 문서는 2023년 1%에서 2026년 18%로 급증했다.

AI가 권리 주장의 문턱을 낮춘 측면은 분명히 있다. 그러나 틀린 법리, 존재하지 않는 판례, 전략 없이 쏟아낸 주장들이 공방을 어지럽히고 사회적 비용을 키우고 있다.

전문가도 예외가 아니다. 미국에서는 변호사가 챗GPT가 지어낸 판례를 제출했다가 제재를 받았고, 국내에서도 경찰이 AI가 알려준 허위 판례를 근거로 불송치 결정을 한 일이 있었다. 5년 차 변호사가 존재하지 않는 대법원 사건번호를 제출하기도 했고, 올해 4월 서울고등법원은 판결문 각주에 "피고 측이 인용한 대법원 판례 3개는 모두 존재하지 않는 것으로 보인다"고 적시했다. 이제는 법원이 변호사들에게 인용한 판례 전문을 제출하도록 요구하는 경우도 심심치 않게 찾아볼 수 있다.

판사라고 안전하지 않다. 미국 미시시피주와 뉴저지주의 연방 판사들이 판결문에 존재하지 않는 주장과 진술을 적었다가 결정을 철회했는데, 재판연구원이 AI로 초안을 작성한 탓이었다. "변호사에게 검증 의무를 지우기 전에 법원부터 검증하라"는 비판이 쏟아졌다.

AI가 그럴듯한 가짜 판례를 대량으로 만들어내자, 사법부는 모든 인용을 일일이 대조해야 하는 상황에 놓였다. 이러한 사법 행정의 낭비는 불신의 비용이다.

수사기관의 대응책은?

수사기관도 방어선을 치고 있다. 파일의 해시값을 대조하고, 압수에서 법정까지의 보관 연속성(chain of custody)을 입증한다.

그러나 여기에는 근본적인 빈틈이 있다. 해시값은 파일이 중간에 바뀌지 않았다는 '무결성(integrity)'을 보증할 뿐, 그 파일이 처음부터 진짜였다는 '진본성(authenticity)'을 보증하지는 못한다. 압수한 휴대전화 안에 애초에 AI로 만든 파일이 들어 있었다면, 해시값이 완벽해도 내용은 가짜다. 게다가 딥보이스의 부분 조작까지 판별하는 대검찰청의 기술이 실제 사건에 투입되는 시점은 2028년으로 예정되어 있다. 그때까지 방어선에는 구멍이 뚫려 있다.

특정 정보가 진실이라는 보장은 정보의 형태(사진, 영상, 녹취)에서, 정보가 누구에 의해 어떤 경로로 만들어지고 전달되었는가로 옮겨가고 있다. 므누킨이 묘사한 19세기 법정처럼, 영상은 다시 '누군가가 보증해줘야 하는 그림'으로 돌아가고 있다.

진실은 절차를 통해 증명된다

법정에서 실체적 진실은 단순히 숨겨진 사실을 찾아내는 것을 넘어, 합리적인 절차와 증거 규칙을 통해 증명된다. 법적 판단의 정당성 역시 엄격한 절차를 거쳐 확보된다. "모든 영상과 증거가 조작될 수 있으니 아무것도 믿을 수 없다"는 식의 무조건적인 의심은 사법 시스템의 신뢰를 무너뜨린다. 증거가 얼마나 제대로 된 절차와 검증을 거쳤는가를 따지는 일이다.

실체적 진실을 가려내기 어려운 AI 시대일수록 법이 기댈 곳은 진실을 올바르게 검증하는 절차다. 증거의 진정성을 입증할 책임을 누구에게 배분할지, 근거 없는 딥페이크 주장에 어떤 법적 부담을 지울지, 진짜 증거를 제출한 당사자가 감정 비용을 떠안지 않도록 제도를 재설계해야 한다.

논의는 이미 시작되었다. 국회에는 고의나 과실로 존재하지 않는 판례를 인용한 경우 500만 원 이하의 과태료를 부과하거나, 재판장이 의견 진술을 제한할 수 있도록 하는 법안이 발의되어 있다. 전자소송시스템에 증거를 제출하는 단계에서 AI 생성이나 위변조 흔적을 자동으로 판별하는 알고리즘을 도입하자는 제안도 나왔다. 법정의 문턱에서 1차로 걸러내겠다는 구상이다.

하지만 가짜 판례에 대한 가장 근본적인 해법은 “투명성”이다. 가짜 판례를 막으려면 진짜 판례를 열어야 한다. 우리나라는 하급심 판결문이 온전히 공개되지 않고 열람 비용도 높다. 진짜 데이터가 닫혀 있으니 AI는 빈자리를 그럴듯한 허구로 채운다. 판결문 전면 공개는 이제 국민의 알 권리를 넘어, AI 시대 사법부가 신뢰를 지키기 위한 전략이다. 누구나 진짜를 대조할 수 있을 때 가짜는 힘을 잃는다.

거짓말의 비용이 0이 된 시대에도 진실의 가치가 0이 되어서는 안 된다. 19세기 법정이 사진을 믿기까지 신뢰를 쌓아 올렸듯, 우리는 이제 AI 시대의 증거를 믿을 수 있게 하는 절차와 제도를 새로 쌓아야 한다. 법정의 진실은 언제나 구성되어 왔다. 문제는 그것을 누가, 얼마나 정직하게, 얼마나 튼튼하게 구성하느냐다.