국가수사본부는 2026년 1~7월까지 허위영상물(딥페이크) 범죄 피의자 419명(구속 17명)을 검거하였으며, 진화하는 범죄에 대응하기 위해 ①‘딥페이크 탐지 소프트웨어’ 판별, ②과학수사 영상 분석관 판독, ③인공지능(AI) 범행도구 분석 등 3중 대응체계를 갖추고 이를 고도화하고 있다.
(사례 1)
지난 3월경 경찰청 사이버범죄신고시스템에 ‘해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시되었다.’는 피해 신고가 잇달아 접수되었다. 경찰청은 신고 접수 즉시, 4개 청에 접수된 사건 관련 증거를 확보하고 유포된 사이트를 대상으로 범행 계정 및 게시물을 삭제하도록 하였으며, 경찰청 '딥페이크 탐지 소프트웨어'로 영상물을 분석한 결과 동일한 특징이 있음을 확인하였다. 집중수사 지시를 받은 사이버수사대는 유포된 영상을 동일인이 만들었다는 정황에 무게를 두고 수사를 진행하여 신속하게 피의자(20대, 남)를 검거한 후 구속 송치하였다.
(사례 2)
누리소통망(SNS) 계정을 통해 성착취 허위영상물을 제작·판매한 피의자(20대, 남)를 검거해 구속 송치한 후 제작을 의뢰한 피의자에 대한 수사를 이어가던 중, 검거된 피의자가 제작한 영상물과 다른 패턴의 허위영상물이 발견되었다. ‘딥페이크 탐지 소프트웨어’로 1차 판별 후 ‘인공지능(AI) 디지털 포렌식’ 기법을 활용하여 영상 제작에 쓰인 생성형 인공지능(AI) 프로그램과 편집 전 원본 사진까지 추가 확보하였고, 이를 토대로 의뢰자의 제작 혐의까지 수사하고 있다.
위 사례에서 활용된 ‘딥페이크 탐지 소프트웨어’는 다수의 해외 법집행 기관에서도 사용하고 있는 것으로, ①얼굴 생성 및 교체 여부, ②생물학적 특징 분석(눈 깜빡임, 혈류 변화), ③파일 메타데이터 구조 등을 종합적으로 분석하여 합성 여부를 가려내며, 국내 허위영상물 탐지에 특화되도록 훈련된 인공지능 모델을 탑재하는 등 성능을 지속해서 고도화하고 있다. 개발 후 현재까지 총 1,636건 활용되었으며, 특히 올해는 선거범죄 등 기타 수사 분야에서도 72건 활용되는 등 그 영역을 넓혀가고 있다.
이와 더불어 ‘딥페이크 탐지 소프트웨어’로 영상물을 탐색하였음에도 조작 여부가 모호하여 추가 분석이 필요한 경우, 과학수사 영상분석관에게 의뢰하여 ‘영상 분석 프로그램’을 통해 위·변조 검증하도록 탐지 절차를 구축하였다.
디지털 포렌식 분야에서는 딥페이크에 악용되고 있는 상용 인공지능(AI) 프로그램의 특이점을 분석한 ‘인공지능(AI) 포렌식 기법’을 개발 완료하여 수사에 활용하고 있다. 시·도경찰청 소속 전문분석관이 ‘피의자가 어떤 프로그램으로 영상을 조작했는지’, ‘어느 부분을 변경했는지’ 제작부터 유포까지 범행의 전 과정을 기술적으로 분석하여 재구성하며, 여죄를 확인하고 범행의 고의성을 입증하는 핵심 증거로 사용되고 있다.
이와 같은 딥페이크 탐지기술 활용은 디지털 성범죄 대응에만 머무르지 않고, 허위정보 유포·전기통신금융사기 등 인공지능을 악용한 다양한 범죄 전반으로 기술 적용 범위를 넓혀갈 계획이다. 경찰청 국가수사본부는 “기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다. 관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다.”고 강조하였다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}