[서울=뉴스핌] 조준경 기자 = 경찰이 허위영상물(딥페이크) 탐지 소프트웨어를 사용해 419명을 검거했다.

경찰청 국가수사본부(국수본)는 지난 1월부터 7월까지 딥페이크 범죄를 저지른 419명을 검거하고 17명을 구속했다고 13일 밝혔다.

경찰은 딥페이크 범죄 수사를 위해 '딥페이크 탐지 소프트웨어' 판별, 과학수사 영상 분석관 판독, 인공지능(AI) 범행도구 분석을 활용했다.

경찰은 지난 3월 '해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다'는 신고를 다수 접수하고 범행 계정 및 게시물을 삭제했다. 경찰은 '딥페이크 탐지 소프트웨어'로 영상물을 분석한 결과 동일한 특징이 있음을 확인하고 수사해 피의자를 검거해 구속 송치했다.

경찰은 소셜네트워크서비스(SNS) 계정을 통해 성착취 허위영상물을 제작·판매한 피의자를 검거해 구속 송치했다. 경찰은 허위영상물 제작 의뢰자에 대한 수사를 이어가던 중 다른 패턴의 허위영상물을 발견했다. 경찰은 '딥페이크 탐지 소프트웨어'로 1차 판별 후 'AI 디지털 포렌식' 기법을 활용해 영상 제작에 쓰인 생성형 AI 프로그램과 편집 전 원본 사진까지 추가 확보했다. 경찰은 이를 토대로 의뢰자의 제작 혐의까지 수사 중이다.

경찰은 딥페이크 탐지 소프트웨어에 AI 모델을 탑재해 활용 중이다. 해당 기술 개발 후 총 1636건에 활용됐다.

경찰은 '딥페이크 탐지 소프트웨어'로 영상물을 탐색했음에도 조작 여부가 모호해 추가 분석이 필요한 경우 과학수사 영상분석관에게 의뢰해 '영상 분석 프로그램'을 통해 위·변조 검증하는 탐지 절차도 구축했다. 디지털 포렌식 분야에서는 딥페이크에 악용되고 있는 상용 AI 프로그램의 특이점을 분석한 'AI 포렌식 기법'을 개발 완료해 수사에 활용하고 있다.

국수본 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 강조했다.

calebcao@newspim.com