AI 딥페이크 분석모델, 국내 최초 공식 수사 활용
행정안전부와 국립과학수사연구원(국과수)은 자체 개발한 AI 딥페이크 분석모델을 활용해 일선 수사기관의 의뢰를 받은 사건 15건을 성공적으로 감정했다고 7월 30일 밝혔다.
이번 성과에는 제21대 대통령 선거 기간 발생한 딥페이크 사건 13건과 디지털 성범죄 2건이 포함됐다. 특히 대선 기간 동안 중앙선거관리위원회와 협력해 유튜브 등 온라인 공간의 불법 딥페이크 선거물 1만여 건을 탐지 및 삭제하는 데 기여했다.
딥페이크 감정, 국내 최초 공식화
AI 딥페이크 분석모델은 이미지, 영상, 음성의 합성 여부를 판별하는 기술로, 올해 4월까지 개발 및 검증을 완료한 뒤 약 두 달간 수사에 활용됐다. 이는 기존 기술적 한계로 불가능했던 딥페이크 감정을 국내 최초로 공식화한 사례라는 점에서 의미가 크다.
행안부와 국과수는 이 모델을 통해 과학적 증거 기반의 수사체계를 마련함으로써 딥페이크 범죄 대응에 새로운 전환점을 열었다고 강조했다.
231만 건의 데이터 학습, 실전형 분석 능력
이번 모델은 공개 데이터셋과 자체 제작 콘텐츠 등 총 231만 건(영상 69만 건, 음성 162만 건)의 데이터를 학습해 개발됐다. 최신 딥러닝 알고리즘을 적용하고 지속적인 성능 개선을 거쳐, 실질적 수사 환경에서도 활용 가능한 수준의 분석력을 확보했다.
- 합성 확률 및 시간별 변조율 예측
- 얼굴 특정 부위(눈, 코, 입 등) 변조 탐지
- 반복 저장으로 인한 데이터 손실 및 음질 저하 대응
이를 통해 단순 탐지를 넘어 정밀 판별 능력을 갖춘 것이 특징이다.
보이스피싱 분석모델과 연계
행안부와 국과수는 이번 모델을 2023년 개발된 보이스피싱 음성 분석모델과 연계해 더 강력한 수사 도구로 발전시킬 계획이다. 이를 활용하면 딥페이크 여부를 확인하는 동시에, 특정 정치인이나 인물의 음성 모방·합성 여부까지 입증할 수 있을 것으로 기대된다.
활용 범위 확대 및 전망
향후 국과수는 현재 독립형으로 운영 중인 모델을 디지털증거물인증시스템(DAS)에 통합해 업무 효율성을 높이고, 여성가족부·방송통신위원회 등 타 기관에도 확산 적용할 예정이다.
이봉우 국과수 원장은 “AI 기반 과학수사 역량을 강화해 국민이 신뢰할 수 있는 수사체계를 구축하겠다”고 밝혔으며, 이용석 행안부 디지털정부혁신실장은 “AI 딥페이크 분석모델은 인공지능을 사회문제 해결에 활용한 대표적 사례”라고 말했다.
이번 조치는 급증하는 딥페이크 범죄에 대응하고, 국민 안전을 위한 첨단 과학수사의 새로운 장을 여는 계기가 될 것으로 전망된다.