경찰청 국가수사본부는 총선을 앞두고 ‘한국형 딥페이크 탐지 소프트웨어’를 개발해 관련 범죄 단속에 나선다고 5일 밝혔다.
개정 공직선거법 제82조의8에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동이 금지되는데, 경찰은 이 소프트웨어를 딥페이크를 이용한 범죄 단속에 활용한다는 계획이다.
딥페이크는 인공지능(AI)을 기반으로 이미지를 학습해 실제와 거의 같은 인물의 영상이나 사진을 만들어내는 기술이다.
딥페이크를 이용한 범죄는 주로 성착취물에 사용되었는데, 최근 대통령 등 유명 정치인의 모습을 재연한 딥페이크 영상이나 음성 등이 미국은 물론 한국에서도 등장해 논란이 됐다.
경찰은 오는 4월 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포와 여론조작 우려가 커지고 있다면서 새 탐지 기술을 활용해 단속을 한다는 계획이다.
이번에 개발한 소프트웨어는 딥페이크 의심 영상을 시스템에 업로드하면 통상 5~10분 내에 분석 작업을 완료해 가짜영상인지 판별할 수 있다. 판별이 완료되면 결과보고서를 즉각 만들어 수사에 활용할 수 있도록 한다.
해외에서 제작된 기존 딥페이크 탐지 모델은 서양인 위주 데이터로 구성돼 한국인 대상 영상의 탐지율이 떨어지는 문제가 있었다. 경찰이 개발한 탐지 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점을 포함해 5400명의 데이터 520만점을 학습했다.
이 소프트웨어가 판단한 진위 여부의 정확성은 약 80%다. 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 계획이다.
경찰청 관계자는 딥페이크 이용이 의심되면 탐지 소프트웨어로 분석해 결과를 확인한 후 적극 수사할 것이라고 전했다.