Update : 2026-11-22 13:07
뉴스 > 연구·개발
딥페이크·딥보이스·가짜뉴스 싹 다 잡는다
경찰, 허위 조작 콘텐츠 판별 시스템 개발 착수
정수희 기자 기자페이지 + 입력 2025-02-02 11:54:38
▲ 경찰이 딥페이크·딥보이스·가짜뉴스 탐지를 위한 기술 개발 등에 연구비 총 91억 원을 약 3년간 지원하는 사업 계획을 공고했다. 경찰청 공고 갈무리
 
인공지능(AI)을 이용한 이미지 조작 행위인 ‘딥페이크’ 피해 사례가 만연한 가운데, 경찰이 이러한 허위 조작 콘텐츠 진위 여부를 판별하는 시스템 개발에 나섰다.
 
경찰은 최근 딥페이크·딥보이스·가짜뉴스 탐지를 위한 기술 개발 등에 연구비 총 91억 원을 약 3년간 지원하는 사업 계획을 공고했다.
 
허위 조작 콘텐츠에 주로 사용되는 딥페이크를 활용한 영상형 허위 조작 콘텐츠를 중심으로 음성형·텍스트형 콘텐츠의 조작 여부를 탐지하기 위한 데이터셋을 구축하고 통합 관리 시스템을 개발하는 내용이다.
 
2일 경찰청에 따르면 현재 수사 인력은 실제 인물처럼 영상을 만드는 딥페이크와 소리를 복제하거나 가짜 음성을 생성하는 딥보이스 등을 일일이 확인하며 수사 중이다. 기술 발전과 함께 늘어나는 신종 범죄에 대한 대응력을 키워야 한다는 목소리가 나오는 지점이다.
 
이러한 실정을 반영하듯 경찰청은 최근 AI의 급격한 발전으로 악용 범죄가 증가하면서 콘텐츠 판별에 오랜 시간이 투입되는 문제를 해결하기 위해 이번 사업을 추진한다고 밝혔다.
 
광고
멀티모달(복합 정보 처리) 형태의 탐지 알고리즘을 개발해 딥페이크를 탐지하고, 음성 주파수와 시간 분석 등을 활용해 딥보이스를 정교하게 분석·탐지한다는 계획이다. 또 가짜뉴스에는 생성형 AI를 동원, 에코 체임버(유사한 정보나 뉴스가 증폭돼 나타나는 현상)를 분석해 원천 게시물을 추적하고 ‘퍼 나르기식’ 가짜뉴스에도 조기 대응한다는 구상이다.
 
한편 방송통신심의위원회가 시정 요구한 딥페이크 성적 허위 영상물은 △2021년 1913건 △2022년 3574건 △2023년 7187건으로 해마다 급증했으며, 지난해 상반기에만 6071건이 발생한 것으로 집계됐다.
 
지난달에는 ‘자경단’이라는 이름으로 텔레그램에서 미성년자 159명을 포함해 남녀 234명을 성 착취한 일당이 경찰에 발각된 가운데, 지인의 딥페이크 성 착취물을 만들어 제공하는 등 자경단에게 포섭돼 사이버 성폭력에 가담한 73명이 특정되고 40명이 검거된 것으로 전해졌다. 
#딥페이크     # 딥보이스     # 가짜뉴스     # 경찰     # 시스템     # 통합     # 관리     # 연구     # 개발     # 허위     # 콘텐츠     # AI    
후원하기
  • 정기 후원
  • 일반 후원
  • 무통장입금: 하나은행 158-910019-39504 스카이데일리
  • 스카이데일리는 공공성에 기반해 독자가 만들어 가는 언론을 지향합니다. 정기 또는 일반 후원시 맞춤형 뉴스, 독자에게 할당하는 지면 서비스, 동행하는 홍보, 유상증자시 참여기회 제공(법인에 한함) 등의 혜택을 받을 수 있습니다
이 기사에 대해 어떻게 생각하시나요?
추천해요
1
좋아요
2
감동이에요
0
화나요
2
슬퍼요
0
댓글 : 6
방문수(PC&모바일)
오늘(실시간) 95,675 ▶
어제 182,342 ▶
최근 7일 ▶
대한민국 명사들
대면 기회를 가져보세요.
팬클럽 가기
오늘자 스카이데일리
우리동네 부자명사



주요 섹션 기사
주소 : 서울시 서초구 방배천로2안길 82(방배동 463-18) 청송빌딩 3,4층 | 전화 : 02-522-6595~6 | 팩스 : 02-522-6597
종합일간지 등록번호 : 서울시 가50131, 인터넷신문 등록번호 : 서울시 아01703, 등록일 : 2011년 7월 18일
발행·편집인: 민경두, 편집국장 : 이상준 대행, 사업자 번호 : 214-88-81099 후원계좌 : 158-910019-39504(하나은행)
copyrightⓒ2011, All rights reserved. Contact : skyedaily@skyedaily.com | 청소년보호책임자 : 김진강
본지는 한국신문윤리위원회의 서약사로서 신문윤리강령을 준수합니다.