기술이 발전하고 이에 ...'))
딥페이크 기술을 활용한 음성과 실제 음성을 일반인에게 들려준 결과 어느 것이 진짜 음성인지 구별하지 못한다는 연구 결과가 나왔다. 인공지능(AI) 기술이 발전하고 이에 대한 인지도가 높아짐에 따라 범죄에 악용될 수 있다는 우려가 커지고 있다.
영국 유니버시티 칼리지 런던의 루이스 그리핀 교수팀은 과학 저널 ‘플로스 원’에 영어와 중국어 딥페이크 음성을 들려주고 진짜와 가짜를 찾아내는 실험을 진행한 결과를 3일 발표했다.
해당 실험에서 연구팀은 영어와 중국어 데이터세트로 훈련된 텍스트 음성 변환 알고리즘을 사용해 각각의 언어로 된 딥페이크 음성 샘플 50개씩을 만들고 이를 529명의 참가자에게 들려주고 음성이 진짜인지 가짜인지 구분하게 했다.
실험 결과 참가자들은 딥페이크 음성의 27%를 구분하지 못했다. 이후 실험 참가자들에게 딥페이크 음성의 예시를 제시하고 구분법을 훈련한 뒤 다시 실험을 진행했으나 딥페이크를 구분하는 능력이 약간 개선되는 것에 그쳤다.
논문 제1 저자인 킴벌리 마이 연구원은 “실험에 사용된 샘플이 비교적 오래된 알고리즘으로 만들어진 점을 고려하면 사람들이 현재와 미래의 정교한 기술로 만든 딥페이크 음성을 얼마나 감지해낼 수 있을지 의문이 든다”고 말했다.
[관련 기사]
- 이찬진, 증권사 CEO에 “금융소비자 중심의 DNA 이식해야”
2026-02-10
- 삼성증권 영업이익 1조 눈앞… WM·연금 전략 통했다
2024-11-26
- 전영묵 신임 대표, 삼성생명 구원투수 등판
2020-01-22
[관련 기사]
- 백종원, 요새 뭐하나 했더니… ‘상주곶감축제’ 빼꼼
2026-01-28
- 백종원 “국감 불출석, 글로벌 협약 일정 때문”… 해외서 K-푸드 행보
2025-10-29
- 쿠팡·무신사·홈플러스 등 국감 줄소환… 플랫폼 수수료·노동 문제 ‘도마 위’
2025-10-12
- 더본코리아, 상장 후 최저가 추락… 실적 악화·이미지 타격에 삼중고
2025-08-25
- 더본코리아, 가맹점주 ‘월세 카드 결제 서비스’ 도입
2025-07-29
[관련 기사]
- ‘Mr 에너지’ 이만득, 친환경 도시가스 첨병 “나를 따르라”
2022-12-20
- 유상덕 ST인터내셔널 회장, 기업경영+미술문화 발전 ‘온 힘’
2022-07-06
- 삼천리 도시가스 전문기업으로 성장시킨 이만득… 외식사업에 본격 시동
2021-08-05
- 연탄재벌 유상덕, 40억 호화빌라 2채 전부 현금매입
2018-01-25
- 삼천리, 가스기업다운 ‘에너지 상생’ 실천
2018-01-24
- 삼천리, 지역사회 상생 ‘사랑받는 기업’ 거듭
2016-09-28
[관련 기사]
- BBQ, 스페인에 헤드쿼터 설립… 유럽시장 공략 강화
2025-12-08
- 2025년 경력직 공채… BBQ, 해외 시장 겨냥 인재 확보
2025-09-08
- BBQ, 콜롬비아 진출… 아메리카 전역 K-푸드 벨트 구축
2025-08-26
- 윤홍근 BBQ 회장, 김상옥의사기념사업회 13대 회장 취임
2025-03-06
[관련 기사]
- 홍명보호 이라크 3-2 꺾고 5부능선 넘었다… 북중미 직행 청신호
2024-10-16
- ‘홍명보호’ 96위 팔레스타인에 충격의 무승부 … 경기장 팬들 야유
2024-09-06
- 외국인만 약 100명 가량 살핀 축구협회… 결국 돌고돌아 홍명보
2024-07-07
- [박병헌의 스포츠 세상] 국민도 함께한 한국 축구의 애환
2024-05-23
딥페이크는 실제 인물의 영상이나 음성을 토대로 AI를 훈련한 후 원본 음성이나 이미지를 재현하는 기술이다. 초기 딥페이크 음성 알고리즘은 오디오 생성을 위해 수천 개의 음성 샘플이 필요했으나 최신 사전학습 알고리즘은 약 3초 분량의 음성 클립만으로도 사람 음성을 재현할 수 있다.
연구팀은 해당 연구 결과를 토대로 사람들이 딥페이크 음성과 실제 음성을 제대로 구별하지 못하며 딥페이크 음성과 이미지의 위협에 대응하기 위한 대응 전략이 필요하다고 주장했다.
실제로 기술이 발달하면서 딥페이크를 활용한 범죄에 대한 위험성도 꾸준히 지적돼 왔다. 2019년 영국의 한 에너지 회사에서는 한 직원이 AI 기술로 제작된 상사의 딥페이크 음성 메시지를 받고 헝가리 회사의 20만 유로를 송금하는 사건이 발생하기도 했다.
특히 생성형 AI 열풍으로 AI에 대한 접근성이 커지면서 인터넷을 중심으로 일반인들이 딥페이크 음성을 활용하는 사례가 늘어나고 있다. 유튜브에서는 유명인들의 음성 AI와 게임 영상을 결합해 유명인들이 같이 게임을 하는 콘셉트 영상이 올라오기도 했으며 인터넷 스트리머의 목소리로 노래를 부르게 하는 ‘스트리머 AI 커버’ 영상 또한 큰 화제를 모으고 있다.
해당 콘텐츠들은 재미를 위해 소비되고 있기 때문에 사회적인 문제로는 번지지 않았으나 이미 범죄 사례가 있고 이미 특정 인물의 음성을 자신의 원하는 방법으로 가공할 수 있는 것이 일반인들에게도 알려진 이상 AI를 이용한 범죄가 크게 늘어날 수도 있다는 전망이 나오고 있다.
그리핀 교수는 “생성형 AI 기술이 발달하고 이중 상당수가 공개돼 누구나 사용할 수 있게 되면서 이점뿐만이 아니라 위험도 목격하게 됐다”며 “정부와 기관들은 이런 기술의 남용에 대처하기 위한 전략을 개발해야 할 것”이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
