서울 29º
습도 60%
광주 27º
습도 75%
울산 26º
습도 70%
)
딥페이크 기술을 활용한 음성과 실제 음성을 일반인에게 들려준 결과 어느 것이 진짜 음성인지 구별하지 못한다는 연구 결과가 나왔다. 인공지능(AI) 기술이 발전하고 이에 대한 인지도가 높아짐에 따라 범죄에 악용될 수 있다는 우려가 커지고 있다.
영국 유니버시티 칼리지 런던의 루이스 그리핀 교수팀은 과학 저널 ‘플로스 원’에 영어와 중국어 딥페이크 음성을 들려주고 진짜와 가짜를 찾아내는 실험을 진행한 결과를 3일 발표했다.
해당 실험에서 연구팀은 영어와 중국어 데이터세트로 훈련된 텍스트 음성 변환 알고리즘을 사용해 각각의 언어로 된 딥페이크 음성 샘플 50개씩을 만들고 이를 529명의 참가자에게 들려주고 음성이 진짜인지 가짜인지 구분하게 했다.
실험 결과 참가자들은 딥페이크 음성의 27%를 구분하지 못했다. 이후 실험 참가자들에게 딥페이크 음성의 예시를 제시하고 구분법을 훈련한 뒤 다시 실험을 진행했으나 딥페이크를 구분하는 능력이 약간 개선되는 것에 그쳤다.
논문 제1 저자인 킴벌리 마이 연구원은 “실험에 사용된 샘플이 비교적 오래된 알고리즘으로 만들어진 점을 고려하면 사람들이 현재와 미래의 정교한 기술로 만든 딥페이크 음성을 얼마나 감지해낼 수 있을지 의문이 든다”고 말했다.
딥페이크는 실제 인물의 영상이나 음성을 토대로 AI를 훈련한 후 원본 음성이나 이미지를 재현하는 기술이다. 초기 딥페이크 음성 알고리즘은 오디오 생성을 위해 수천 개의 음성 샘플이 필요했으나 최신 사전학습 알고리즘은 약 3초 분량의 음성 클립만으로도 사람 음성을 재현할 수 있다.
연구팀은 해당 연구 결과를 토대로 사람들이 딥페이크 음성과 실제 음성을 제대로 구별하지 못하며 딥페이크 음성과 이미지의 위협에 대응하기 위한 대응 전략이 필요하다고 주장했다.
실제로 기술이 발달하면서 딥페이크를 활용한 범죄에 대한 위험성도 꾸준히 지적돼 왔다. 2019년 영국의 한 에너지 회사에서는 한 직원이 AI 기술로 제작된 상사의 딥페이크 음성 메시지를 받고 헝가리 회사의 20만 유로를 송금하는 사건이 발생하기도 했다.
특히 생성형 AI 열풍으로 AI에 대한 접근성이 커지면서 인터넷을 중심으로 일반인들이 딥페이크 음성을 활용하는 사례가 늘어나고 있다. 유튜브에서는 유명인들의 음성 AI와 게임 영상을 결합해 유명인들이 같이 게임을 하는 콘셉트 영상이 올라오기도 했으며 인터넷 스트리머의 목소리로 노래를 부르게 하는 ‘스트리머 AI 커버’ 영상 또한 큰 화제를 모으고 있다.
해당 콘텐츠들은 재미를 위해 소비되고 있기 때문에 사회적인 문제로는 번지지 않았으나 이미 범죄 사례가 있고 이미 특정 인물의 음성을 자신의 원하는 방법으로 가공할 수 있는 것이 일반인들에게도 알려진 이상 AI를 이용한 범죄가 크게 늘어날 수도 있다는 전망이 나오고 있다.
그리핀 교수는 “생성형 AI 기술이 발달하고 이중 상당수가 공개돼 누구나 사용할 수 있게 되면서 이점뿐만이 아니라 위험도 목격하게 됐다”며 “정부와 기관들은 이런 기술의 남용에 대처하기 위한 전략을 개발해야 할 것”이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
