정치인 AI 사진 막는 미국 AI 기업들… 한국은 어떨까

이 시간 주요기사

뉴스 > IT·인터넷

메타·오픈 AI 등 라벨 부착 정책 발표… 일부 기업은 관련 이미지 생성·발언 금지
현재 선관위 모니터링 요원 60명 배치… “문제 없도록 지속적 학습 중”

양준규 기자 기자페이지 + 입력 2024-02-13 13:36:13

▲ AI 기술이 정치에 악용되는 사례가 발생함에 따라 해외에서 이를 막기 위한 움직임이 일고 있다. 게티이미지뱅크

인공지능(AI)을 활용해 정치인의 사진을 합성하는 등 AI 기술이 정치에 악용되는 사례가 발생함에 따라 해외에서 이를 막기 위한 움직임이 일고 있다. 한국의 경우 선관위에서 가짜뉴스 단속을 하고 있으며 국내 기업들이 아직 AI 생성 면에서는 강점을 보이지 않는 만큼 큰 문제를 일으키지는 않고 있다.

10일(현지 시각) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니는 조 바이든 미국 대통령과 도널드 트럼프 전 미국 대통령 등 유력 대선 후보 등과 관련한 이미지 생성을 금지하거나 제한할 예정이라고 설명했다.

또 다른 AI 이미지 생성 기업 인플렉션 AI는 자사의 챗봇 ‘파이’가 정치 후보 지지 발언을 하지 못하도록 하는 조치를 할 계획이다.

이러한 조치가 나오는 이유로는 최근 AI를 이용해 허위 이미지를 만들어내는 사례가 증가한 것이 꼽힌다. 실제로 지난해 도널드 트럼프 전 미국 대통령이 체포되는 이미지가 인터넷에 퍼지는 등 가짜뉴스가 만들어지고 있기 때문이다.

메타와 오픈 AI 등 AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게 하는 정책을 발표하는 등 AI 기술을 악용하는 것을 막기 위한 방안을 내놓고 있다. 2024년 11월 대선을 앞둔 시점에서 AI를 활용한 허위 사진의 폐해를 막기 위해 업계 전체가 나서는 모양새다.

오픈 AI는 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다”며 “우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 말했다.

우리나라의 경우 지난해 12월28일 개정된 공직선거법에 따라 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또한 게시할 수 없다. 현재 선관위는 AI 모니터링 전담 요원 60명을 배치해 AI 콘텐츠를 활용한 가짜뉴스 단속에 나서고 있다.

전창배 IAAE 국제인공지능윤리협회 이사장은 “대선 때 AI 윤석열이나 AI 이재명 등을 활용한 선거 운동이 화제가 되고 논란도 같이 일어나면서 발빠르게 대처했다”며 “AI를 활용한 이미지 생성의 경우 우리나라 기업이 개발한 AI 서비스가 이미지 생성 면에서는 발전이 더디기 때문에 아직 비슷한 논의가 없는 것으로 보인다”고 말했다.

네이버 홍보팀 관계자는 “현재 클로바가 이미지 생성을 지원하지 않기 때문에 비슷한 문제는 일어나지 않을 것으로 보인다”며 “대화 서비스의 경우 특정 대선후보를 지지하거나 비하하는 발언을 하지 않도록 지속적으로 학습시키고 있다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +