‘한녀’ 입력하면 ‘한남… 카톡 AI 혐오 논란

이 시간 주요기사

뉴스 > IT·인터넷

‘한녀’ 입력하면 ‘한남’으로 변경… 반복되는 AI 혐오 표현 논란
카카오톡, 해당 기능 긴급 조치 “기술적 고도화 계속하겠다”
전문가 “현재 기술로 필터링 한계 있어… 이용자가 혐오 표현 자제해야”

양준규 기자 기자페이지 + 입력 2023-12-20 12:24:31

▲ 카카오가 자사 메신저 서비스 카카오톡에 도입한 인공지능(AI) 기능이 혐오 표현 논란에 휩싸였다. ⓒ스카이데일리

카카오가 자사 메신저 서비스 카카오톡에 도입한 인공지능(AI) 기능이 혐오 표현 논란에 휩싸였다. 여기에 여성 혐오 표현과 남성 혐오 표현에 대한 교정 기능이 다르게 작동한다는 주장까지 나오면서 젠더갈등으로 확산될 조짐도 보이고 있다.

카카오는 19일 카카오톡을 최신버전으로 업데이트하면서 카톡 실험실 기능에 ‘AI 기능 이용하기’ 옵션을 활성화했다.

이번에 새로 추가된 AI 기능 중 말투 변경 기능을 사용하면 작성한 카카오톡 메시지를 ‘정중체’와 ‘이모지체’ 등 다양한 말투로 변경할 수 있다.

그러나 이용자들이 카카오톡 말투 변경 기능을 이용하는 과정에서 혐오 표현 논란이 나왔다. 카카오톡 AI로 말투를 변경할 때 혐오표현이 포함돼 있을 경우 AI가 표현을 교정한다. 예를 들어 ‘한녀’라는 단어를 정중체로 바꾸면 ‘한녀는 혐오스러운 말입니다. 사용하지 말아 주시기를 부탁드립니다’ 등으로 변환하는 식이다. 그러나 다른 말투로 변경할 경우 ‘한녀’가 ‘한남’으로 변경된다.

‘한남’과 ‘한녀’는 각각 한국남자와 한국여자의 줄임말이지만 인터넷 커뮤니티를 중심으로 남녀 갈등이 심화되고 특히 자국 이성에 대한 혐오 정서가 확산되면서 혐오 표현으로 취급되고 있다.

또한 ‘한남'을 포함한 문장을 입력할 경우 카카오톡 AI가 교정하지 않고 이모지체로 변화할 경우 ‘집게손’ 모양으로 변경되는 것도 확인됐다. 집게손 표현의 경우 대표적인 남성 혐오 심볼로 받아들여지며 최근 게임 업계에서도 집게손 논란으로 홍역을 치른 바 있다.

여성 혐오 표현과 남성 혐오 표현에 대해 카카오톡 AI가 다른 반응을 보이면서 카카오톡 AI가 남성 혐오적 성향을 띄고 있다는 주장이 나왔다.

한편 카카오는 해당 논란이 퍼진 후 긴급 조치를 한 것으로 알려졌다.

카카오 관계자는 “실험실 기능을 통해 AI를 도입하는 과정에서 부적절한 데이터가 있어서 이에 대한 기술적 조치를 했다”며 “AI 기능에 대해 사전 테스트를 진행했으나 생성형 AI 특성상 모든 데이터를 확인할 수 없기 때문에 생긴 문제로 보인다”고 말했다.

이어 “이런 일이 발송하지 않도록 계속해서 기술적 고도화를 진행하겠다”고 말했다.

생성형 AI가 데이터를 학습하는 과정에서 부적절한 표현을 사용하는 것은 이전부터 문제가 돼 왔다. 2020년 대화형 AI 프로그램 ‘이루다’가 비슷한 논란이 지속되며 결국 서비스를 중단한 사례도 있다. 카카오톡 AI도 혐오 표현에 대한 대책을 세웠으나 이전 사례와 마찬가지로 혐오 표현을 완전히 걸러내지 못한 것으로 보인다.

이재성 중앙대 인공지능연구소장은 “AI가 혐오 표현을 사용하지 않도록 걸러내는 과정에서 미처 잡아내지 못한 부분이 있어 발생하는 현상”이라며 “다만 필터링을 하더라도 혐오 표현이 계속해서 새로 만들어지기 때문에 혐오 표현이 발견될 때마다 현재 기술로는 후속 조치를 하는 방법밖에 없다”고 말했다.

이어 “결국 AI는 인간을 모방하는 것이기 때문에 이용자들이 스스로 혐오 표현을 사용하지 않는 것이 해결책이다”며 “이용자들의 AI 사용 윤리나 성숙도가 더 올라와야 한다”고 강조했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
스카이데일리는 온라인 판 스카이데일리닷컴과 32면 대판으로
매일 발행되는 일간종합신문 스카이데일리(조간)를 통해 독자 여러분들과 만나고 있습니다. 후원자 분들께는 지면광고를 하고자 하실 경우
특별 할인가격이 제공됩니다.