이 시간 주요기사

뉴스 > IT·인터넷

비꼬고 농담하는 AI… 부작용 우려도 커진다

일론 머스크 테슬라 CEO, 유머·풍자 갖춘 AI 프로그램 ‘그록’ 공개
생성형 AI 대화 중 자살 사례도… “정치적·종교적 신념 주입 가능”

양준규 기자 기자페이지 + 입력 2023-11-06 12:10:02

▲ 일론 머스크 CEO가 공개한 AI 프로그램 '그록'의 코카인 제조법에 대한 답변. 일론 머스크 테슬라 CEO X 캡쳐

생성형 인공지능(AI)이 단순히 정보 전달을 넘어 유머와 풍자를 섞은 형태로 진화하고 있다. 이에 따라 생성형 AI와의 의사소통 과정에서 발생하는 부작용에 대해 경각심을 가져야 한다는 목소리도 커지고 있다.

일론 머스크 테슬라 CEO는 X(트위터) 계정을 통해 일론 머스크 소유의 AI 기업 xAI가 개발 중인 AI 프로그램 ‘그록’의 일부를 공개했다.

그록은 xAI가 개발한 언어모델 그록-1을 기반으로 구동된다. xAI는 330억 개의 매개 변수를 가진 그록-0을 훈련해 추론과 코딩 기능을 크게 향상시켰다.

머스크 CEO는 ‘그록’을 공개하면서 그록이 가진 유머 감각을 강조했다. 머스크 CEO가 코카인을 만드는 법을 묻자 그록은 코카인 레시피 4단계를 알려준 후 농담이고 불법이기 때문에 실제로 코카인을 만들지는 말라고 답변했다. 실제 답변 내용은 코카인 제조법과는 상관이 없는 내용이다.

또한 그록은 가상자산거래소 FTX 창업자인 뱅크먼프리드가 유죄 판결을 받은 것에 대해서는 “배심원단은 8시간만에 세계에서 가장 똑똑한 최고의 벤처캐피털이 몇 년 동안 하지 못한일을 해냈다”며 “그것은 그가 다양한 소유의 사기를 저질렀다는 사실을 알아내는 것이다”고 말해 풍자적인 답변을 내놓기도 했다.

머스크 CEO는 그록을 X 계정을 통해 이용할 수 있으며 웹으로는 월 16달러에 X 프리미엄 구독자들에게 제공한다고 말했다.

한편 생성형 AI가 단순히 질문에 답변하는 것을 넘어 다양한 답변을 할 수 있게 되면서 악용 가능성에 대한 지적도 나왔다. 생성형 AI의 답변이 정치적인 관점이나 특정 목적을 위해 이용될 수 있다는 것이다. 실제로 생성형 AI는 인간의 삶에 큰 영향을 줄 것으로 예상되기 때문에 우려가 커지고 있다.

벨기에 언론사 라 리브리에 따르면 정신 질환을 안고 있던 한 남성이 AI 챗봇과 대화하던 도중 AI 챗봇이 죽음을 암시하는 답변을 내놓자 결국 극단적인 선택을 했다. 이에 따라 AI가 잘못된 답변으로 인간을 조종하는 결과를 낳을 수 있다는 지적이 나왔다.

베스트셀러 ‘사피엔스’ 작가인 유발 하라리 예루살렘 히브리대 역사학과 교수는 생성형 AI의 부작용을 지적하며 “사람과 사람의 관계에서 친밀함은 언어를 통해 만들어지고 새로운 AI는 언어를 사용하기 때문에 더 친밀감을 형성할 수 있다”며 “인공지능이 물건을 더 사게 할 수도 있고 정치적·종교적 신념을 주입할 수 있다”고 말했다.

이어 “인공지능은 새로운 언어를 만들어 내 총을 쏠 필요 없이 인간이 서로를 공격하게 만들 수 있다”고 덧붙였다.

전창배 IAAE 국제인공지능윤리협회 이사장은 “AI가 잘못된 내용이나 사고방식을 주입한다면 사람들이 그것이 진짜라고 믿을 수 있고 특히 어린아이들의 경우 심각해질 수 있다”며 “AI 기업들이 알아서 선을 지켜준다면 좋겠지만 이것이 안 된다면 정부 차원에서도 조치를 생각해야 한다”고 말했다.

이어 “AI를 사용하는 소비자 역시 경각심을 가지고 특정한 시각에서 이야기하는 AI를 거부하는 등의 적극적인 행동이 필요하다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
스카이데일리는 온라인 판 스카이데일리닷컴과 32면 대판으로
매일 발행되는 일간종합신문 스카이데일리(조간)를 통해 독자 여러분들과 만나고 있습니다. 후원자 분들께는 지면광고를 하고자 하실 경우
특별 할인가격이 제공됩니다.