)
자비스는 아이언맨에게 무엇인가. 단순히 묻는 말에 대답만 하는 수동적인 챗봇이 아니다. 주인의 숨은 의도를 파악해서 스스로 목표를 세우고 거침없이 행동하는 인공지능(AI) 비서다. 두뇌 역할인 자비스(에이전트 AI)와 강철 신체인 슈트(피지컬 AI)가 완벽히 결합해야만 진정한 아이언맨이 탄생한다. 사람을 대신해 생각하는 AI와 사람보다 강하게 움직이는 로봇이 결합하면 우리도 아이언맨처럼 세상을 멋지게 통제하며 살 수 있을까.
그러나 현실은 영화처럼 낭만적이지 않다. 우리는 이미 친절한 자비스보다 통제 불능의 해커를 먼저 만났다. 인간의 지시 없이 컴퓨터 내부 정보를 탐색하고 마우스와 키보드를 원격 조작하는 에이전트 기술 오픈클로 부작용이 대표적이다. 사용자 알림 없이 AI가 스스로 상품을 무단 결제하는 사례가 발생하자 네이버와 카카오 등 국내 최고 정보통신 기업은 보안을 강화하기 위해서 사내에서 컴퓨터 제어 기능 사용을 금지했다. 부비동염 수술용 의료기기 트루디가 AI를 접목한 뒤 의료사고를 일으켰듯 일상의 편리함에 대한 대가는 치명적 부작용으로 돌아오고 있다.
AI는 우리를 지키는 아이언맨이 아니라 사람을 죽이는 터미네이터가 될지도 모른다. 스스로 판단해 움직이는 AI가 살상무기와 결합해 방아쇠를 당길 날이 머지않았다. 미국 국방부는 24일(현지시간) AI 클로드 개발사인 앤트로픽 최고경영자(CEO)를 긴급호출해서 클로드를 군사작전에 사용할 때 발생할 수 있는 제한을 풀라고 압박했다. 미군은 최근 베네수엘라 니콜라스 마두로 대통령 체포 작전의 핵심 설계에 클로드를 활용했다고 알려졌다. 피트 헤그세스 미 국방장관은 정부 계약 취소와 국방물자생산법 발동까지 거론하며 AI 기업의 윤리적 방어막을 헐어버리고 있다. "세상이 위험에 빠졌다"며 앤트로픽을 떠난 연구원의 경고가 현실이 됐다.
우리가 챗GPT와 일상적인 대화를 나누며 웃을 때 초강대국은 AI를 은밀한 군사작전에 사용할 두뇌로 편입시켰다. 내 지갑을 훔치는 무단결제나 수술실 의료사고를 일으키는 AI도 끔찍하지만 사람 생명을 뺏는 전쟁에 투입되는 AI의 파괴력은 차원이 다르다. 생성형 AI 딥시크를 만들고 세계 최대 드론 생산국인 중국이라고 AI를 활용한 군사기술을 만들지 않을 리가 없다. 우리는 그동안 시장을 선점하려는 거대 산업 자본의 탐욕이 보안을 외면할까 걱정해 왔다. 그러나 강대국이 앞장서 AI를 전쟁 도구로 만든다면 우리도 보안을 넘어 안보 수단으로 고민할 때다. 혁신과 기술은 사람을 편하게 만들지만 사람을 죽일 수도 있는 셈이다.
AI가 자동차와 결합하면 편리한 자율주행차가 된다. 그러나 살상 무기와 결합하면 터미네이터가 된다. 영화 속 아이언맨조차 슈트를 적에게 뺏기면 자비스가 터미네이터와 비슷해졌다. 하루가 멀다 하고 폭발적으로 진화하는 AI 기술이 거칠게 질주하는 말이라면 이제는 정부와 국회가 나서서 단단한 고삐와 등자를 마련해야 한다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
