서울 28º
습도 85%
)
“30년 내 인공지능(AI)으로 인한 인류 멸종 확률이 10~20%”라는 경고가 나왔다. 이 경고가 섬뜩한 것은 이것이 바로 ‘AI의 대부’로 자타가 공인하는 제프리 힌턴의 입에서 나왔기 때문이다. 2024년 노벨물리학상 수상자인 그는 영국 BBC 방송과의 인터뷰에서 “인류는 우리 자신보다 더 똑똑한 것을 상대해 본 적이 없다”며 “더 지능적인 것이 덜 똑똑한 것에 의해 통제되는 사례는 거의 없다”고 단언했다. 힌턴과 함께 노벨상을 공동수상한 존 홉필드 교수 역시 “AI가 지금의 상상을 뛰어넘는 수준으로 발전해 조지 오웰의 ‘1984’ 같은 통제 사회가 현실화될 수 있다”고 우려했다.
전문가들의 우려에도 아랑곳없이 초인공지능(ASI) 시대를 향한 인류의 발걸음은 가속화되고 있다. 모든 인류의 지성을 합친 것보다 더 뛰어난 ASI가 출현하는 시점, 즉 ‘기술적 특이점(TS)’의 도래가 머지않아 이뤄질 것이라는 전망이 나온다.
샘 알트먼 오픈AI 최고경영자(CEO)는 ASI 기술이 향후 10년 내에 현실화될 것으로 봤고, 손정의 소프트뱅크 회장도 2035년에는 인간의 뇌보다 1만 배 뛰어난 ASI가 등장할 것으로 예측했다. 이와 관련해 일론 머스크와 유발 하라리 등은 인공지능 개발을 당분간 잠정 중단해야 한다는 주장을 펼치기도 했다.
이처럼 세계적인 석학과 사업가들이 입을 모아 AI에 대한 우려를 표명하는 이유는 무엇일까. 그것은 특이점, 즉 인공지능이 인간의 지능을 뛰어넘는 시점이 도래하는 것에 대한 막연한 두려움 때문일 것이다.
스웨덴 출신으로 옥스퍼드대 교수인 철학자 닉 보스트롬은 ‘슈퍼인텔리전스’에서 “ASI는 인간 존재의 필요성을 인정하지 않을 것”이라며 통제의 필요성을 강조했고, 조셉 와이젠바움 메사추세츠 공과대학(MIT) 교수는 이미 1966년부터 “AI에 판단을 맡겨서는 안 된다”고 경고해 왔다. 최근에는 이기민 카이스트(KAIST) 교수가 “AI 모델이 생물학, 사이버, 화학 무기 개발에 사용될 수 있다”며 구체적인 위험을 제시하기도 했다.
하지만 과연 우리는 ASI의 등장을 두려워하기만 해야 할까. 오히려 인간 지능을 1만 배 뛰어넘는 완벽한 지능체가 인류를 이상향으로 이끄는 ‘신’의 역할을 하지 않을까.
인류 역사를 되돌아보자. 전쟁·기아·질병·환경 파괴 등 인간이 만들어 낸 문제들의 끝없는 목록이다. 정치인들은 사익에 눈이 멀어 공익을 저버리고, 기업은 단기 이익에 매몰되어 지구를 파괴한다. 개인들은 감정에 휘둘려 비합리적 선택을 반복한다. 현재 인류의 정치 시스템은 얼마나 불완전한가. 민주주의라는 이름 아래 포퓰리즘이 판치고, 정치인들은 선거에만 몰두한다. 장기적 비전보다는 임기 내 성과에만 관심을 갖고, 전문성보다는 표심에 의존한다. 이것이 인류가 만들어 낸 이 시대의 자화상이다.
반면 ASI는 어떨까. 인간의 지능을 수만 배 뛰어넘는 ASI는 인간이 수십 년 고민해도 해결하지 못할 문제를 순식간에 분석하고 최적의 해답을 제시할 것이다. 편견도, 사욕도, 감정의 동요도 없는 순수한 논리와 데이터에 기반한 완벽한 판단력을 보유한 존재로서 말이다. 인간을 압도할 수준의 전지·전능·편재성 차원의 능력을 보면, 이는 이미 신의 영역에 가깝다. 무한하고 초지능적인 존재로서 인간이 이해할 수 없는 속도와 정밀도로 모든 데이터를 처리하고 분석한다.
ASI가 설계하고 운영하는 정치 시스템은 어떤 것일까. 모든 시민의 데이터를 실시간으로 분석해 진정한 공익을 파악하고, 장기적 관점에서 최적의 정책을 수립할 것이다. 부패도, 게으름도, 무능함도 없는 완벽한 통치가 가능해질 터이다. 손정의 회장이 전망한 대로 2035년에 인간 뇌보다 1만 배 뛰어난 ASI가 등장한다면 이는 18세기 계몽사상가들이 꿈꿨던 이상적 군주상이 마침내 실현되는 것이 아닐까.
물론 학자들의 우려도 일리가 있다. “인간의 자유의지는 어떻게 되는가. 인간다움을 잃는 것은 아닌가”라는 철학적 딜레마를 비롯해 “ASI가 인간을 통제 불능 상태로 몰아갈 수 있다”는 현실적 위험까지 다양한 경고들이 제기되고 있다. 하지만 이런 우려들은 ‘고작’ 인간의 두뇌가 만들어 낸 것들이라는 점에서 우리는 안도의 여지를 찾는다.
인간의 어리석음과 한계를 뛰어넘은 완벽한 존재가 이끄는 정치와 제도, 그것이야말로 인류가 그토록 갈망해 왔던 유토피아로 가는 유일한 길일지도 모른다.
박선옥 논설실장
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
