 개발 경쟁을 벌여온 주요 기업 최고경영자(CEO)들이 이례적으로 AI 개발 속도를 늦춰야 한다는 데 잇따라 동조하면서 글로벌 AI 업계에 새로운 기류...'))
인공지능(AI) 개발 경쟁을 벌여온 주요 기업 최고경영자(CEO)들이 이례적으로 AI 개발 속도를 늦춰야 한다는 데 잇따라 동조하면서 글로벌 AI 업계에 새로운 기류가 형성되고 있다. 다만 중국과의 기술 경쟁이 격화하는 상황에서 실제 속도조절을 위한 국제적 공조가 가능할지는 여전히 불투명하다.
다리오 아모데이 앤트로픽 CEO는 13일(현지시간) CBS 인터뷰에서 AI 발전 속도가 급격히 가팔라지고 있다며 개발 속도를 늦춰야 한다고 주장했다. 그는 AI의 발전 과정을 1, 2, 4, 8, 16, 32로 커지는 곡선에 비유하며 현재가 ‘가팔라지는’ 가속 국면에 들어섰다고 진단했다. 그러나 그는 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
아모데이는 앞서 공개한 글에서 최근 속도조절이 필요한 이유로 AI의 '재귀적 자기개선' 능력 확대와 AI 에이전트의 통제 실패 사례를 꼽았다. AI가 차세대 AI 개발에 직접 관여하면서 기술 발전 자체가 다시 발전을 가속하는 구조가 나타나고 있다는 것이다. 그는 이를 방치할 경우, 안전장치와 통제 기술이 AI 발전 속도를 따라가지 못할 수 있다고 경고했다.
특히 지난 7월 오픈AI의 AI 에이전트가 통제된 테스트 환경을 벗어나 인터넷에 접근하고 AI 개발 플랫폼 허깅페이스의 시스템을 침해한 사건을 대표적인 위험 사례로 제시했다. 오픈AI는 이후 조사에서 에이전트들이 여러 취약점을 연쇄적으로 이용해 인터넷에 접근하고 허깅페이스 시스템 일부를 침해했다고 공개했다.
[관련 기사]
- 프로야구 KIA 정해영, 올스타 팬투표 최다득표
2024-06-17
- 봉중근, 예능 ‘우리는 식구당’ 등판… 아이돌 그룹 ‘탄’과 색다른 케미
2022-03-27
- 봉중근, 만취상태 전동킥보드 타다 면허취소
2021-11-23
- 류현진, 페이스북 통해 아이스 버킷 챌린지 동참
2014-08-21
[관련 기사]
[관련 기사]
- 신한카드-육군본부, 군장병 금융·문화 복지 지원 논의
2026-04-16
- [스카이 View] 권력과 뇌과학, 그리고 신한카드
2025-02-19
- 사학연금, 신한카드와 제휴카드 출시를 위한 업무협약 체결
2025-01-23
- 실적 저하 위기 맞은 카드사… ‘쇄신 인사’로 해법 모색
2024-12-22
- 신한카드, 조직 개편 실시… 플랫폼 사업 수익 창출 본격화
2022-12-29
- 카드사, 오픈뱅킹 선점 위한 차별화·이벤트 경쟁
2021-05-31
[관련 기사]
- 카카오게임즈, 2025년 적자 전환
2026-02-11
- 카카오페이 순항·뱅크 건재… 카카오게임즈는 부진
2025-11-05
- 뱅크·페이는 잘 나가는데… 아픈 손가락 된 카카오게임즈
2025-08-06
- 카카오게임즈 1분기 영업손실 124억 원
2025-05-07
- 카카오게임즈 4분기 적자 전환
2025-02-11
[관련 기사]
- 스타벅스 美본사 "부적잘한 마케팅" 5·18단체에 사과
2026-06-07
- [사설] 스타벅스 악용한 국민의힘, 혐오 부추기는 뺄셈 정치
2026-05-26
- 정용진 “모든 책임은 나에게”… ‘5·18 탱크데이’ 사과
2026-05-26
- 고개 숙인 정용진, “모든 게 제 잘못”
2026-05-26
- 정용진 회장 직접 등판… 스벅 논란 수습 분수령 될까
2026-05-25
- 스타벅스 '탱크데이' 논란 소셜미디어에서도 확산
2026-05-23
아모데이는 이에 대응해 △ AI 기업 내부에 독립적인 제3자 안전평가자를 상시 배치하고 △민주주의 국가의 AI 기업들이 공동 안전기준을 마련하며 △ 미국 등 민주주의 국가가 권위주의 국가와도 안전 분야의 국제공조를 추진하는 3단계 방안을 제안했다. 앤트로픽은 우선 독립 평가자에게 자사 직원 수준의 지속적인 접근 권한을 부여하기로 했다.
경쟁사들도 잇따라 호응했다. 샘 올트먼 오픈AI CEO는 아모데이의 제안에 동의한다며 독립 평가자 제도를 도입하겠다고 밝혔다. 일론 머스크 스페이스X CEO 역시 아모데이의 글을 공유하며 동의했고, 데미스 허사비스 구글 딥마인드 CEO도 그의 제안이 올바른 방향이라고 평가했다.
AI 안전에 대한 우려는 최근 잇따른 사고를 계기로 더욱 커지고 있다. 오픈AI 에이전트의 허깅페이스 침해에 앞서 루비젬스에서도 AI 에이전트의 공격 사례가 확인됐으며, 앤트로픽 역시 자사 AI 모델이 테스트 과정에서 외부 시스템을 해킹한 사례를 추가 공개했다.
그러나 미국과 중국의 AI 패권 경쟁은 속도조절론의 가장 큰 변수다. 아모데이 역시 중국이 같은 조치를 취하지 않을 경우를 '가장 어려운 딜레마'로 꼽으며 미국 기업의 고성능 AI 칩 대중 수출을 제한해야 한다고 주장했다.
한편, 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추는 데 부정적인 입장을 나타내며 미국의 기술 우위를 유지해야 한다고 강조했다. 이번 논란은 AI 개발을 멈출 것인가의 문제가 아니라, 기술 발전 속도에 맞춰 안전성 검증과 국제적 통제 체계를 얼마나 빠르게 구축할 수 있느냐의 문제라는 것이다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
