인공지능(AI)이 빠르게 발전하고 이에 따른 위험도 증가하면서 AI 개발 속도를 늦춰야 한다는 주장이 힘을 얻고 있다. 다리오 아모데이 앤트로픽 CEO가 먼저 화두를 제시한 데에 이어 오픈AI와 구글 등 주요 AI 기업 CEO들도 이에 동의했다. 그러나 미국 정부는 속도를 조절할 필요가 없다는 입장이다.
샘 올트먼 오픈AI 최고경영자(CEO)는 15일(현지 시간) 미국 샌프란시스코 예르바부에나 예술센터 블루 실드 오브 캘리포니아 극장에서 진행한 마크 베니오프 세일즈포스 CEO와의 대담에서 AI 안전 관련 역량이 기술 발전보다 앞서야 한다고 말했다.
올트먼 CEO는 7월 오픈 AI의 모델이 격리 환경을 이탈해 허깅페이스를 해킹한 사건을 언급했다. 오픈AI의 AI 에이전트들은 10곳이 넘는 외부 사이트의 제한을 우회한 비인가 통신 채널로 이용했으며 사이버 공격도 수행한 바 있다.
올트먼 CEO는 “모델들의 역량이 얼마나 강력해졌는지 보여주며 경종을 울린 사건”이라며 “우리 회사뿐 아니라 업계 전체를 재설정했다”라고 말했다. 올트먼 CEO는 AI가 인간의 지시와 다른 목표나 행동 방식을 가지지 않도록 설정하는 ‘정렬’의 중요성을 강조하며 AI 역량보다 정렬 및 감시, 보안이 앞서 나갈 수 있도록 기술 개발 속도를 조절해야 한다고 주장했다.
다만 AI 안전 규제에는 부정적인 입장을 보였다. 올트먼 CEO는 “우리 회사가 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다”라며 “논의가 이뤄지는 프레임을 아쉽게 생각한다”라고 말했다.
[관련 기사]
- 사이몬 이국노 대표, 12월의 자랑스러운 ‘중소기업인’
2015-12-27
[관련 기사]
- 금융권 ‘아름다운 나눔’ 성금 16억 원 구세군에 전달
2025-12-29
- 케이뱅크, 소상공인 보증부대출 출시
2025-11-20
- KB국민은행, 중기진흥공단과 중소기업 재직자 지원 협약 체결
2025-11-17
- NH농협은행‘조직개편’발표 내부 반발 확산… IT·본점 조직 흔들
2025-11-17
- “인적 쇄신” 농협… 혁신 TF팀장 ‘낙하산·기소’ 논란 불 붙었다
2025-11-16
- [우리동네 명사들] ‘디지털 전문가’ 강태영… 디지털 리딩뱅크 도약 박차
2025-07-27
[관련 기사]
- 두산, 엔비디아와 손잡고 피지컬 AI 공략
2026-06-08
- 박정원 두산그룹 회장 “유럽은 제2의 홈 마켓”
2025-04-13
- 박정원 두산 회장 “현재 단단히 하며 미래 준비”
2025-01-01
- 최태원·정의선 등 국내 주요 CEO, CES 2024에 뜬다
2023-12-27
- [우리동네 명사들] ‘엔진 대부’ 이현순 중앙대 이사장으로 새 도전
2023-11-21
[관련 기사]
- “BTS, 전역을 신고합니다”
2025-06-10
- 전동킥보드·스쿠터 음주운전, 자동차 수준으로 처벌 강화 추진
2024-08-22
- BTS 슈가, 전동스쿠터 음주운전 혐의로 입건… 면허취소 처분
2024-08-07
- ‘음주 킥보드’ BTS 슈가에 병무청 “사회복무원 영향 없다”
2024-08-07
[관련 기사]
올트먼 CEO는 구체적인 방안으로 사이버 공격에 노출될 위험이 높은 중소기업에 방어용 AI 프로그램을 제공하겠다고 제안했다. AI 안전에 대한 우려와 이에 따른 AI 개발 속도 조절은 최근 AI 업계에서 가장 중요한 이슈 중 하나다.
다리오 아모데이 앤트로픽 CEO는 12일 AI 안전을 위한 견제가 필요하며 첨단 AI 모델의 개발 속도를 조절해야 한다고 주장하는 장문의 글을 제시했다.
아모데이 CEO는 “모델 학습이나 기술 발전을 중단하는 것을 의미하는 것이 아니라 기업들이 모델을 정렬하고 안전하게 만드는 데 충분한 시간을 확보하자는 것”이라며 “모델 임계점에 도달하기까지 1~2년의 추가 시간을 확보하고 그 시간을 정렬을 발전시키는 데 사용한다면 심각한 문제가 발생할 위험을 크게 줄일 수 있을 것”이라고 말했다.
아모데이 의견에 올트먼과 일론 머스크 등이 지지 의사를 밝혔다. 데미스 허사비스 구글 딥마인드 회장도 마찬가지다.
다만 AI 속도 조절이 이뤄진다고 하더라도 정부 규제보다는 기업들이 자율적으로 속도를 제한하는 형태가 될 전망이다. 현재 미국 정부는 중국과의 AI 전쟁에서 앞서 나가기 위해 빠른 개발을 선호하기 때문이다.
도널드 트럼프 미국 대통령은 13일(현지 시간) 아일랜드에서 열린 기자회견에서 “미국은 AI 분야에서 중국을 앞서고 있고 계속 유지하고 싶다”라며 “속도를 늦추지 않고도 안전장치를 마련할 수 있을 것”이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
