커지는 생성형 AI發 보안 위협… “대응 체계 마련 시급”

이 시간 주요기사

뉴스 > IT·인터넷

보안업계, 2024년 최대 보안 위협은 ‘생성형 AI’
공공분야 일 평균 해킹 공격 162만 건… 26%↑
최다 공격 北, AI 악용 위기 커져… 방어 기술 要

김기찬 기자 기자페이지 + 입력 2024-01-25 13:00:59

▲ 생성형 인공지능(AI)을 악용한 보안 위협이 나날이 커지고 있다. 게티이미지뱅크

챗GPT를 필두로 생성형 인공지능(AI) 기술의 급속한 발전이 다양한 분야에 진화와 혁신을 가져왔지만, 다양한 사이버 공격에 악용될 수 있는 위험성도 내포하고 있고 실제 피해도 발생할 수 있는 상황에 놓여 대책이 요구되는 상황이다.

25일 보안업계에 따르면 과학기술정보통신부·한국인터넷진흥원·국가정보원(국정원) 등 기관은 물론 SK쉴더스·이스트시큐리티·삼성SDS 등 사이버 보안 관련 업계도 올해 보안 전망과 관련해 생성형 AI가 최대 사이버 보안 위협이라고 지목했다.

생성형 AI 기술이 코딩 작성과 검토 능력 등을 보유하고 있기 때문에 보안 관련 전문 지식이 없더라도 손쉽게 악성코드를 제작할 수 있기 때문이다. 이 뿐 아니라 취약점 확인·사회 공학적 공격도 가능할 것으로 보여 위기감은 고조되고 있다.

예컨대 음성 위변조·딥페이크(AI 인간 이미지 합성 기술) 등을 악용한 피싱 범죄 사례가 여기에 속한다.

실제 해킹 공격 시도도 크게 높아졌다. 24일 국정원은 경기도 성남시 국가사이버안보협력센터에서 개최한 기자간담회에서 지난해 공공분야를 대상으로 하루 평균 162만 건의 해킹조직의 공격 시도를 탐지했다고 밝혔다.

이는 2년 새 36%나 증가한 수치로, 민간 영역을 제외하고 집계한 수치임을 감안하면 실제 사이버 공격은 더 많을 것으로 예상된다는 것이 국정원의 분석이다.

공격 주체별로 보면 북한이 80%로 가장 많았다. 최근 북한도 생성형 AI를 활용해 해킹 대상을 물색하고 해킹에 필요한 기술을 검색하는 정황도 확인됐다고 국정원은 밝혔다. 아직 실전에는 활용되지 않은 것으로 보이나, 충분히 생성형 AI를 활용한 공격도 손에 쥐고 있는 셈이다.

이밖에 삼성SDS는 지난 18일 ‘5대 보안 위협’을 선정하며 최대 위협 요인으로 ‘AI를 악용한 보안 위협’을 꼽았다. 그러면서 “해커들이 ‘웜 GPT’ ‘사기 GPT’ 등 생성형 AI를 악용해 손쉽게 대량으로 악성코드를 제작해 사이버 공격을 시도하고 있다”고 전했다.

‘웜 GPT’(WormGPT)는 챗GPT의 다크웹(특수한 웹브라우저를 사용해야만 접근할 수 있는 웹) 버전으로 생성형 AI 기반 사이버 범죄 도구다. ‘사기 GPT’(FraudGPT)는 인공지능 기반 피싱 도구다.

삼성SDS 관계자는 “생성형 AI를 적용한 악성코드 분석·위협 자동식별 등 방어 기술을 기업들이 확보해야 한다”고 설명했다.