)
정부가 SNS를 중심으로 확산 중인 인공지능(AI) 가짜 의사·전문가를 활용한 허위·과장 광고를 사전 차단하는 시스템을 구축한다.
정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 AI 등을 활용한 시장 질서 교란 허위·과장 광고 대응 방안을 발표했다. 최근 식의약품 분야에서 AI로 만든 가짜 전문가와 유명인 딥페이크 광고가 노년층 등을 중심으로 피해를 키우고 시장 질서를 흐트러뜨리고 있어 신속한 대응이 요구된다는 판단에서다.
대책의 골자는 허위·과장 광고가 만들어지기 전 단계에서부터 AI 생성물 표시를 의무화해 소비자 오인을 줄이고, 유통 과정에서는 방송미디어통신심위위원회(방미심위) 서면심의와 긴급 시정요청으로 신속 차단을 가능하게 하며, 사후에는 징벌적 손해배상과 과징금 상향, 단속 인력 확충으로 위법 행위자에게 강하게 책임을 묻겠다는 구상이다.
우선 방송미디어통신위원회(방미통위)는 포털·플랫폼에서 유통되는 사진·영상 등이 AI로 만들어진 경우 이를 명확히 표시하도록 하는 AI 생성물 표시제를 도입한다. AI로 콘텐츠를 직접 제작·편집해 게시하는 이른바 직접 정보 제공자는 해당 게시물이 AI 생성이라는 점을 반드시 표시해야 하고, 플랫폼 사업자는 표시 방법을 제공하고 표시 의무를 고지하는 관리 의무를 지며, 다른 이용자가 붙어 있는 표시를 임의로 삭제하거나 훼손하는 행위는 정보통신망법과 AI 기본법상 금지된다.
표시제를 위해 정보통신망법 개정을 추진하고, 표시 의무를 이행하지 않은 플랫폼과 AI 표시를 제거·훼손한 이용자에게는 과태료를 부과하는 방안도 포함됐다.
유통 단계에서는 방미통위와 방미심위가 식의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 집중된 영역을 서면 심의 대상으로 추가한다. 성범죄 촬영물 등에 한정돼 있던 서면심의를 AI 가짜 의사·전문가 광고까지 넓혀 심의 요청 후 24시간 안에 차단 여부를 결정한다는 계획이다.
식품의약품안전처 전용 방미심위 심의신청 시스템(패스트트랙)도 현행 마약류에서 AI 활용 모든 품목으로 확대된다. 즉 AI 딥페이크가 붙은 식의약품 광고를 우선 처리하는 구조로 정비한다는 계획이다.
국민 생명·재산에 중대한 피해 우려가 있는 사안에 대해서는 방미통위의 플랫폼 사업자 대상 긴급 시정요청 절차도 도입한다. 관계 부처가 긴급성이 크다고 판단해 요청하면 방미통위가 우선 플랫폼에 임시 시정조치를 요구하고, 플랫폼이 게시물 차단 등 조치를 이행한 뒤 방미심위 심의 결과에 따라 최종 차단 여부나 원상복구를 결정하는 방식으로 추가적인 안전판을 구축한다.
공적 심의와 별도로 플랫폼 자율규제도 유도한다. SNS와 동영상 플랫폼이 자체 모니터링과 내부 규정을 통해 AI 가짜 의사 광고를 먼저 걸러내도록 유도하고, 자율규제 수준을 법 개정·가이드라인과 연계해 실질적인 내부 통제 체계로 안착시키겠다는 설명이다.
사후 제재 수단도 대폭 강화된다. 공정거래위원회와 식약처는 AI가 제품을 추천하면서 가상인간이라는 사실을 표시하지 않는 광고는 부당한 표시광고로 보고, 특히 AI가 생성한 의사 등 전문가가 식의약품을 추천하는 행위는 소비자를 기만하는 광고로 명시해 식품표시광고법, 약사법, 화장품법, 의료기기법 개정에 반영한다는 방침이다.
정보통신망법 개정을 통해 징벌적 손해배상 제도도 도입된다. 실제 손해액의 최대 5배까지 배상하도록 하고, 표시광고법상 허위·과장광고 과징금도 관련 매출액의 일정 비율과 정액 상한을 높여 AI 가짜 의사 광고로 인한 경제적 이익을 남길 수 없도록 하겠다는 구상이다.
단속 역량도 보강된다. 식약처와 한국소비자원에는 AI 허위·과장광고 모니터링과 적발 인력을 확충해 다이어트 식품, 건강기능식품, 온라인 의약외품·의료기기 판매 채널 등 핵심 분야를 집중 점검하고, 신고·제보와 데이터 분석을 결합한 상시 감시 체계를 구축한다는 계획이다.
김 총리는 "이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞는 시장 질서를 확립해 나갈 것"이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
