생성형 AI 악용·남용 없게… 윤리가이드 마련 ‘첫 발’

이 시간 주요기사

뉴스 > 연구·개발

개인정보·가짜뉴스 등 문제점 본격 공론화
기업제정 윤리헌장 소개도… 법제화 신호탄 될 듯

양준규 기자 기자페이지 + 입력 2023-05-21 12:14:53

▲ ‘ChatGPT와 생성형 AI의 윤리적 이슈와 해결 방안’ 세미나에서 질의·응답이 진행되고 있다. IAAE 국제인공지능&윤리협회 제공

chatGPT로 대표되는 생성형 AI가 화제가 됨에 따라 AI가 가져올 부작용에 대한 우려도 커지고 있다. 이에 국회에서도 AI의 윤리적 이슈 해결 방안을 논의하는 자리가 열렸다.

송석준 국민의힘 의원과 IAAE 국제인공지능&윤리협회·인공지능 전문 미디어 ‘THE AI’는 19일 국회의원회관에서 ‘ChatGPT와 생성형 AI의 윤리적 이슈와 해결 방안’ 세미나를 개최했다. 이번 세미나에는 시민과 전문가 등이 참여했다.

이번 세미나에서는 양진영 법무법인 민후 변호사·이지향 상명대 AI인증센터장·김명주 서울여대 정보보호학과장·항승택 카카오 인권과기술윤리팀 부장이 발표했으며 이후 토론회를 통해 의견을 공유했다.

양진영 법무법인 민후 변호사는 AI에 의해 개인정보 및 프라이버시가 침해된 사례, 가짜뉴스와 명예훼손 사례, AI 이용 과정에서의 영업비밀 유출 문제, AI를 이용한 논문·과제 대필 문제 등을 AI가 유발하는 문제점으로 소개했다.

양 변호사는 AI가 생성한 결과물에 대해 발생하는 저작권 이슈에 대해서도 설명했다. 양 변호사에 따르면 판례상 저작물은 사람의 정신적 노력에 의해 사상 또는 감정을 표현한 창작물에 해당하기 때문에 AI의 결과물은 창작물로 인정받지 못한다. 다만 AI가 만든 작품에 인간이 추가적으로 창작적 요소를 가미했을 경우 저작권을 주장할 가능성이 있다고 설명했다.

이에 따라 생성 AI로 만들어진 결과물에 대한 권리를 인정할지에 대한 논의가 지속적으로 필요하며 생성 AI 서비스 제공자의 안내와 사용자의 주의가 필요하다고 주장했다. 나아가 학습데이터를 공개하고 학습데이터 세트에 대한 공정이용 논의도 필요하다고 덧붙였다.

이지향 상명대 AI 인증센터장은 생성형 AI를 이용한 해킹 사례·생성형 AI를 이용한 딥페이크 음란물 등의 사례를 제시하며 생성형 AI가 오용·악용·남용될 수 있다고 지적했다. 여기에 데이터의 한계·모델의 한계·리소스의 한계로 오용되거나 남용되는 경우가 목격됐다고 밝혔다.

이지향 센터장은 “기술적 접근을 통한 예방·방지·정책적 접근을 통한 대응·생성형 AI에 대한 시각 전환 등을 통해 악용·오용·남용을 극복할 수 있을 것으로 기대한다”고 말했다.

김명주 서울여자대학교 정보보호학과장은 chatGPT에 대한 교육계의 반응과 오·남용 사례 등을 제시하며 ‘AI 리터러시 교육’이 필요하다고 주장했다. AI 리터러시란 AI 생성물을 비판적으로 이해해 수용하는 능력과 AI 기술과 도구를 이해해 적절하게 활용하는 능력, AI 제품과 서비스를 현실적으로 개발하는 능력을 말한다.

김명주 학과장은 “생성형 AI는 미래 인재의 새로운 역량으로 자리매김하고 있으며 AI 열풍은 일과성이 아니다”며 “교육 현장에서도 생성형 AI를 금지할 것이 아니라 적정 교육이 필요하다”고 주장했다.

이어 “동시에 교육 현장에서 AI의 위험성을 인식시키고 악용과 오용·남용 가능성에 대비한 교육이 필요하다”고 말했다.

황승택 카카오 인권과기술윤리팀 부장은 카카오가 제정한 윤리헌장을 소개했다. 윤리헌장에는 △차별에 대한 경계 △학습 데이터 운영 △알고리즘의 독립성 △알고리즘에 대한 설명 △기술의 포용성 △아동과 청소년에 대한 보호 △프라이버시 보호 등이 포함됐다.

황 부장은 “기업 차원에서도 AI 윤리에 대해 진지하게 고민하고 있으며 윤리헌장의 내용을 실현하기 위해 노력하고 있다”고 말했다.

한편 이번 세미나는 본격적인 AI 윤리 법제화의 신호탄이 될 것으로 보인다. 이번 세미나 후속 작업으로 생성형 AI 윤리 가이드라인 제정 작업이 예정돼 있으며 자세한 내용은 추후에 공개될 예정이다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +