이 인권을 위협하는 인공지능(AI) 응용 프로그램을 금지...'))
유엔(UN)이 인권을 위협하는 인공지능(AI) 응용 프로그램을 금지해야 한다고 밝혔다.
15일(현지시간) 유엔 보도 자료에 따르면 이날 미첼 바첼레트 유엔 인권최고대표는 인권에 심각한 위험을 초래하는 인공지능(AI) 기술에 대한 사용을 중지해야 한다고 촉구했다.
바첼레트 대표는 “AI 기반 기술이 선한 영향을 줄 수 있지만 인권에 미치는 영향을 충분히 고려하지 않고 사용할 경우 오히려 부정적인 영향을 미친다”며 “심지어 재앙을 초래할 수 있다”고 경고했다.
유엔이 금지해야 한다고 밝힌 AI 애플리케이션은 행동을 기반으로 사람을 점수화하는 기술로 민족이나 성별 등으로 분류하는 AI 기반 툴 등이 포함된다.
이번 바첼레트 대표의 발언은 국가와 기업이 피해를 방지하기 위한 적절한 보호 장치하나 없이 어떻게 서둘러 AI 기술을 적용했는지에 대해 조사한 유엔의 보고서와 함께 나왔다.
그는 성명에서 “AI의 지속적인 성장을 고려할 때 데이터 수집이나, 저장, 공유, 사용 방법 등에서 차별적 격차를 좁히는 것은 가장 시급한 인권 문제 중 하나다”고 강조했다.
또 “얼굴 인식 기술의 전면적인 금지를 요구하는 것은 아니다”며 “다만 정부가 차별하지 않는 정확한 기술과 특정 개인 정보 및 데이터 보호 기준을 충족한다는 것을 보여줄 때까지 사람들의 특징을 실시간으로 스캔하는 것을 중단해야 한다”고 말했다.
보고서는 특정 국가가 언급되어 있지는 않았다. 만약 특정 국가를 지명하는 것은 오히려 역효과를 가져올 수 있다는 판단이다. 다만 중국의 경우, 특히 소수민족인 위구르족이 거주하는 신장 지역의 감시를 위해 안면인식 기술을 도입한 국가 중 하나라며 AP가 밝혔다.
보고서는 투명성이나 특정 커뮤니티를 다루는 차별적 적용에 대해 우려하고 있다고 밝혔다. 아울러 사람들의 표정이나 몸짓 분석을 통한 감정과 정신 상태를 유추하는 것은 편견과 오해의 소지가 있고 과학적 근거가 부족하다고 지적했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
