'n번방' 사건이 터지면서 온라인 성착취물 공유방에 '딥페이크' 채팅 방들이 운영되는 것이 밝혀지면서, 나쁜 인공지능(AI)인 딥페이크 확산에 대한 우려가 커지고 있다.

딥페이크 제작·유통을 더 강력하게 처벌하는 '성폭력범죄처벌 특례법 개정안'이 오는 6월부터 시행되며, 과학기술정보통신부는 딥페이크를 기술적으로 차단하기 위한 대책 마련에 나섰다. 또 국민을 상대로 AI 윤리 교육을 진행해야 한다는 목소리도 높아지고 있다. 딥페이크(Deep Fake)란 AI로 특정인의 얼굴을 다른 사진·영상에 합성한 편집물을 말한다.

◆제작·유포자 솜방이 처벌로 사태 악화, 6월부터 처벌 대폭 강화

텔레그램이 딥페이크, 음란 동영상 등에 대해 별다른 조치를 취하지 않으면서 텔레그램에서 유명 여성 아이돌, 연예인을 소재로 한 성인 딥페이크 전용방들이 운영되고 있다. 가장 인기 있는 여성 아이돌 영상을 공유하는 전용방에는 최대 2000여명의 회원이 있는 것이 밝혀졌다. 또 '박사방'과 같은 온라인 성착취물 공유방에는 '지인 능욕방'이라는 채팅 방이 운영돼 일반인 여성 사진을 포르노 등에서 가져온 영상·사진과 합성해 공유했다.

그동안 딥페이크 유포자에 대한 처벌이 솜방망이 수준에 그쳐 이 같은 범죄는 끊이지 않았다. 지난해 걸그룹 출신 연예인의 음란 합성 영상을 제작한 가해자에 대한 처벌도 징역 6개월, 집행유예 2년 선고에 그쳤다.

하지만 '성폭력범죄처벌 특례법 개정안'이 지난달 국회 본회의를 통과해 오는 6월 25일부터 시행된다. 개정안에서는 딥페이크 제작·반포 등 행위를 한 자를 5년 이하 징역 또는 5000만원 이하 벌금에 처하고, 영리 목적으로 반포한 경우, 7년 이하의 징역으로 가중 처벌하도록 했다.

◆국내외 딥페이크 차단 기술 마련 박차... 과기정통부도 조기 차단 방법 모색

국내외에서 딥페이크를 어떻게 기술적으로 차단할 수 있는지에 대한 연구가 진행되고 있으며, AI 윤리교육을 강화하려는 움직임도 커지고 있다.

과기정통부는 딥페이크를 조기 차단하기 위한 국가연구과제(R&D) 계획을 수립하는 방안 등 대책을 마련하고 있다.

과기정통부 관계자는 "n번방 사태 등으로 범정부 차원에서 디지털 성범죄에 대한 대책을 마련하고 있다"며 "우리는 기술적인 측면에서 해결방안을 마련 중인데 사전 차단이 불가능한 만큼, 딥페이크·음란동영상이 올라왔을 때 조기 탐지해 많은 사람들이 보기 전에 차단하는 방법을 모색하고 있다"고 설명했다.

과기정통부는 최근 개최한 '디지털 성범죄 대응기술 고도화 정책 간담회'에서 연구개발 전문가들로부터 기술적 구현방법에 대한 의견을 수렴했다. 또 통상적인 국가연구과제의 경우, 내년에 수행될 수 있는 만큼 이를 긴급 과제로 편성해 올해 진행하는 방안도 고려하고 있다. 또 관계부처와 함께 AI 윤리 교육을 통해 국민들의 인식을 개선하는 방안도 추진하고 있다.

지난해 AI 윤리헌장을 내놓은 한국인공지능윤리협회(KAIEA)는 지난 1월 '딥페이크 추방 운동 성명서'를 발표한 데 이어, 온라인 릴레이 서명 연중 캠페인을 진행하고 있다. KAIEA 전창배 이사장은 "n번방 사건으로 AI의 딥페이크 기술이 디지털 성범죄에 악용되고 있음이 여실히 드러났는데, 한번 영상이 유포된 뒤에는 기하급수적으로 재유포돼 되돌릴 수 없는 피해를 입게 된다"며 "가해자 처벌과 병행해 딥페이크에 대한 윤리교육과 시민의식 제고가 반드시 선행돼야 한다"고 말했다.

이미 주요 AI 국가에서는 딥페이크 문제를 해결하기 위한 기술 개발에 한창이다. 미국 국방부 산하 방위고등연구계획국은 영상이 눈깜박임이 없거나 조명의 특징을 통해 딥페이크 콘텐츠를 탐지하는 기술을 개발 중이다. 유럽연합(EU)도 조작된 영상을 감지하기 위해 '인비드 프로젝트'를 진행하고 있으며, 독일 막스플랑크연구소도 딥페이크 영상 제작 방지 기술을 연구 중이다.