오세훈 서울시장이 딥페이크 성범죄 영상으로 인해 남녀 모두가 피해를 입고 있다며 가해자에 대한 사적 제재로 또 다른 무고한 피해자가 생기지 않도록 해달라고 당부했다. 

오세훈 시장은 3일 오전 국회 의원회관 제8간담회의실에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회'에서 "최근 인공지능으로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 무분별하게 생성·유포되면서 남녀 가리지 않고 피해자들이 생겨나고 있고, 그로 인해서 불안감이 사회 전반에 확산하고 있다"고 우려했다.

그러면서 "딥페이크 영상은 제작까지 단 7초밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조 때문에 누구나 피해자가 될 수 있다는 점에서 이전의 디지털 성범죄와는 다른 양상을 보이는 게 특징"이라며 "특히 이번 사태의 경우 해외에 서버를 둔 텔레그램 특성상 가해자를 특정하기 어려워 수사도 힘든 상황이다"고 토로했다.

현재 전국적으로 피해 학교가 400~500곳으로 추산되고 있으나, 딥페이크 범죄는 피해자가 피해 사실을 모르는 경우가 많아 실제 피해 규모는 이보다 더 클 것으로 예상된다.

오 시장은 "서울시는 딥페이크 영상물의 빠른 삭제를 위해서 지방자치단체 최초로 피해 신고 24시간 안에 삭제할 수 있는 핫라인을 이미 개통해서 사용하기 시작했다"며 "신고를 꺼리는 분들이 많을 수 있는 만큼 익명으로 쉽게 상담 기능한 디지털 성범죄 SOS 상담 창구도 개설했는데, 벌써 적지 않은 상담이 들어오고 있다"고 설명했다.

이어 "지금도 피해 사실로 고통받고 있거나 나도 혹시 피해자가 아닐지 불안해하는 분들이 많이 있으리라고 생각한다. 피해자가 이 무거운 짐을 홀로 감당하지 않도록 서울시가 늘 함께하겠다"면서 "아울러 딥페이크 가해자에 대한 사적 제재 움직임이 확산되고 있는데 또 다른 무고한 피해자들이 발생하지 않도록 자제해 줄 것을 부탁한다"고 말했다.

시는 진화하는 딥페이크 기술에 대응하기 위해 얼굴 매칭을 통한 인공지능(AI) 딥페이크 검출 기술인 '서울 안심 아이(Seoul Safe Eye)'를 개발하고, 검색부터 신고까지 전 과정을 인공지능이 운영하는 AI 신고 자동화 시스템도 연내 구축할 방침이다. 

오 시장은 "딥페이크 성범죄는 이전과는 다른 범죄 양상인 만큼 사회 전반의 많은 노력이 필요하다"며 "딥페이크 피해 영상물 삭제를 지원할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로도 확대하는 법령 개정을 조속히 해달라"고 촉구했다.

현재 시는 '서울 디지털 성범죄 안심지원센터'를 통해 피해자 지원 원스톱 서비스를 제공하고 있다. 센터는 피해자 상담, 영상 삭제, 법률 지원, 심리 회복 프로그램 등을 지원하는 시설이다. 지난 2022년 개관한 이래 현재까지 딥페이크 피해자를 포함해 총 1437명에게 3만9764건의 피해 지원을 했다. 

앞서 시는 지난해 전국 최초로 AI로 피해 영상물을 24시간 자동 추적·감시하고 삭제하는 기술을 개발해 성착취물을 찾아내는 데 걸리는 시간을 평균 2시간에서 3분으로 단축한 바 있다. 이러한 노력을 인정받아 시는 올해 국내에서 유일하게 UN 공공행정상 대상을 수상했다. 

시는 이달부터 중·고등학교를 대상으로 딥페이크 성범죄에 대한 경각심을 일깨우는 교육을 운영하는 등 피해 예방부터 재발 방지에 이르는 통합 지원 체계를 구축할 계획이라고 전했다.