나쁜 인공지능(AI)인 딥페이크(특정인 신체 합성 가짜영상) 기술을 활용한 편집물 등 'n번방' 사태로 인한 불법 디지털 성범죄물이 심각한 사회적 문제로 대두되면서 인터넷 사업자에게 디지털성범죄물 단속을 위한 '기술적 조치'가 의무화된다. 이로 인해 불법촬영물 등을 조기 탐지할 수 있는 AI 기술이 주목을 받고 있다. 

국회 법제사법위원회는 20일 오전 전체 회의를 열고 인터넷 사업자에 디지털 성범죄물 삭제 의무를 지우는 'n번방 방지법'을 통과시켰으며, 오후에 개최된 20대 국회 마지막 본회의에서도 이 개정안을 통과시켰다. 

이날 통과된 n번방 방지법은 전기통신사업법 개정안과 정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법) 개정안이다. 전기통신사업법 개정안 제22조의5제2항에 따르면 '일반에게 공개돼 유통되는 불법촬영물, 불법편집물, 아동 ·청소년이용성착취물'은 기술적·관리적 조치 대상이 된다.

인터넷 사업자가 취해야 할 기술적 조치로 DNA 필터링 기술이 우선 논의되고 있지만 '실효성이 없다'는 지적이 끊이지 않고, 대안으로 주목받는 'AI 디지털 성범죄물 탐지 기술'은 도입이 요원하다.

◆방통위 'DNA 필터링' 기술 확대 추진, 페이스북은 "AI 필터링 효과 99% 이상" 발표

방송통신위원회는 현재 웹하드 서비스에 제한적으로 적용 중인 'DNA 필터링' 기술을 인터넷 사업자까지 확대하는 방안을 추진 중이다. DNA 필터링은 인간의 DNA를 분석하듯이 영상 고유의 구성요소를 분석하는 기술이다.

방통위 관계자는 "과기정통부, 방심위 등과 조치의무사업자가 기술적 조치에 활용할 수 있도록 '(가칭)표준 DNA 데이터베이스'를 개발하는 방안을 논의 중"이라며 "시행령 개정 과정에서 사업자 의견을 충분히 수렴할 것"이라고 밝혔다.

페이스북은 음란물 사전 조치로 AI 기반 필터링 기술을 적용 중인데, 1분기에 성인 대상 음란물 약 3950만건, 아동 대상 음란물도 860만건을 삭제해 99% 이상을 사전 조치를 했다고 최근 발표했다. 하지만 글로벌 공룡 IT 기업인 페이스북 수준의 조치를 국내 인터넷 사업자에게 요구하는 것은 무리이며, '국내 DNA 필터링 기술이 인터넷 사업자에는 맞지 않다'는 업계의 불만이 계속되고 있다.

◆대안으로 뜬 AI 디지털 성범죄물 탐지 기술 개발, 어디까지?

과기정통부가 AI로 디지털 성범죄물 조기 탐지를 위해 국가연구과제(R&D) 계획을 수립 중이지만, 아직 논의 단계여서 기술 개발까지는 오랜 시간이 소요될 것으로 예상된다. R&D 과제는 통상 내년 수행 과제를 올해 계획하는 데, 올해 긴급 과제로 편성하는 방안도 고려 중이지만 이 또한 불확실하다.

AI 기업들은 정부보다 먼저 딥페이크를 막는 방지 기술 마련에 발빠르게 나서고 있다.

알엔딥은 AI로 온라인 성폭력물 및 음란물 유해 사이트를 막는 '레드 AI' 기술을 개발하고, 불법 딥페이크 검출 기술과 욕설 검출·방지 기술 개발을 진행 중이다. 특히 사진·영상에서 얼굴 진위 여부를 1초 만에 판별할 수 있는 데, 정교한 합성까지 감별하도록 정확도를 높이는 데 주력하고 있다.

이 회사는 또 사진·영상의 모든 프레임을 검사하고, 주요 노출부위를 모자이크를 자동 생성하는 '레드 AI 모자이크' 기술도 선보였다. 이를 통해 해당 화면 전체를 가리는 블랙화면 처리나 특정 부위만 흐릿하게 보이는 블러링 처리가 가능하다.

AI 영상 합성기술로 현직 대통령을 구현해 주목을 받은 머니브레인은 영상의 진위 여부를 판단하는 'AI 페이크 파인더'를 개발 중이다. AI가 진짜와 가짜를 판별할 수 있도록 반복 학습을 진행 중이며, 학습용 데이터는 독일 뮌헨공대와 이탈리아 나폴리 페데리코2세 대학 연구진이 개발한 '페이스포렌식++' 데이터를 활용하고 있다.

머니브레인 관계자는 "우리의 딥러닝 모델은 '페이스포렌식++'에 적용된 합성 방법 네 가지 영역에서 모두 99%를 상회하는 진위 판별 능력을 보여줬다"며 "다른 어떤 모델도 도달하지 못한 수치라는 점에서, 딥페이크 검출 기술력이 우수함을 입증한다"고 설명했다. 또 향후 이미지 내 얼굴 추출 방식, 데이터 증강 방식, 베이스 모델 교체 등 연구를 진행해 오차 범위를 줄일 계획이다.

미국의 컴퓨터 그래픽 소프트웨어 개발사인 어도비도 딥페이크 탐지기술을 개발 중이다. 이 회사는 콘텐츠 제작사가 유포 이전 표시를 부여하면 이용자가 진짜 콘텐츠임을 알 수 있는 '옵트 인' 방식을 개발 중이다. 또 이미지 중 조작된 부분이 발견되면 이를 원본으로 복원하는 '프로젝트 어바웃 페이스' 기술도 개발하고 있다.