KAIST, 국내 최초 딥페이크 탐지 모바일 앱 선보인다
KAIST는 전산학부 이흥규 교수 연구팀이 인공신경망 기반 딥페이크(deepfake) 탐지와 사진 위변조 탐지 소프트웨어인 '카이캐치(KaiCatch)'를 모바일 앱 형태로 개발해 서비스를 시작한다고 30일 밝혔다. 이 같은 유형의 서비스로는 국내 최초이면서 선진국에서도 찾기 어려운 위변조 탐지 앱 서비스 기술이다. 구글스토어에서 '카이캐치'를 검색해 앱을 다운로드하면 간단하게 딥페이크 및 이미지 위변조 분석을 할 수 있다. 이는 디지털콘텐츠 위변조 탐지가 필요한 공공기관, 산업계, 언론 및 방송사, 각종 포털 종사자들 및 일반인들도 손쉽게 활용할 수 있을 것으로 기대된다. 특히, 모바일 앱 서비스는 일반인들도 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 실용화 단계로 들어섰다는 점에서 의미가 크다. 주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환으로 크게 3가지 유형으로 나눌 수 있다. 얼굴 교체와 얼굴 재현은 가짜 뉴스로 사회적 큰 혼란을 일으킬 수 있고 음란물 제작 등에도 악용돼 개인의 인권을 침해할 수 있다. 또 얼굴 속성 변환은 영상 증거를 조작하는데 악용될 수 있다. 연구팀이 개발한 기술은 딥페이크 생성 유형에 상관없이 딥페이크 여부를 탐지하기 위해 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 및 인공지능 기술로 개발됐다. 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석해 딥페이크를 탐지한다. avi 나 mp4 형식의 딥페이크 의심 동영상이 주어지면 개별 프레임으로 자른 뒤 분석하고자 하는 프레임을 이미지로 변환 후 딥페이크 탐지를 수행한다. 동영상 내 얼굴이 지나치게 작거나 동영상 내 사람 얼굴이 상당 부분 잘린 경우가 아니면 정상적 탐지가 가능하다. 특히, 동영상의 한 프레임을 잘라 이미지로 만들어 카이캐치 앱에 업로드하면 손쉽게 딥페이크 여부를 확인할 수 있다. 분석 결과는 0에서 100 (%) 값으로 표시되며 숫자가 높을수록 딥페이크일 확률이 높은 것으로 판단한다. 사진 위변조 탐지 기술도 카이캐치 앱에 해당 이미지를 업로드하면 위변조 분석 결과를 받아볼 수 있다. 카이캐치는 BMP, TIF, TIFF, PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지들도 모두 처리할 수 있다. 사진 위변조가 의심되는 이미지를 업로드하면 해당 이미지를 분석한 결과를 시각화한 두 장의 분석 이미지를 도출, 분석 이미지 내에 위변조가 의심되는 특징들이 포함된 주요 영역들이 다른 주변 영역들과 색상이 다르거나, 주요 영역들에만 다양한 색상들이 혼재해 나타나면 해당 영역이 위변조된 것으로 판단할 수 있다. 이흥규 교수는 "카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 첨단 기술을 사용해 다양한 유형의 변형에 대응한 범용성을 가지도록 개발됐다"며 "우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지한다"고 말했다. 이번에 안드로이드 기반의 모바일 환경에서만 동작하는 앱 서비스 기술로 개발됐지만, 가까운 기간내 애플 iOS 기반의 앱 출시와 함께, 영어, 중국어, 일어 앱들도 출시할 계획이다. 이 연구는 KAIST 창업기업인 디지탈이노텍과 산학협력 연구로 수행됐다. #딥페이크탐지 #딥페이크 #모바일앱 #KAIST #나쁜AI
