'명령어만으로도 동영상 뚝딱' 가짜뉴스·딥페이크 안전 대책은 '無'

오픈AI, 메타, 구글 등이 잇따라 동영상 생성형 인공지능(AI)의 대중 서비스를 예고한 가운데 윤리적 문제와 부작용 등에 대한 대책이 없어 우려된다. 10일 메타가 지난 4일(현지시간) 동영상 생성형AI '무비 젠(Movie Gen)'을 공개하고 내년 중 인스타그램 등 자사 앱에 탑재할 예정이라고 발표했다. 무비 젠은 명령어를 입력하면 최대 16초 길이의 동영상을 생성한다. 앞서 공개된 구글의 '비오(Veo)'나 오픈AI의 '소라(SORA)'와는 달리 편집이 가능하고 이용자가 입력한 이미지를 영상으로 만들 수 있다는 데 있다. 가령 이용자가 특정 인물의 사진을 넣고 '수영하는 모습을 만들어줘'라고 명령하면 해당 내용의 동영상이 생성 되는 식이다. 배경음악과 효과음 또한 추가할 수 있다. 주요 빅테크 기업들이 명령어만으로 동영상을 생성할 수 있는 AI를 속속 내놓으면서 업계 안팎에서는 기대와 우려가 동시에 나오고 있다. 실존 객체를 촬영한 영상과 차이를 구분할 수 없어 쓰임에 따른 파급력이 폭발적이기 때문이다. 긍정적인 면에서는 동영상 제작을 일반인 또한 전문적인 지식 없이 할 수 있게 되는 만큼 창작의 새 지평을 열 수 있다고 평가 받는다. 그러나 반대로는 현재 이미지 생성형 AI만으로도 심각한 각종 가짜뉴스부터 금전 사기, 딥페이크 성착취물 제작까지 다양한 범죄가 일어나는 만큼 동영상 생성형 AI들이 더욱 고도화 한 범죄 도구가 될 것이라는 우려도 쏟아진다. 현재 기술로써는 일반 이용자가 일반 동영상과 생성형 AI를 이용한 동영상을 구분할 방법이 없다. 이러한 문제에 대해 명쾌한 해결방안을 내놓은 빅테크 기업들 또한 없다. 오픈AI는 소라를 공개한 후 소라의 위험성 방지를 위한 방안을 연구하는 전담 조직인 '레드 팀'을 운영하며 유해성을 사전 검증하고 있다며 AI 생성물에 식별 표지를 삽입할 예정이라고 밝혔다. 그러나 실제로 식별 표지는 추가적인 기술을 통한 식별 과정을 거쳐야 하는 만큼 일반 이용자들이 모든 영상을 일일이 AI 생성물인지 아닌지를 분간하는 것은 불가능하다. 사실상 동영상 생성형 AI들이 출전을 선언했으나 안전망은 존재하지 않는 셈이다. IT 업계 관계자는 "동영상 업로드 플랫폼 등에서 식별 표지를 파악하고 명시하는 방안이 최선일 것"이라며 "그러나 많은 딥페이크 영상물이 대형 플랫폼이 아닌 개인 간 공유나 동영상에 특화되지 않은 SNS 플랫폼을 통해 퍼져나간 만큼 부작용에 대항할 수 있을지는 의문"이라고 밝혔다. 한편, 현재 빅테크 기업들이 공개한 동영상 생성형 AI는 대부분 현재 기술 공개 단계로 실사용 서비스 일정을 조율 중이다. 어도비의 '파이어플라이 비디오 모델(Firefly Video Model)' 베타버전은 연내, 오픈AI 소라와 틱톡의 '지멩(Jimeng)' 등은 내년 중 대중 서비스를 시작할 예정이다. 일부 모델은 이미 상용화에 들어갔다. 유튜브는 최근 비오를 숏츠에 결합해 명령어로 6초 가량의 영상을 제작할 수 있도록 업데이트 했다. 닐 모한 유튜브 최고경영자(CEO)는 "AI가 작업을 더 빠르고 효율적으로 만들 것"이라고 말했다. /김서현기자 seoh@metroseoul.co.kr