"최근 AI로 죽은 가수 등을 다시 살려 디지털 휴먼 콘서트가 개최되고 있는데, 고인을 되살리는 것이 추모인지, 존엄성을 훼손하는 것인지 하는 문제가 대두된다"며 "대중의 그리움 해소를 위해 고인 생전의 동의 없이 복원되거나 상업적으로 활용되는 사례에 대해 윤리적인 가이드라인 설정이 필요하다"는 주장이 제기됐다.

김태성 MBC플러스 제작센터장은 29일 부산 벡스코 제2전시장에서 IAAE 국제인공지능&윤리협회가 '인간을 닮아가는 AI'라는 주제로 개최한 '제3회 인공지능 윤리대전'에서 '디지털 휴먼에 윤리가 필요한 이유, 그리고 가이드라인' 주제 발표를 통해 이 같이 밝혔다.

그는 "로빈 윌리엄스는 2039년까지 홀로그램 등 형태로 나를 부활시켜서는 안 된다며 그는 '잊혀질 권리'를 선택했다"며 "고인이 된 가족의 그리움을 달래기 위한 복원 기술은 수용자에 따라 부정적 결과를 초래할 가능성을 고려해야 한다"고 지적했다.

김 센터장은 "릴 미켈라는 인스타그램 팔로워가 300만명이나 되고, 브리질의 루두마갈루는 인스타그램 팔로워가 무려 600만명에 이른다"며 "국내 디지털 휴먼 아이돌인 이터니티니는 뮤직비디오 조회수가 440만회에 달하고, 키즈나아이는 유튜브 구독자가 300만명에 달한다"며 이 5명 중에 4명이 디지털 휴먼을 활용한 버튜버(버추얼 유투브)라고 소개했다.

그는 "하지만 디지털 휴먼에 대한 윤리 이슈의 하나로 디지털 휴먼에 대해 팬덤을 가졌을 때 문제가 생길 수 있다"며 "팬덤을 가지면 결속력을 가지는 데 잘못된 방향으로 가면 문제가 된다"고 지적했다. 그는 "최근 팬덤은 팽목적이고 순종적인 후원자가 아닌, 경제와 위협의 집단으로 변하는 특징도 보이고 있다"며 "특정 팬클럽 사이에 지나친 경쟁심으로 충돌하거나 사이버테러를 유발할 수 있다"고 말했다.

김 센터장은 미국 대통령 트럼프의 유세장 사건을 예로 들었다. 유세장에는 당일날 사람들이 많이 나타나지 않았는데 알고보니 K팝 가수 BTS의 팬들이 당시 인종 차별적인 발언들을 많이 하는 트럼프에 반감을 표현하기 위해 티켓만 사고 유세장에 가지 않은 것이다.

그는 "기획사에서 아티스트들의 미디어 인터뷰 등에서 발언과 행동준칙을 관리하는 것처럼 '디지털 휴먼'도 유사한 가이드라인을 설정하는 것이 필요하다"는 의견을 내놓았다.

김 센터장은 "포르노나 비디오 피싱 등 범죄에 이용되는 딥페이크도 문제가 된다"며 "정치인, 유명인, 기업을 공격할 목적으로 만들어지는 딥페이크 영상의 위험이 증가하고 있다. 비대면을 악용해 허위사실을 유포하거나 타인에게 피해를 입히는 문제가 발생한다"고 밝혔다.

그는 "딥페이크로 인해 차별과 혐오, 프라이버시 침해, 개인정보 유출 문제가 생기고 있다"며 "AI 기술을 활용한 범죄는 더욱 치밀하고 교묘하게 늘어날 것으로 예상되는 만큼 사회적 합의를 통해 관련법 정비와 윤리적 기준이 마련되어야 한다"고 주장했다.

김 센터장은 "인공지능이 인류를 지배하면 어떻게 될 것인가. 이 기술을 운영하고 개발하는 사람들이 기술의 취지에 맞지 않게 잘못 사용하면 문제가 된다"며 "사람이 지켜야 할 윤리기준 제정을 우선하고, 디지털 휴먼의 기술적 변화에 따른 기술적 윤리기준을 시기에 맞게 동시에 반영하는 형태로 제정되어야 한다"고 지적했다.

그는 "창조 휴먼이 진화하고 있는데, 챗봇·음성인식봇·가상개인비서·디지털휴먼 등으로 속도가 매우 빠르게 진화하고 있다"며 "1966년에 탄생한 최초의 문자 챗봇인 엘리자는 최근 챗봇에서는 대화할 수 있는 존재가 되고 있다. 인공지능 스피커 등의 음성인식봇은 인간의 음성을 인식해 잘 처리해주고 있다"고 말했다. 이어 "음성인식봇에서 IoT 기술이 결합되면서 음악을 재생하거나 가전제품을 제어하는 용도로 활용되는데, 빅스비나 아리아가 이에 해당한다"며 "최근에는 사람의 형태, 눈으로 볼 수 있는 형태로 진화하고 있다"고 밝혔다.

정덕현 대중문화평론가는 'SF 속 AI와 윤리적 문제들'이라는 내용의 주제 발표를 통해 "약한 인공지능은 기계적 요구에 대응하는 AI의 단계이며, 강한 인공지능은 생각, 감정까지 가질 수 있는 AI의 단계를 말한다"며 "인공지능이 이 같이 감정을 갖는 게 가능할까 하는 문제에 직면하게 된다"고 말했다.

그는 "인공지능이 사랑을 하면 어떤 일이 발생되고 그 일을 어떻게 책임져야 하는가 문제에 직면한다"며 "엄마의 사랑을 갈구해 인간이 되어 돌아오는 데이빗의 여정과 인공지능 사만다를 진심으로 사랑하게 된 테오도르의 사례에서도 이 같은 문제를 찾아볼 수 있다"고 말했다.

정 평론가는 "결국 엄마에게 특별한 존재인 줄 알았던 데이빗이 복제모델들을 보고 절망하는 장면이 나오고, 사만다가 진화를 위해 더 많은 인간들과 교류하면서 무려 8000명 이상과 대화해 641명과 사랑의 감정을 느끼게 된다"며 인공지능이 우리와 함께 살아가면 윤리적인 질문이 필요하다고 지적했다.

그는 "'트롤리 딜레마'에서도 브레이크가 고장난 전동차가 사람을 치는 데 5명을 구할 것인지 1명을 희생시킬 지에 대한 문제에 직면한다"며 "많은 사람들이 5명을 구하는 것이 공리적인 선택이라고 하겠지만 차를 사는 운전자 입장에서는 운전자 1명을 살리는 쪽을 선택할 것"이라고 말했다.