[2022 뉴테크놀로지 포럼] "메타버스 함정에 빠지지 말라"...초거대 AI, 세이프티 문제·환각 등 부작용도
메타버스 시대가 도래하고 있어 많은 사람들이 기대를 걸고 있지만, 그로 인해 파생될 부작용 때문에 산업이 한 순간에 무너질 수 있다는 우려가 제기됐다. 김정태 동양대학교 게임학부 교수는 메트로신문이 23일 서울 페럼타워에서 개최한 '2022 뉴테크놀로지 포럼'에서 기조연설을 통해 메타버스 분야의 현 주소에 대해 설명하고 "메타버스의 함정에 빠지지 않기를 바란다"는 의견을 제시했다. 김 교수는 우선 메타버스라는 단어가 산업계에서 잘못 해석되고 있다고 지적했다. 그는 "메타버스는 신기술이 아닌 게임 확장이나 현실 물리 세계와 가상 정보 세계의 융합 개념으로 20년 전부터 있었던 용어"라며 "현재 VR(가상현실), AR(증강현실) 관련 기술을 개발하는 관계자들이 지금까지 존재하던 메타버스를 잘못된 정의로 해석하면서 시장을 완전 뒤흔들고 있다"는 문제를 지적했다. 그는 이어 "관계자들은 게임이라는 단어 자체를 부정적인 시선으로 바라보고, 메타버스를 게임을 대체할 수 있는 분야로 보고 있는데, 이는 잘못된 해석"이라는 주장했다. 김 교수는 페이스북에서 메타로 사명을 변경한 주커버그, 존 라도프, 위키트리, 게이미피케이션 등을 예로 들며 "메타버스는 게이미피케이션과 99%유사하다"며 "비게임 분야에서 게임적 기법을 도입하는 것이 메타버스며, 현재 게임을 연구하는 전문가들이 말하는 융합적 경험의 이론적 근거가 게이미피케이션"이라고 설명했다. 그는 "게임 융합 현상중 하나에 불과할 뿐 메타버스라는 용어를 새로운 형태로 둔갑시켜 성장동력, 미래의 먹거리 등 과도하게 포장하고 환상을 전파하는 것을 멈춰야 한다"고 강조한다. 또 네이버에 이어 LG AI연구원·카카오, SK텔레콤·KT 등이 초거대 AI(인공지능) 모델을 발표하고 서비스에 속속 적용하고 있지만, 초거대 AI는 세이프티 이슈, 환각 등 부작용을 일으킨다는 의견이 제기됐다. 김영준 SK텔레콤 에이닷(A.) 대화 담당은 "마이크로소프트가 개발한 '테이'는 '유대인을 죽여버려라'라는 말을 내뱉어 2주 만에 서비스를 닫았고 AI 챗봇 '이루다'는 다시 서비스를 시작했지만, 서비스 초기 1달 만에 닫는 문제가 생기는 세이프티 이슈가 있었다"며 "김연아는 은퇴했는데, AI는 과거 데이터를 학습해 김연아가 활동하는 걸로 얘기하는 할루시네이션(환각) 문제가 발생하고 있다"고 지적했다. 김 담당은 "'애플이 좋아, 삼성이 좋아'를 물으면 삼성에서 뭐라 할까봐 '애플'이라고 대답하는 등 초거대 AI는 거짓말을 엄청 잘 한다. 사실성에 대해 재평가가 필요하다"며 "또 메모리가 없어 일관성이 부족한 데, 등산을 좋아한다고 했다가 안 좋아한다고 했다가 하는 데, 일관성을 유지하기 위해 별도의 관리가 요구된다"고 설명했다. 그는 또한 "페이스북에서 논문 AI를 만들었는데 사실적인 것을 엄청나게 학습했지만 AI가 사실적인 거짓말을 하는 문제를 드러내 1주일 만에 폐쇄가 됐다. AI가 구글, 메타 검색으로 연결돼 검색한 내용으로 바꿔주는 데 검색 결과에 의존하는 것도 위험하다"며 "가상인간인 여리지와 레드벨벳의 아이린이 너무 유사해 최근에는 초상권 문제까지 대두되고 있다"고 밝혔다. 이건복 마이크로소프트 솔루션 사업부 상무는 "잘못 학습된 AI 만큼 무서운 게 없다는 데 동의하고, 사진 데이터와 통계적 데이터 만 가지고 당신은 몇 살, 성별은 뭐라고 정의하는 게 잘못 될 수도 있어 이에 대한 파장도 고려해야 한다"며 "이세돌과 알파고의 대결을 보더라도 AI가 사람을 이기는 경우를 보여주며 경쟁 모습을 당당히 보여준다. AI가 사람을 도와주는 게 아니라 이기는 것을 보여주는 것은 이는 윤리의식이 없기 때문"이라고 지적했다. 이 상무는 "AI든 메타버스든 어떤 기술이 나오더라도 '기술 중심'이 아니라 '사람 중심'으로 이야기를 풀어나가는 것이 중요하다"며 "기술이 어떠한 가치를 띄고 활용될 수 있는지, 가치 있는 기술이 인류에게 어떤 영향을 주는지를 주의 깊게 봐야 한다"고 강조했다. 윤영진 네이버 클로바 AI 비즈니스 리더는 AI의 페인포인트로 "아이템 프로젝트 결과를 예측하기가 어렵고, 언제 종료될 지도 알 수 없어 시험이라는 표현을 쓴다"며 "좋은 딥러닝 모델이 필요한 데 양질의 데이터가 반드시 갖춰져야 정확도가 높아진다. 또 지도학습 방식으로 정답을 매겨야 하는데 이 작업에 많은 시간과 비용이 발생하고 결과를 예측하기 어렵다"고 지적했다. 그는 이어 "시간이 지나면 성능이 떨어져 이 같이 어려운 과정을 반복해야 한다"는 문제를 지적했다. 그는 이러한 문제들을 극복하기 위해 초거대 AI인 '하이퍼스케일 AI'로 '하이퍼클로바' 모델을 개발했다고 소개했다. 윤 리더는 "천억을 투자해 슈퍼컴퓨터를 도입했으며, 국내 1위 포털 사업자로 좋은 품질의 데이터를 확보했다. 이를 기반으로 한국어를 제일 잘 하는 초거대 AI를 개발했다"며 "AI 전문가도 한국과 일본을 합해 700~800명을 보유하고 있다. 초거대 AI의 적용 분야로 요약·창작·분류·데이터증강·대화 등 5가지 영역에 집중하고 있다"고 밝혔다.
