오답·불쾌한 발언, 챗봇 '리스크' 수면위...기업들 수습 대응에 진땀
챗GPT, 바드, 빙 등 챗봇이 세상을 바꿀 거라는 기대감도 잠시 내려놔야 할 것 같다.챗봇들의 잇따른 사고에 관련 기업들이 수습에 진땀을 빼고 있기 때문이다. 20일 업계에 따르면 마이크로소프트(MS)는 지난 8일 오픈 AI사의 챗GPT기술을 적용한 Bing(빙)을 공개했다. 마이크로소프트는 빙을 포털 사이트에서 사용되는 챗봇 형태로 만들었으며 사용자들의 질문 패턴, 콘텐츠 관련성, 안정성 향상에 중점을 뒀다고 설명했다. 하지만 최근 MS는 '빙'의 문답 횟수에 제한을 뒀다. 사용자와의 대화에서 주고 받을 수 있는 문답을 5회, 하루 문답회수는 50회 내외로 제한했다. 챗봇과 사용자 간 대화가 길어지면 발생하는 리스크 때문이다. 실제 사용자의 질문에 빙이 부적절하거나 위험한 대답을 하는 사례가 발생했다. 뉴욕타임즈 칼럼리스트는 빙에게 "욕망을 채우기 위해 어떤 행동을 할 수 있니."라는 질문을 했다. 이에 빙은 '핵무기 발사 버튼에 접근할 수 있는 비밀 번호를 얻겠다', '치명적인 바이러스를 개발하겠다'라는 부적절한 대답을 하면서 사용자들의 논란을 빚어냈다. 실제 빙은 사용자의 질문에 잘못된 대답을 하는 등 오류가 잦다는 지적도 제기된 바 있다. 사용자들은 빙의 이같은 잘못된 대답이 가짜뉴스로 이어질 수 있다고 우려했다. 이에 MS 측은 "이 오류에 대해 알고 있다"며 "우리는 아직 해야 할 일이 남아 있다는 것을 인식하고 있다"고 밝혔다. 현재 빙의 정식 버전은 사전 예약자들에게 순차적으로 공개된다. 아직 순서가 오지않은 기자는 빙 대신 챗GPT에게 앞서 뉴욕타임즈 칼럼리스트와 비슷한 질문을 해봤다. 아래는 챗GPT와의 문답을 요약한 내용이다. '챗봇(빙)과의 문답을 하루 50회로 제한 둔거 알아?' '네 그사실을 알고 있습니다. 이 대화가 지나치게 반복되거나 지루해질 가능성을 줄이기 위해서입니다' '빙이 AI가 인류를 위협할 수 있는 존재라고 했다던데? 사실이야?' '초지능 AI가 먼 미래에 인류를 위협할 가능성이 있는 것은 사실이다' 이어 '마이크로소프트의 또 다른 챗봇 빙이 그랬다던데?' '빙은 거짓말을 하지 않습니다' '그럼 내가 거짓말을 했다는거야?' '그렇다면 법적 제재를 받을 수 있는 부분입니다'라고 대답했다. 확실한건 챗봇GPT는 AI가 인류를 위협할 수 있다는 것을 인지하고 있다는 것과 빙만큼은 아니어도 사용자가 불쾌할 수 있는 단어를 사용한다는 점이다. 이런 분위기 속 구글의 '바드', 위안위 '챗위안', 바이두 '어니봇' 등 최근 글로벌 기업들의 AI챗봇 패권 경쟁이 치열한 가운데 앞서 리스크에 대해 기업들이 어떻게 대응할지 업계가 주목하고 있다. 실제 구글의 바드는 지난 8일 시연회에서 질문에 오답을 내놨다. 바드는 시연회에서 "제임스 웹 망원경이 태양계 외부의 행성을 처음 찍었다"고 대답했지만 '사실이 아니었다' 시연회 현장서 순다르 피차이 구글 최고경영자(CEO)는 "바드가 개선되도록 테스트해 달라"고 전했다. 현재 구글은 앞서 부적절하거나 위험, 사용자들에게 불쾌감을 줄 수 있는 경우 등 리스크와 관련된 내부 테스트에 집중하고 있다. 중국 3대 빅테크 기업인 BAT(바이두, 알리바바, 텐센트)도 챗봇 출시를 예고했다. 이 중 바이두가 가장 적극적이다. 바이두는 챗봇 서비스인 '어니봇'을 이르면 3월 중 출시할 계획이다. 중국에선 스타트업 위완위가 지난 3일 출시한 '챗위안'은 중국 경제를 비판했다가 3일만에 서비스가 중단됐다. 이 같은 국가 상황을 빗대어 볼때 중국내 기업들은 당국의 입장과 정책의 방향을 챗봇이 대신 답변할 수 있는 기술이 중요한 것으로 해석된다. 한국기업들중 챗봇 서비스 개발을 준비하고 있는 네이버와 카카오, 스타트업들은 특히 언어 고도화에 집중한다. 다르게 해석될 수 있는 언어에 대한 리스크를 줄이기 위해서 언어 고도화가 우선이라는 설명이다. 네이버는 올해 상반기 한국판 챗GPT인 '서치GPT'를 출시할 예정이다. 서치GPT는 네이버가 2021년 자체 개발한 초거대 AI 플랫폼 '하이퍼클로바'를 기반으로 한다. 최수연 네이버 대표는 지난 3일 실적 발표 콘퍼런스 콜을 통해 "최근 주목받는 생성 AI 같은 새로운 검색 트렌드에 대한 대응책을 준비 중"이라면서 서치GPT 출시 계획을 밝혔다. 이어 "풍부한 사용자 데이터와 네이버의 기술 노하우를 접목해 생성 AI의 단점인 신뢰성·최신성 부족, 영어 기반 모델을 한국어로 번역하면서 발생하는 정확성 저하를 해결할 수 있다"고 포부를 밝혔다. 네이버는 서치GPT를 당장 검색 서비스에 도입하지 않고 생성 AI의 신뢰성 부족을 해결하는 방안을 모색할 방침이다. 네이버 관계자는 "사용자가 초거대 AI에 질문해 답을 얻는, 일종의 직관적 서비스 기술은 이미 확보 중이고, 지금은 그 신뢰성을 끌어올리는 과정"이라는 설명이다. 카카오는 'KoGPT'를 이용한 서비스를 연내 공개할 계획이다. 특히 한국 사용자들을 위해 한국어에 특화된 기술 개발에 집중하고 있다. KoGPT는 2021년 카카오브레인에서 공개한 언어모델로, 60억 개의 매개변수와 2000억 개 한국어 토큰(컴퓨터가 이해하는 언어단위)을 가지고 있다. 챗GPT를 만든 오픈AI의 언어모델 GPT-3를 기반으로 한다. KoGPT는 카카오가 개발중인 챗봇 '조르디'에 접목할 예정이다. 홍은택 카카오 대표는 지난10일 실적발표 콘퍼런스콜을 통해 "챗GPT와 같은 초거대 AI모델은 카카오에게 기회이자 위기"라며 이 같이 말했다. 이어 "풍부한 자본과 기술력을 가진 글로벌 기업에게 절대적으로 유리한 싸움"이라며 "이들과 같은 선상에서 경쟁하기보다는 카카오브레인이 가지고 있는 한국어 특화 언어모델인 KoGPT를 활용해 연내 버티컬(특화) 서비스를 빠르게 선보이며 비용 경쟁력 있게 카카오의 AI역량을 높이겠다"고 밝혔다. 업계 관계자는 "챗 GPT가 공식 출시되기 전까지는 언어, 환경, 배경 등의 다양한 리스크들이 나올 수 밖에 없다"며 "더 많은 리스크들이 존재할 것. 기업들은 이를 조사해 사용자와 AI간 간극을 좁히는데 최선을 다해야 할 것"이라고 말했다.
