SKT AI 고객센터 오픈…"통신 특화 LLM 적용"

SK텔레콤은 자체 개발한 Telco LLM(Large Language Model)과 LMM(Large Multimodal Model)을 활용한 고객센터 AI 상담 업무 지원 시스템을 10월 중순부터 단계적으로 열고, 한 달여 간 베타서비스를 운영했다고 18일 밝혔다. SKT는 자체 개발한 Telco LLM/LMM을 실제 상담 업무에 활용할 수 있는 AI 상담 업무 지원 시스템을 구축할 계획이다. SKT는 그간 앤트로픽사등 해외 주요 LLM 업체들과 협력을 바탕으로 다양한 통신 전문 지식을 학습한 Telco LLM을 개발해 왔다. 먼저 Telco LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다. 이 서비스는 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다.이를 통해 상담사들의 정보 탐색 시간을 단축하고, 상담사 개인의 역량/경력과 무관하게 고품질 상담 서비스를 제공할 수 있게 됐다. 지난 10월 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화하고 있으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다. 아울러 A.X LMM을 활용하여 AI 서류 자동 처리 시스템도 구축한다. 고객센터는 고객들이 문자, e-mail, Fax 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 수십종의 구비 서류들을 처리하고 있다. 이러한 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써, 증빙서류 확인에 걸리는 시간을 크게 단축할 수 있을 것으로 기대된다. 먼저 10월 23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 앞으로는 서류 내용까지 자동으로 판독하여 처리할 수 있게 될 것이다. 12월에는 고객 상담 결과를 Telco LLM을 활용하여 자동으로 분류/요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다. 상담이 종료된 후 상담 결과를 정리하는데 평균 30초 정도 소요됐지만, AI가 자동으로 처리를 해주게 되면 상담사는 상담 종료 이후 후속 업무 처리 없이 더 빠르게 대기 중인 고객들에게 상담을 제공할 수 있다. 그뿐만 아니라, 고객들의 이전 상담 내용에 대해 빠르고 정확하게 파악할 수 있어 개개인에게 가장 적합한 맞춤형 상담도 가능하다. SKT 홍승태 고객가치혁신 담당은 "SKT는 AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다"며 "SKT는 Telco LLM 기반 상담 업무 지원 시스템을 발판으로, 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다"고 말했다. /구남영기자 koogija_tea@metroseoul.co.kr