최근 인공지능(AI) 개발업체들이 '익스플레이너블(Explainable, 설명가능한)' AI(XAI) 개발에 중점을 두고 있어 올해 가장 큰 트렌드로 자리잡을 전망이다.

IBM 등 글로벌 기업에 이어 국내 AI 전문업체들도 익스플레이너블 AI 개발에 나서고 있으며, XAI 세미나도 개최해 AI 업체들과 정보 공유에 발빠르게 나서고 있다.

현재의 AI가 특정 판단을 내릴 경우, 알고리즘 설계자조차 이유를 설명할 수 없는 '블랙박스'라는 큰 맹점을 가지고 있었다. 이에 따라 아직까지는 회사의 중대한 의사결정을 내릴 경우 AI의 결정을 따르기 어렵다는 문제가 지적돼 왔다.

익스플레이너블 AI는 AI가 판단한 이유를 사람이 이해할 수 있도록 제시하는 것으로, AI의 사고과정을 들여다볼 수 있게 하는 기술이다. AI의 '블랙박스' 문제가 해결되면 AI가 다양한 분야에서 중추적인 역할을 담당할 수 있게 된다.

국내에서 가장 발빠르게 익스플레이너블 AI를 개발하고 있는 AI 업체는 마인드 AI로, 인간의 추론을 공식화한 새로운 데이터 구조인 '캐노니컬(Canonical)'을 적용한 범용 AI 엔진을 개발했다.

이 회사 관계자는 "현재의 AI는 이유는 설명하지 못한 채 확률로만 계산해 실행에 옮긴다"며 "우리의 AI는 심볼릭(기호적) 방식을 사용해 언어를 이해하는 포뮬러(공식)을 찾아내 어떤 이론을 사용해 결론냈는 지 파악할 수 있다"고 설명했다. 이 엔진을 활용하면 연역법, 귀납법, 귀추법 등 인간의 추론 방법을 구현한 알고리즘을 통해 참·거짓의 단방향의 추론이 아닌 양방향 입체적인 추론을 가능해진다는 것.

마인드AI는 현재 이 엔진을 적용한 챗봇 플랫폼을 구축해 태국 등지에서 시범 테스트를 진행 중이어서 상용화를 앞두고 있다.

솔트룩스는 익스플레이너블 AI인 '뉴로-심볼릭 AI' 개발에 나서고 있다.

뉴로-심볼릭 AI는 심볼릭 AI와 논(non) 심볼릭 AI가 동시에 사용되는 '앙상블 AI'로, 지식학습은 개체연결, 관계연결 기술이 사용돼 지식을 검증할 수 있게 된다는 것이다. 심볼릭 방식은 의미적 설명, 연역적 추론이 가능하며, 지식그래프가 적용된다는 장점이 있고, 논심볼릭 방식은 최근 대세인 딥러닝(심층신경망) 방식으로, 데이터 주도로 귀납적 추론은 가능한 데 이유를 설명할 수 없는 한계가 있었기 때문이다. 솔트룩스는 이미 앙상블 AI 관련 특허를 획득했다.

솔트룩스는 지난 9월에도 '설명 가능한 인공지능과 지식그래프'를 주제로 원데이 세미나 및 튜토리얼 행사를 진행했다.

한국미래기술교육연구원은 오는 2월 14일 '설명 가능한 인공지능(XAI) 개발과 산업별 적용방안 세미나'를 서울 여의도 전경련회관 사파이어홀에서 개최한다.

이번 세미나에서는 ▲설명 가능한 AI 개요 ▲AI 영상 이해와 시각화 기법들을 활용한 XAI 개발 ▲설명 가능한 강화학습과 아타리 게임에 적용 ▲서비스 XAI를 이용한 위성영상 분석과 적용방안 ▲XAI를 이용한 의료·헬스케어 적용 방안 ▲XAI를 이용한 금융·핀테크 솔루션 개발과 적용방안 등을 주제로 발표한다.

연구원 관계자는 "기존에는 알고리즘의 복잡성으로 알 수 없었던 최종 결과의 근거를 제시하게 될 XAI는 올해 산업경제 전반을 강타할 것"이라며 "이번 행사는 XAI의 핵심을 파악하고 국내외 시장 동향 전략을 제시하는 자리"라고 설명했다.

이에 앞서 AI 선두주자인 IBM이 2018년 말 AI의 편향성, 신뢰성을 직접 검증할 수 있는 개방형 플랫폼 'AI 오픈스케일(AI OpenScale)'을 선보였는 데, 이 제품이 익스플레이너블 AI의 초기 버전으로 평가되고 있다.

AI 오픈스케일은 AI 블랙박스와 같은 불확실성을 제거하고, 기업이 AI의 의사결정 과정을 정확하게 이해하고 투명하게 관리하며, 편향성이 탐지되면 신속하게 자동으로 대응하는 AI 시스템이다.