일레븐랩스는 인공지능(AI) 리스크 평가 기업 AIUC와 협력해 'AI 음성 에이전트 전용 보험 제도'를 도입했다고 18일 밝혔다.

이 보험은 기업 고객지원이나 영업 현장에서 활용되는 AI 에이전트가 잘못된 정보 제공이나 부적절한 대응으로 손해를 발생시킬 경우 이를 보장해준다.

이에 따라 AI를 단순 소프트웨어가 아닌 책임을 수반하는 '디지털 직원' 개념으로 관리하는 체계가 마련됐다는 평가다.

현재 일부 기업들을 중심으로 AI 에이전트 도입이 확대되고 있지만, 환각(할루시네이션, AI가 사실이 아닌 정보를 사실처럼 확신 있게 생성해 내는 현상)이나 부적절한 발언에 따른 법적·경제적 책임이 불명확해 실제 운영 단계로의 확산에는 한계가 있었다.

일레븐랩스는 이러한 문제를 해결하기 위해 AIUC와 함께 위험 검증과 인증 체계를 구축했다. 해당 AI 에이전트는 AIUC의 'AIUC-1' 보안·신뢰성 인증을 획득했으며, 환각, 프롬프트 인젝션, 데이터 유출 등 다양한 위험 시나리오에 대한 테스트를 거쳤다.

인증을 받은 AI 에이전트는 인간 직원들처럼 고객들에게 피해를 입힐 경우 보험 적용 대상이 되며, 도입 기업은 별도의 인증 절차를 거쳐야 보험이 적용된다. 인증 유효기간은 12개월이며 주기적인 검증이 요구된다.

이번 제도는 AI 에이전트 도입 과정에서 발생하는 리스크를 금융 방식으로 관리할 수 있는 수단을 제시했다는 점에서 의미가 있다. 업계에서는 이를 계기로 AI가 실험 단계를 넘어 기업 핵심 업무로 확산될 가능성이 커질 것으로 보고 있다.

마티 스타니셰프스키 일레븐랩스 CEO는 "AI 에이전트 도입 확대에 따라 보안과 책임을 함께 고려한 체계가 필요하다"며, "이번 인증과 보험이 기업의 안정적인 AI 활용을 지원할 것"이라고 밝혔다.