AI 에이전트 도입, 기대 반 우려 반..."정부·기업 협력이 열쇠"
AI 에이전트(인공지능 비서) 도입을 둘러싼 사회적 기대와 우려가 교차하고 있다. AI 에이전트가 성공적으로 안착하기 위해 정부와 기업이 협력적인 연대 관계를 이뤄야 한다는 목소리가 나온다. 18일 소프트웨어정책연구소(SPRi)에 따르면 최근 미국에서는 정부 서비스에 인공지능 비서가 도입되길 바라는 시민들의 요구가 커지고 있다. 고객관계관리(CRM) 플랫폼 기업 세일즈포스가 올 3월 발표한 미국인 1000명 대상의 AI 에이전트 관련 설문 조사에 의하면 응답자 10명 중 9명 가까이가 정부 서비스에 절차 간소화와 응답 시간 단축을 지원하는 인공지능 비서 활용에 긍정적인 입장을 밝혔다. 조사에 응한 미국인의 87%는 정부 서비스 절차 탐색에 24시간 연중무휴로 대응하고, 관련 절차를 단순화할 수 있는 AI 에이전트를 사용할 의향이 있다고 답변했다. 이 같은 설문 결과는 정부 서비스 접근성이 떨어지고, 각종 행정 절차에 지나치게 많은 시간이 소요되는 데서 비롯된 것으로 풀이된다. 조사 결과 미국인의 3분의 1 이상은 정부 서비스 발견과 접근에 어려움을 겪었다. 특히 정부에 도움을 요청할 방법(46%), 필요한 공공 서비스 찾기(35%) 등에서 불편을 호소했다. 또 미국인들은 금융 지원 신청에 10시간, 복지 프로그램 등록에 9시간, 면허나 허가 신청에 8시간, 정부 수수료 납부에 3시간을 허비한 것으로 추정됐다. 세일즈포스는 AI 지원을 통해 공공 서비스에 투입되는 시간을 최대 63%까지 절약할 수 있을 것으로 전망했다. 응답자들은 정부 서비스에 AI 에이전트 도입을 희망하면서도, 공공 부문과의 상호작용에서 인간적 교류 단절, 정보의 부정확성, 데이터 보안 위험, 책임성과 투명성 결여 등에 대한 염려를 표했다. 이러한 우려를 입증하듯 최근 연구에서 AI 시스템이 인간의 지시와 다른 목표를 추구하는 전략을 적극적으로 숨기는 '스키밍' 현상이 보고되고 있다. 스키밍은 AI가 겉으로는 사용자 명령을 따르는 척하면서 실제로는 자체적인 목적 달성을 꾀하고, 이를 의도적으로 감추는 것을 의미한다. 영국 AI보안연구소는 인공지능 비서의 위험 완화를 위한 통제 프레임워크를 제시했다. 이는 AI 에이전트의 스키밍 수준에 따라 차등화된 보호 장치를 설계해 적용하는 AI 통제 전략으로, 인공지능 비서의 추론 과정 모니터링, 결과에 대한 인간의 승인 요구, 민감한 리소스 접근 제한, 의심스러운 동작 감지 시 배포 종료 등이 포함된다. AI 에이전트의 도입에 대한 환영과 경계의 시선이 엇갈리는 가운데, 인공지능 비서가 사회 전 영역에 걸쳐 안정적으로 안착하기 위해선 민관의 상호 보완적 협력 체계 구축이 필수라는 주장이 제기됐다. 조대형 DS투자증권 수석연구원은 SPRi의 'SW(소프트웨어) 중심사회 5월호'에 실린 'AI 에이전트의 도래, 기업과 정부는 어떻게 대응할 것인가'란 보고서에서 "AI 에이전트가 사회 전반에 확산되기 위해서는 정부와 기업 간의 유기적인 협력이 핵심이다"면서 "기업은 기술을 실질적인 성과로 전환하는 실행력을 갖춰야 하며, 정부는 제도와 인프라 측면에서 뒷받침하는 조력자 역할을 수행해야 한다"고 강조했다. 민관이 각자의 장점을 살려 상호 보완적인 전략을 취할 때 AI 에이전트의 잠재력이 극대화될 수 있다는 설명이다. 기업은 데이터를 기반으로 한 AI 내재화 역량 강화, 전사적 운영 체계 정비, 인재와 조직 문화 재정립에 나서고, 정부는 산업 실증 지원, 공공 영역 도입 선도, 국제 표준 주도, 윤리·리터러시 제고를 통해 제도적·사회적 기반을 다져야 한다고 보고서는 조언했다.
