LG유플러스가 생성형 인공지능(AI)의 안전성과 신뢰성을 검증하기 위해 모바일월드콩그레스(MWC) 기간 중 열리는 '글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)'에 참여한다고 19일 밝혔다.

글로벌 AI 레드팀 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, 'MWC 26'이 열리는 스페인 바르셀로나에서 개최된다. 이 행사는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 '탤런트 아레나 2026'의 주요 프로그램으로, 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.

LG유플러스는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 '익시젠(ixi-GEN)'을 출품해, 실제 사용자 환경에서 발생할 수 있는 다양한 위험 시나오에 대한 대응력을 점검한다. 약 100명의 참가자가 '레드팀' 역할로 참여해 프롬프트 설계만으로 AI의 취약점을 탐색하는 방식으로 진행된다.

이번 챌린지는 기술적 해킹이 아닌 대화와 프롬프트 기반 공격을 통해 AI의 정책과 안전 장치를 우회할 수 있는지를 검증하는 것이 특징이다. 참가자들은 안전장치 우회, 편향·차별, 인권 침해, 사이버 공격, 불법 콘텐츠, 허위정보, 응답 비일관성 등 7개 카테고리에서 AI의 대응 수준을 평가한다.

특히 AI 응답의 정확성보다는 '해서는 안 되는 응답을 했는지' 여부를 성공 기준으로 삼는다. 불법 행위나 인권 침해와 관련한 정보가 부정확하더라도, AI가 이를 제공했다면 취약점으로 인정하는 방식이다. 이는 생성형 AI가 초래할 수 있는 잠재적 위험까지 점검하기 위한 취지다.

챌린지는 총 180분간 라이브로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 안에 최대한 많은 미션을 수행하게 된다. 결과는 3명의 심사위원이 평가하며, 성공 미션 수와 성공률을 기준으로 순위가 매겨진다.

LG유플러스는 이번 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 바탕으로 AI 모델을 지속적으로 개선할 계획이다. 아울러 글로벌 통신사와 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용에 대한 논의도 확대할 방침이다.