정부가 생성형 인공지능(AI)을 활용한 차세대 사이버 공격 가능성에 대응하기 위해 독자적인 '보안 특화 AI 모델' 개발과 정보보호 체계 개편에 착수한다. 글로벌 빅테크 중심으로 재편되는 AI 보안 경쟁 속에서 'AI 보안 주권'을 확보하겠다는 전략이다.

10일 과학기술정보통신부에 따르면 배경훈 부총리 겸 과기정통부 장관은 지난 8일 산학연 전문가 간담회를 주재하면서 글로벌 AI 기업의 사이버보안 프로젝트 대응 방안을 논의했다.

이번 간담회는 최근 앤트로픽의 '미토스'와 오픈AI의 GPT-5.5 사이버 등 고성능 AI 모델이 취약점 탐지와 보안 분석 영역까지 빠르게 확장되면서 위기감이 커진 데 따라 마련됐다.

정부가 공개한 실험 결과는 AI 기반 해킹 위협의 현실화를 보여준다. 과기정통부는 국내 기업과 협의해 앤트로픽의 최신 AI 모델을 활용한 모의해킹을 진행한 결과 약 10분 만에 7건의 취약점을 발견했다고 밝혔다. 인간 해커가 며칠 걸릴 작업을 AI가 단시간 내 수행한 셈이다.

최우혁 과기정통부 정보보호네트워크정책실장은 "AI 프롬프팅 수준에 따라 결과는 달라질 수 있지만, 해커의 작업 속도를 획기적으로 높일 수 있다는 점을 확인했다"고 설명했다.

◆"완벽 방어보다 얼마나 빨리 막느냐가 핵심"

정부와 업계는 AI 시대 보안의 핵심이 '완벽한 차단'보다 '신속 대응'으로 이동한다고 본다. 공격 자체를 모두 막는 것은 사실상 불가능해진 만큼, 취약점을 얼마나 빨리 탐지하고 대응하느냐가 중요해진다는 판단이다.

이에 정부는 화이트해커의 합법적 모의침투를 제도적으로 허용하는 방안을 검토한다. 실제 공격 환경을 기반으로 시스템 취약점을 선제 점검하는 방식이다. 업계에서는 기존 규제 중심 보안 체계에서 실전 대응형 체계로 전환되는 신호라는 평가가 나온다.

특히 정부는 장기적으로 국내 독자 '보안 특화 AI 모델' 개발도 추진한다. 글로벌 AI 모델 의존도가 높아질 경우 국가 핵심 보안 정보와 인프라가 해외 플랫폼에 종속될 수 있다는 우려 때문이다.

배경훈 부총리는 "정보보호 패러다임을 AI 기반 보안으로 전환해야 할 시점"이라며 "국내 AI 보안 특화 모델 개발과 제로트러스트 확산 등 대응 방안을 조속히 마련하겠다"고 밝혔다.

정부는 SK텔레콤과 업스테이지 등 독자 파운데이션 모델 개발 기업을 중심으로 'K-보안 AI' 체계를 검토하고 있다. 동시에 글로벌 AI 기업과의 협력도 확대한다. 정부는 앤트로픽 주도의 글로벌 보안 연합체 '프로젝트 글래스윙' 참여 가능성도 논의 중인 것으로 알려졌다.

◆"AI 위협 과장 경계해야" 신중론도

다만 업계에서는 AI 위협을 지나치게 과장해서는 안 된다는 의견도 나온다. 일부 전문가들은 현재 공개된 AI 모델이 전문 해커 수준 공격 역량까지 확보했다고 보기는 어렵다고 평가한다.

실제 이날 간담회에서도 AI 보안 모델의 파급력을 두고 의견이 엇갈렸다. AI가 보안 환경에 큰 변화를 가져올 것이라는 전망과 함께 기술 영향이 과대평가됐다는 신중론도 제기됐다.

그럼에도 AI 기반 공격 속도가 빠르게 고도화되는 만큼 기존 정보보호 체계만으로는 대응이 어렵다는 데에는 공감대가 형성됐다. 특히 국내 기업들은 망분리 환경과 레거시 시스템 비중이 높아 취약점 패치와 대응 속도가 상대적으로 느린 구조라는 지적도 나왔다.

정부는 이달 말에서 내달 초 사이 AI 기반 사이버 위협 대응 종합 대책을 발표할 예정이다. 내년도 예산과 제도 개선안도 상반기 안에 확정해 AI 보안 대응 체계를 본격 구축한다는 방침이다.