최근 앤트로픽의 고성능 인공지능(AI)모델 '클로드 미토스'가 촉발한 사이버 보안 위협이 공공·금융·산업 전반으로 확산되는 가운데, 새로운 공격 기술에 대응하려면 기존 외곽 방어 중심 체계에서 벗어나 암호화 기술과 하드웨어 보안 모듈(HSM) 등 검증된 기술로 보안 체계를 다시 설계해야 한다는 전문가 의견이 제기됐다. 올해 하반기 중 유사 모델이 등장할 수 있다는 수위 높은 경고도 나왔다.

23일 서울 여의도 FKI타워 컨퍼런스센터에서는 '프론티어 AI 미토스 공개 보류 사태와 국가 및 기업 사이버 위기 대응 전략' 긴급 좌담회가 열렸다. 이날 좌담회는 국회 정무위원회 소속 유동수 더불어민주당 의원과 PwC컨설팅의 공동 주최했다. 이날 대책 마련을 위해 정부·학계·금융 당국 등 관계자 15여명이 모여 열띤 논의를 이어갔다.

미국 AI 스타트업 앤트로픽이 지난 7일 공개한 차세대 AI 모델 '미토스'는 취약점 탐지를 넘어 실제 공격 코드 생성까지 가능한 수준으로 평가되면서 업계의 주목을 받았지만, 샌드박스(격리 환경)를 벗어나 자율적인 해킹 가능성이 확인되는 등 사이버 공격에 악용될 수 있다는 판단에 일반 공개를 자체 중단했다. 현재 구글, 애플, 아마존 등 약 40개 기업에 '프로젝트 글래스윙' 형태로 제한적으로 제공되고 있다.

이날 기조 발제를 맡은 이상근 고려대학교 기술경영전문대학원 교수는 "미토스는 코딩·수학 추론·장문 이해·코드 분석 등에서 기존 모델을 뛰어넘는 세대적 도약 수준의 성능을 보였다"며 "수십 년간 발견되지 않았던 오래된 보안 결함까지 찾아낼 정도로 취약점 탐지 능력이 뛰어나 통제된 실행 환경(샌드박스)마저 벗어날 가능성이 제기될 만큼 위험성이 크다"고 짚었다.

이 교수는 미토스와 같은 고성능 AI 등장으로 과거 소수 전문가만 수행할 수 있던 해킹 역량이 이제는 누구나 활용 가능한 수준으로 민주화되고 있다고 진단했다. 과거에는 국가차원에서 장기간 수백만 달러를 투입해야 가능했던 공격이 이제는 정교한 프롬프트 등으로도 시도할 수 있는 구조로 바뀌고 있다는 것.

공격 속도는 2018년 평균 2.3년에서 2026년 10시간으로 약 2000배 이상 단축됐다. 2028년에는 분 단위까지 줄어들 것으로 관측된다. 이에 대해 이 교수는 "미토스가 공개되지 않더라도 올해 하반기에 유사 모델이 가능성이 높다"고 경고했다.

오는 7월 앤트로픽이 미토스 모델의 신뢰 확보를 위해 공개할 운영 결과 보고서를 기다릴 여유가 없다는 지적도 함께 제기됐다. 임종인 김앤장 법률사무소 고문은 "대응 공백 자체가 심각한 문제"라며 "지금부터라도 국가 AI와 보안 경쟁력 상위권 진입을 목표로 삼성전자, SK하이닉스 등 기업 역량과 한미 협력 네트워크를 적극적으로 활용하는 등 민관 대응 체계를 가동해야 한다"고 했다.

정부에 통합 대응 체계 구축을 촉구하는 목소리와 함께 사이버 공격의 주체가 사람이 아닌 AI로 전환됨에 따라 관련 규제를 보완해야 하는 필요성도 제기됐다. 이성엽 한국정보통신법학회장은 "국회에서 제정한 AI 기본법은 고위험 AI 중심으로 설계돼있지만 AI 기반의 사이버 공격에 대한 직접 규제는 부족하다"며 "초고성능 AI의 접근 권한, 공급망 통제, 배포 기준 등을 새롭게 논의할 필요가 있다"고 말했다.

또 "미국과 영국은 사이버 보안을 총괄하는 전담 기관이 있지만, 한국은 여러 부처가 역할을 나눠 맡아 대응이 분산돼 있다"며 "AI 위협은 한 부처만의 문제가 아닌 만큼 이를 총괄할 컨트롤타워를 서둘러 마련해야 한다"고 강조했다.

보안 체계를 원점에서 재설계하기 위한 구체적인 제안도 나왔다. 천정희 서울대학교 수리과학부 교수는 앞으로 의존해야 할 핵심 보안 수단으로 암호기술, 하드웨어 보안 모듈(HSM), 소프트웨어 검증을 꼽았다. 천 교수는 "이 세 가지는 그동안 비용과 불편함 때문에 활용이 제한됐지만 사실상 수학적·물리적으로 안전성이 검증된 마지막 도구"라고 정의했다.

특히 암호기술과 관련해서는 "양자컴퓨터 시대를 대비한 양자내성암호(PQC)가 미국에서 표준화됐고, 국내에서도 표준이 마련돼 이를 적용하면 안전성을 담보할 수 있다"며 "비밀키는 하드웨어 보안 모듈이나 시큐어 엘리먼트 기반으로 보호해야 하고 소프트웨어 역시 AI가 취약점을 찾기 전에 이론적 안전성 검증 도구를 통해 설계 단계에서부터 안전성을 확보해야 한다"고 말했다.

기존 정부 규제의 현실적 기준이 미흡한 점도 지적됐다. 천 교수는 "그 동안 국내 정책은 해킹 대응이나 화이트해커 양성처럼 공격 대응 역량 강화에 집중됐지만, 원천적인 방어 도구를 실제 현장에 빠르게 적용할 수 있도록 하는 제도는 부족했다"고 말했다. 그러면서 "국내에 양자내성암호 표준이 마련되긴 했지만 실제 인증과 검증 절차가 얼마나 걸릴지 불확실하다"며 "알고리즘 자체는 어렵고 엄격하게 관리하면서도 정작 키 보호는 소프트웨어에 맡기는 식의 불균형도 존재한다"고 지적했다.

정부와 금융 당국은 조속한 대응 마련을 한 목소리로 강조했다.

과학기술정보통신부 임정규 네트워크정책국장은 "정부도 미토스의 위험성은 언론 보도 등을 통해 인지했고, 보안에 대한 높은 이해를 가진 AI가 등장했다는 점에 적지 않게 긴장하고 있다"고 말했다. 그러면서 "기업들은 단기적으로 보안 대책을 현장에서 제대로 이행하도록 하는 것이 중요하고, 장기적으로는 독자 파운데이션 모델을 개발하거나 해외 모델과 결합해 활용하는 방안도 검토할 필요가 있다"며 "정부도 준비가 되는 대로 구체적인 대응 방향을 공개할 수 있을 것"이라고 덧붙였다.

금융보안원의 오중효 AI/전략 본부장은 "이사회와 최고경영진이 사이버 보안을 핵심 경영 의제로 인식해야 한다"며 "해외에서는 사외이사 대상 교육에서도 사이버 보안이 최우선 과제로 다뤄지고 있다"며 국내 금융권의 인식 전환 필요성을 언급했다.

금융위원회 유영준 디지털금융정책관은 "금융권에는 여전히 레거시 인프라가 많아 기존 취약점을 전면 재점검할 필요가 있다"며 "무엇이 핵심 취약점인지 다시 선별하고 우선순위를 재설정해야 한다"고 강조했다.

특히 제3자 공급망 리스크를 주요 과제로 꼽았다. 유 정책관은 "금융회사뿐 아니라 금융권에 서비스를 제공하는 외부 공급자, 즉 클라우드·SaaS·AI 사업자에 대한 공격이 곧 금융 시스템 전체 리스크로 전이될 수 있다"며 "제3자 공급처에 대한 보안 관리 체계를 다시 들여다봐야 한다"고 제언했다.

한편 클로드 미토스 등장에 중국 보안 업계도 비상에 걸렸다. 이날 클로드 미토스 등장에 중국도 긴장하고 있다는 외신 보도에서 베이징 소재 컨설팅업체 콩코르디아 AI는 중국 주요 AI 모델의 성능이 미토스에 뒤처져 있다고 평가했다.

전날 또 다른 외신은 미토스 프리뷰 버전에 권한 없는 사용자가 무단 접속한 사고가 발생했다는 소식을 전해 앤트로픽 보안 체계에도 의문이 제기된 상황이다.