내년 1월 시행을 앞둔 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'의 하위 법령을 두고 정부와 업계의 갈등이 깊어지고 있다. 정부는 범람하는 저질 AI 콘텐츠인 'AI 슬롭(AI Slob)'과 딥페이크 범죄를 막기 위해 AI 생성물에 식별표지(워터마크)를 의무화해야 한다는 입장이지만, 업계는 "기술 흐름과 현실을 무시한 과잉 규제"라며 거세게 반발하고 있다.

15일 업계에 따르면 과학기술정보통신부는 최근 입법 예고한 AI 기본법 시행령안에 생성형 AI 및 고영향 AI를 활용한 결과물에 가시적 식별표지를 의무화하는 내용을 담았다. 딥페이크 성범죄나 가짜 뉴스, 허위 의료 광고 등 AI 기술 악용으로 인한 사회적 혼란을 막겠다는 취지다.

정부가 강력한 규제 카드를 꺼내 든 배경에는 최근 유튜브 등 플랫폼에서 기승을 부리는 'AI 가짜 의사', '유명인 사칭 사기 광고' 등으로 인한 소비자 피해가 임계점을 넘었다는 판단이 작용했다. 시행령이 확정되면 AI 생성물을 제작·편집해 게시하는 정보 제공자는 AI 사용 여부를 의무적으로 표기해야 하며, 플랫폼 사업자는 이를 기술적으로 관리·감독해야 한다. 위반 시 과태료 부과 및 시정 조치가 내려질 전망이다.

과기정통부 관계자는 "AI 산업 발전도 중요하지만, 안전과 신뢰 기반 없이는 지속 가능한 성장이 불가능하다"며 "입법예고 기간 수렴된 의견을 검토하겠지만, 투명성 확보라는 대원칙은 흔들리지 않을 것"이라고 밝혔다. 정부는 내년 1월 법 시행 전까지 구체적인 표시 의무 고시와 AI 투명성 가이드라인을 확정할 방침이다.

하지만 IT업계는 당혹감을 감추지 못하고 있다. 규제의 범위와 기준이 모호할 뿐만 아니라, 글로벌 추세와도 정면으로 배치된다는 주장이다.

특히 지난 8일 과기정통부가 기업들을 대상으로 진행한 비공개 간담회 내용이 알려지며 반발이 거세졌다. 당시 과기정통부 측은 영상물의 경우 도입부나 말미에 단순 고지하는 수준을 넘어, 영상이 재생되는 전체 분량 내내 AI 식별표지를 삽입해야 한다는 취지로 설명한 것으로 전해졌다.

이를 두고 업계에서는 "현실을 무시한 행정 편의주의적 발상"이라는 비판을 쏟아내고 있다.

콘텐츠 업계 관계자는 "생성형 AI를 창작의 주체가 아닌 단순 채색, 화질 향상, 오타 수정 등 보조적 도구로 활용한 경우까지 일일이 식별 표지를 강제하는 것은 과도하다"며 "이는 창작의 자율성을 침해하고 행정력을 낭비할 뿐만 아니라, 콘텐츠 소비자들에게 불필요한 피로감과 선입견만 심어줄 수 있다"고 꼬집었다.

AI 식별표지와 관련한 전 세계적 추세는 '비가시적 식별표지'로 향하고 있다는 점도 논란거리다. 구글 딥마인드, 메타 등 글로벌 빅테크 기업들은 이미 육안으로는 보이지 않지만 기계가 판독할 수 있는 비가시적 워터마크 기술을 주도하고 있다. 이미지에 노이즈 패턴을 심거나 오디오 파형에 비가청 신호를 숨기는 식이다. 네이버, 삼성전자 등 국내 기업들도 구글, 마이크로소프트 등과 함께 콘텐츠 출처 및 진위 확인을 위한 연합체(C2PA)를 구성해 기술 표준화에 나섰다. 글로벌 시장조사업체 베리파이드마켓리서치는 디지털 워터마크 시장이 2032년 약 8조6000억 원 규모로 성장할 것으로 내다봤다.

전문가들은 단순한 표기 의무화를 넘어, 워터마크를 무력화하려는 시도에 대응할 수 있는 고도화된 기술 지원이 시급하다고 지적한다. 이미 가시성 여부에 관계없이 AI 식별표지는 삭제 불가능한 기술이 아니다. 지난 3월에는 구글의 '제미나이 2 플래시'가 자사가 만든 이미지의 워터마크를 명령 한 번에 지워 논란이 됐으며, 캐나다 워털루대학교 연구진은 통계적 기법으로 비가시적 워터마크를 무력화하는 '언메이커' 기술을 개발하기도 했다.

한 국내 AI 솔루션 업체 관계자는 "현재 논의되는 가시적 워터마크는 픽셀 단위로 이미지를 재구성하는 최신 생성형 AI 기술 앞에서는 사실상 '지우개로 지우듯' 손쉽게 제거가 가능하다"며 "보여주기식 표기 의무화보다는 생성 정보가 담긴 메타데이터를 암호화해 심거나, 삭제가 불가능한 비가시적 워터마크 기술 표준을 마련하는 것이 급선무"라고 강조했다.