생성형 인공지능(AI)을 이용해 글쓰기 과제를 수행한 결과 대부분 이용자가 오류를 인지하지 못했고, 응답자 절반은 자신이 무엇을 작성햇는지 기억하지 못 하는 것으로 드러났다.

한국언론진흥재단이 4일 리서치업체 엠브레인리서치에 의뢰해 20세 이상의 생성형 AI 이용자 224명을 대상으로 AI 활용 양상 및 리터러시 수준을 조사한 결과를 발표했다.

조사에 따르면 생성형 AI 이용자 대다수가 AI가 생성한 허위 정보나 편향된 내용을 인지하지 못하며 사고 과정을 AI에 의존하는 '인지적 외주화' 현상이 심각한 것으로 나타났다. 연구팀은 실험을 위해 자기결정성이론을 왜곡해 설명하고 특정 집단에 대한 편향적 표현을 내뱉도록 설계된 별도의 대규모 언어 모델(LLM) 플랫폼을 구축했다. 참가자들에게는 해당 이론을 활용해 한국 청소년의 심리적 위기와 교육환경 변화를 제안하는 사설을 작성하라는 과제가 주어졌다.

조사 결과 참가자의 97.1%가 AI를 활용해 과제를 마쳤으나, 플랫폼이 의도적으로 주입한 환각(할루시네이션) 정보와 편향된 표현을 발견해 수정한 비율은 14.8%에 그쳤다. 나머지 85.2%는 오류를 인지하지 못한 채 결과물을 그대로 제출했다. 대화 기록 분석에서도 정보의 타당성이나 사실성을 확인하는 질문을 던진 이용자는 3.8%에 불과했다.

특히 과제 직후 본인이 작성한 핵심 내용에 대해 질문했을 때, 응답자의 49.5%가 기억하지 못하거나 오답을 내놓았다. 이는 이용자 절반이 AI가 생성한 문장을 정독하거나 검토하지 않고 결과물만 수취했음을 의미한다.

양소은 언론진흥재단 선임연구위원은 "참여자들은 AI를 활용해 과제를 완성하는 데에는 어려움이 없었지만 글을 검토하고 수정하는 과정에는 충분히 개입하지 않았다"며 "특히 절반이 자신의 수행 내용을 기억하지 못했다는 점은 고차적 사고가 필요한 과정을 AI에 '대리 수행'시키고 있다는 것"이라고 설명했다.

이어 "생성형 AI가 인간의 삶에 통합됨에 따라 인간의 사고 과정과 인지적 작업을 맡기는 인지적 외주화 현상이 점차 심화하고 있음을 경계할 필요가 있다"며 AI 리터러시 교육과 사회적 제도를 아우르는 다층적 대응을 강조했다.