페이스북, AI로 유해 콘텐츠 사전 탐지율↑…변화하는 커뮤니티 규정

페이스북이 인공지능(AI)의 활용을 늘려 규정을 위반하는 콘텐츠를 삭제하며 건강한 커뮤니티 조성을 하고 있다. 페이스북은 12일 오전 페이스북 커뮤니티 규정 온라인 브리핑을 열고 변화하는 내용에 대해 설명했다. 커뮤니티 규정이란 페이스북과 인스타그램의 콘텐츠 허용 규칙으로 ▲폭력 및 범죄 행위 ▲안전 ▲불쾌한 콘텐츠 ▲무결성 및 진실성 ▲지적재산권 등 5가지 영역으로 규정하며 총 26개 항목으로 운영되고 있다. 유동연 페이스북 아시아태평양(APAC) 콘텐츠 정책팀 매니저는 "매일 100만 건이 넘는 이용자로부터 신고가 접수되는데 인력으로 해결하는 데에는 한계가 있다"며 "지난 5년간 지속적으로 AI에 투자해 이상 콘텐츠의 감지 및 삭제율을 늘려왔다"고 말했다. 페이스북의 커뮤니티 규정 집행 보고서에 따르면 혐오 발언에 대한 페이스북의 사전 감지율은 올해 1분기 89%에서 2분기 95%로 증가했다. 조치를 취한 콘텐츠 양 또한 960만 건에서 2250만 건으로 증가했다. 이는 일부 자동화 기술을 스페인어, 아랍어, 인도네시아어까지 포함할 수 있도록 확대했고, 1분기에 영어로 된 콘텐츠 감지 기술을 개선했기 때문이다. 2분기에는 자동화 역량이 더욱 향상되어 영어, 스페인어, 버마어로 된 콘텐츠에 더 많은 조치를 취했다. 테러 관련이라는 이유로 페이스북에서 조치를 받은 콘텐츠도 1분기 630만건에서 2분기 870만건으로 증가했다. 인스타그램에서는 혐오 발언 감지율이 올해 1분기 45%에서 2분기 84%로 크게 증가했고, 조치를 취한 콘텐츠의 양은 80만8000건에서 330만 건으로 늘었다. 이는 영어와 스페인어 콘텐츠에서 사전 감지 기술을 확장했기 때문이다. 페이스북은 데이터베이스에 포함된 기존의 규정 위반 콘텐츠와 유사한 콘텐츠를 감지하고 삭제하는 기술이 향상시켜 페이스북과 인스타그램에서 더 많은 아동 나체 이미지와 아동에 대한 성착취 콘텐츠를 삭제하고 있다. AI를 통한 사전 탐지율이 증가하고 있기는 하지만 모든 것을 AI에 맡길 수는 없다. AI가 사람처럼 정확하게 상황과 맥락에 대해 파악하는 것에 어려움이 있기 때문이다. 일례로 올해 4~6월 페이스북과 인스타그램에서 사전조치된 게시물을 보면 다른 유형들의 높은 사전조치율과 달리 '따돌림 및 괴롭힘' 영역은 사전조치율이 13.3%에 불과하다. 괴롭힘을 당하는 것처럼 보이는 사람이 실제로 괴롭힘이라고 느끼는지 혹은 친구 사이의 가벼운 장난이라고 느끼는지가 맥락에 따라 달라져 정확히 파악하기 어려운 탓이다. 사회가 변화함에 따라 규정도 변화하고 있다. 페이스북은 경찰의 무력 진압이 등장하는 사진과 영상이 자극적이라고 판단해 그동안 미성년자에게 노출하지 않았으나, 앞으로는 사회적 경각심 등을 위해 미성년자에게도 관련 콘텐츠를 허용하기로 했다. 또한 자기 몸 긍정주의를 독려하는 게시물을 선정적인 게시물로 판단하지 않기로 했다. 자기 몸 긍정주의란 몸이 말라야 아름답다고 보는 과거 시각에서 벗어나 자신의 몸매를 긍정하자는 운동이다. 한때는 자기 몸 긍정주의를 알리기 위해 신체를 노출한 콘텐츠를 올렸을 경우 삭제 조치했으나, 이제는 긍정적 동기에서 올린 콘텐츠라고 판단해 삭제하지 않는다. 한편, 페이스북은 커뮤니티 안전 및 보안을 위해 3만5000명을 업무에 투입하고 있는데 이는 2017년에 비해 3배 늘어난 수치다. 이중 1만5000명은 커뮤니티에서 신고된 콘텐츠를 리뷰하는 인력으로 365일 상시 모니터링하며, 한국어를 포함해 50개 이상의 언어를 지원하고 있다.