SNS 속 나쁜 게시글, 신고해도 안 지워지는 이유…'좋아요' 누른 플랫폼

소셜네트워크서비스(SNS·Social Network Service)의 영향력이 날로 커지며 문제가 계속 늘고 있지만 플랫폼 기업도, 정부도 마땅한 대책을 내놓지 않은 채 방치하고 있다. 최근 SNS에서 나타나는 문제는 주로 '플랫폼 기업의 이익만을 위한 알고리즘'을 원인으로 지목한다. 대부분 SNS 플랫폼은 서비스를 무료로 제공하는 대신 광고를 통해 수익을 내기 때문에 이용자의 체류시간과 반응이 중요하다. 지난 2021년 페이스북이 이용시간을 크게 확대하기 위해 의도적으로 선정적이며 자극적인 콘텐츠 노출 빈도를 높였단 사실이 밝혀진 후 같은 정황이 타 SNS 플랫폼에서도 계속 발견됐다. 문제 해결을 위해 EU는 알고리즘을 공개하지 않은 빅테크 기업에 대해 EU 내 영업을 금지시키는 DMA법을 곧 시행할 예정이다. 반면 한국은 SNS로 인한 문제의 근본적인 해결책을 찾는 대신 개별 사안에 대해 각기 법률을 제정하는데 급급해 새로운 유형 또는 신기술을 이용한 범죄에 속수무책으로 당하고 있다. 지난 31일(현지시간) 마크 저커버그 메타 CEO가 미국 연방 상원 법사위원회에서 진행한 청문회에서 자사 SNS 페이스북과 인스타그램으로 인해 벌어진 온갖 범죄 및 정신건강 문제에 대해 사과했다. 저커버그 CEO는 SNS를 통로로 일어난 범죄 피해자 유가족들에게 "여러분이 겪은 모든 일들에 대해 사과하고 싶다. 누구도 여러분의 가족들이 겪은 일을 겪어서는 안 된다"고 사과했다. 저커버그가 청문회에 소환돼 직접적인 사과까지 한 데에는 페이스북 등 SNS 플랫폼이 다양한 문제를 의도적으로 방치한다는 혐의 때문이다. 2021년 페이스북 전(前)직원 프랜시스 하우건은 '페이스북 파일즈(Facebook Files)'로 불리는 회사 문건과 회사 내부 전략을 폭로했다. 당시 하우건의 폭로에 따르면 ▲사용자 참여를 극대화하고자 혐오·폭력·가짜뉴스 등 노출빈도를 알고리즘으로 조정함 ▲페이스북(현 메타)는 자체적인 연구와 조사를 통해 인스타그램이 청소년의 정신 건강에 심각한 문제를 일으킬 수 있음을 인지했으나 방치 함 ▲사회분열을 일으키거나 정치적 갈등을 극대화 할 수 있는 콘텐츠를 일부러 방치함으로써 이용자 반응을 끌어냄 등 다양한 비도덕적 행위를 저질렀다. 내부인에 의한 첫 폭로에 전세계적으로 큰 반향이 일어났고 SNS 알고리즘의 문제와 책임론이 대두됐다. 페이스북의 조치는 철저히 수익성에 입각한다. 혐오·선정적·폭력적·편향적인 콘텐츠와 가짜뉴스의 빈도를 증가시키면 수용자의 반응은 적극적으로 변한다. 논란을 일으켜 이름을 알리는 '노이즈 마케팅'과 동일한 효과다. SNS 체류 시간 증가와 반응은 곧 플랫폼 기업의 매출로 나타났다. 페이스북 파일즈 폭로 직전인 2019년 페이스북(현 메타) 매출에서 보유 중인 SNS 전체의 광고 수익은 전체 수익의 98.5%에 달했고 연 매출은 전년 대비 26.6% 증가한 707억달러(약 82조 3800억원·기준환율 1165.09원)를 기록했다. 광고로 벌어들인 금액만 696억달러였다. 페이스북은 2012년 매출 50억달러(약 5조원)을 넘긴 후 매년 최소 20% 이상 매출이 상승했고, 상승세에는 늘어나는 광고와 오염된 콘텐츠가 있었다. 이러한 폭발적인 매출 상승세는 이용자의 증가도 있지만 동시에 유해 콘텐츠의 방치 또한 이루어졌다는 뜻도 된다. 지난해 11월 미국 33개주가 공개한 자료는 페이스북과 인스타그램의 유해 콘텐츠와 노출빈도가 메타가 직접 커뮤니티규정집행보고서(CSER)에서 언급한 바 보다 훨씬 높다. 메타는 자사 플랫폼의 콘텐츠 조회수 1만회당 10~11개(약 0.10~0.11%)만이 혐오성 발언을 포함하고 있다고 보고했다. 그러나 메타 내부 문건에 따르면 인스타그램 사용자의 평균 19.3%, 페이스북 사용자의 17.6%가 플랫폼의 증오심 표현 및 차별을 목격했다. AI 등을 도입함으로써 면밀한 모니터링을 약속했으나 실제로 모니터링은 제대로 이루어지지 않는 셈이다. 기업 이익을 위해 방치 한 유해 콘텐츠는 결과적으로 제2, 제3의 문제를 낳는다. 연세대 사회복지학과 연구팀이 1911명에 달하는 13세에서 18세 청소년을 대상으로 조사한 결과 스마트폰 중독이 심할수록 유해 콘텐츠 노출이 잦아졌고 반대의 경우에서도 마찬가지로 나타났다. 더불어 중독과 유해 콘텐츠 노출이 잦을수록 성폭력 가해행위와 함께 음주 등 탈선도 관찰됐다. 또 다른 연구에서는 부정적 콘텐츠들에서 우울감이 상승하고 긍정적 콘텐츠에서는 행복감이 늘어나는 정비례 상관관계도 관찰됐다. 미국 정부는 이를 바로잡기 위해 2022년 주요 SNS 플랫폼 기업에 제기한 소송을 내기도 했다. 미 정부는 플랫폼 기업들이 소유한 SNS에서 "유해한 콘텐츠를 다크패턴(이용자 모르게 수용하도록 설계한 행위)화 함으로써 사용자가 앱에 소비하는 시간을 최대화하도록 설계된 비즈니스 모델을 채택했다"며 "알고리즘으로 우울증, 불안, 불면증, 교육 및 일상 생활 방해 및 기타 여러 부정적인 결과를 낳았다"고 지적했다. 한국도 글로벌 SNS가 가진 문제에서 자유롭지 않다. 그러나 한국은 문제가 나타나서야 개별적 대응을 이어가고 있다. 지난 2021년 3월 SNS를 통한 성착취 범죄인 'N번방 사건'이 발생하자 그제서야 부랴부랴 'N번방 3법'으로 불리는 전기통신사업법과 정보통신망법, 방송통신발전기본법 등 3개 법률 개정안을 통과시켰다. 플랫폼사가 적극적으로 불법 영상 등을 단속, 접속을 차단 시키는 것을 골자로 하는 개정안들이었다. SNS를 통한 식품 및 화장품, 약품 허위·과대 광고에 대해서는 식품의약품안전처가 기존 표시광고법에 의거해 적발, 처리하고 있다. 지난해 단속에서는 SNS 식품 및 화장품 광고 383개 중 232건이 부당광고였다. 전문가들은 각 개별 사안에 대응하는 법률이 제·개정하는 것만으로는 첨단 ICT 기술 발전 속도는 물론 해외 플랫폼에서 일어나는 사건의 최소한의 대책도 마련할 수 없다고 말한다. 알고리즘 개선이 요원하다면 적어도 해외 플랫폼이 국내 범죄 수사에 협조할 수 있도록 하고 감시체계를 강화해야 한다고 말한다. 실제로 기술 발전 후 신종 범죄가 새로운 형태로 나타났다. 최근 10대 사이에서 SNS화 한 제페토 등 메타버스 환경에서 아동 그루밍 범죄 등이 일어나 문제되고 있다. 그러나 과거 메타버스 열풍이 불었음에도 아바타의 지위에 대한 개념을 정립하지 못한 탓에 성희롱 등을 처벌하지 못하고 있다. 유튜브 등을 통해 무작위로 퍼지는 정치인과 연예인들에 대한 가짜뉴스도 심각한 문제다. 스타쉽 엔터테인먼트는 소속 걸그룹 아이브 멤버 장원영을 대상으로 몇 년간 유튜브와 트위터 등에 가짜뉴스를 유포한 박모씨(유튜브 채널명·탈덕수용소)를 처벌하기 위해 민형사 소송은 물론 해외소송까지 벌였다. 미국 구글 본사 등 해외 플랫폼 기업이 국내 수사에 협조할 의무가 없기 때문에 벌어진 일이었다. 해결책으로는 플랫폼의 책임 강화를 위한 기업 규제가 제시된다. 법적 의무를 가지지 않은 플랫폼 기업으로써는 SNS를 통해 발생하는 다양한 문제에 대해 책임을 회피할 수 있다는 주장이다. EU와 같이 국내 사업을 위해 알고리즘까지 들여다봐야 한다는 주장도 나온다. 디지털 범죄에 대해 장기간 대응해온 정희진 탁틴내일 팀장은 "민관 협력을 통해 범죄 발견 및 대응 역량을 강화할 필요가 있다"며 "기업 책무 강화 차원에서 자율규제 현황을 점검해야 하는 시점"이라고 말했다. 다만 지난해 국회에 출석해 플랫폼 규제에 대해 의견을 전달한 영국 오프콤(커뮤니케이션청·Office of Communications)의 샤론 화이트 최고 책임자는 "플랫폼이 강력한 책임감을 가져야 하는 것은 당연하지만 이 사안을 단순히 규제를 하느냐 아니냐의 문제로 볼 수는 없다"며 "플랫폼에 주는 패널티는 '매우 복잡한 이슈'로 논의는 검열과 관련한 모호한 경계에까지 이른다"고 밝혔다. /김서현기자 seoh@metroseoul.co.kr