과학기술정보방송통신위원회가 27일 개최한 포털 알고리즘 관련 공청회에서 과방위 위원과 발표자들은 포털이 뉴스 편집 등에 사용하는 인공지능(AI) 알고리즘이 편향성을 가질 수 있다는 데 의견을 같이 했다. 다만, 포털 알고리즘의 공정성·중립성 확보를 위해 정부와 정치권이 개입해야 할 지에 대한 찬반 논란이 있었고, 정부가 아닌 민간 차원에서 개선안을 만드는 게 바람직하다는 의견도 제기됐다.

네이버·카카오 관계자들은 이날 과방위 공청회에 참석, 네이버는 지난 2018년 구성한 '뉴스 알고리즘 검토 위원회'를 통해 "여야가 추천한 전문가 검토를 받아 이 문제를 개선할 것"이라는 입장을 밝혔고, 카카오는 "알고리즘은 '사람이 개입할 수 없는 구조'"라는 입장을 다시 한번 강조하고, 사회적 합의가 이뤄지면 이에 따르겠다고 말했다.

이날 서울 여의도 국회에서 개최된 공청회에서 김진욱 법무법인 주원 변호사는 "네이버 등이 2019년 뉴스 알고리즘 발표에서 포털의 뉴스 편집 기술만을 공개했을 뿐 세부 로직, 가중치 항목, 수집 종류 등을 공개하지 않아 초기값 설정 등 정보는 깜깜한 수준"이라며 "사업자가 자체 설계한 AI 설계값으로 뉴스 배열이 달라져 기사가 편향성을 가지고, 상품 검색에도 수익 창출 목적이 반영될 수 밖에 없다"는 문제를 제기했다. 그는 또 구축 운영 단계마다 운영자·개발자의 우선 가치가 반영돼, 선거 등에서 포털이 의도하는 방향 대로 뉴스를 구성할 수 있으며, 상품 검색 가중치가 달려져 국민 의사결정에 잘못된 영향을 미친다고 강조했다.

최경진 가천대 법학과 교수는 "알고리즘이 고도화되면서 법적 규제가 필요하며, 노출 기준을 공개해야 해야 한다는 목소리가 높아지고 있는데, 알고리즘 기반으로 개인화된 광고가 진행될 때, 고의적인 데이터 왜곡과 편향된 데이터를 학습해 문제가 생길 수 있으며, 개인별 가격 차별까지도 이뤄질 수 있는 상황"이라고 말했다. 그는 "독일에서 미디어 중계 플랫폼 사업자에 대한 규제가 이뤄지고 있으며, 미국에서도 알고리즘 책임 법안이 도입되고 있다"며 "설계 과정 자율성 보장한다하더라도 알고리즘은 사회의 구성요소로 법적인 제재나 사후적 규제가 꼭 필요하다"고 주장했다.

주제 발표 후 질의응답에서는 포털 알고리즘에 대한 규제를 정부와 국회 등이 주도해야 할지, 민간 자율로 해야 할 지에 대한 의견이 나눠졌다.

변재일 더불어민주당 의원은 "알고리즘 뿐 아니라 데이터에도 편향성이 없는 지 증명해, 국민들이 불안해하지 않고 공정한 정보를 얻고 상품을 구매할 수 있도록 하는 것은 정부와 국회의 마땅한 역할"이라며 "과기정통부, 방통위의 가이드라인은 구속력이 없는 만큼, 법을 제정해 구속력 있는 가이드라인이 마련돼야 한다는 데 정치권의 견해"라고 밝혔다.

이에 대해 이수영 카이스트 명예교수는 "알고리즘은 당연히 공개되어야 하지만 위원회, 사업자, 소비자, 정보기관이 협력해 규정을 정해야 하고, 이후 변화의 결과를 가지고 기준을 바꿀 필요가 있다"는 신중론을 제기했다. 또 김동원 언론노조정책실장실장은 "성급한 법제화보다는 포털 사업자가 자율적으로 윤리적 가이드라인을 정하는 것이 좋다"는 의견을 내놓았다,

포털의 알고리즘 공개는 어느 범위까지 이뤄져야 하는 지에 대해 논쟁도 벌어졌다.

최근 알고리즘 소스코드까지 공개해야 한다는 의견이 제기되는 데 대해, 이수영 교수는 "개발자 입장에서는 소스코드까지는 심각한 위협이 아니면 안 하는 게 맞다"며 "코드보다 어떤 데이터를 무엇을 위해 최적화시켰나, 목적이 어떤 건지 구체화하는 것이 중요하다"고 밝혔다.

최재호 네이버 이사는 "알고리즘의 소스코드는 우리의 자산이어서 검토 위원회의 위원들에게만 공개하고, 대중에 공개하기에는 우려되는 부분이 많다"며 "업계 자율에 맞춰 투명성을 제고하고 외부 위원들에게 얼마나 합리적인 지 검증받는 방안이 바람직하다"는 의견을 제기했다.

AI가 '블랙박스'라는 특성 상 하나하나의 결과물에 대해 이유를 설명하는 것이 불가능하며, 설명 가능한 수준으로 AI를 개발하면 성능이 낮아지는 한계가 있는데, '설명 가능성'을 담보해야 할 지에 대해 의견이 분분했다.

윤영찬 더불어민주당 의원은 "'알고리즘을 완벽히 검증할 수 있는가'가 가장 답답하다"며 "AI 개발자들에게 물어보면 왜 이러한 결과가 나왔는지 모르는 경우가 많고, 포괄적 가중치까지 공개가 가능한가 등 문제가 생기며, 사람이 이해하는 수준까지 푸는 것은 사실상 불가능하다"는 견해를 밝혔다.

이수영 교수는 "딥러닝 알고리즘은 직관에 의해 답을 내기 때문에 성능이 높지만, 설명이 가능한 알고리즘을 개발하면 왜 이 제품을 사야 하는 지 이유는 나오지만 성능이 떨어진다"고 말했다.

최재호 네이버 이사는 "설명가능성 연구는 현재 실험적인 단계로 진행되고 있는데, 현재의 AI는 왜 추천했는지 리버스 엔지니어링으로 설명이 사실상 불가능하다"며 "성능이 감소하더라도 이 기사를 왜 추천했는지 설명해야 한다면, 이러한 방식도 넣을 수 있도록 하겠다"고 말했다.

또 포털에서 여야 합의를 통해 '알고리즘 검토 위원회'를 구성해 알고리즘을 검증하려는 시도가 이뤄지고 있는 데, 1~2년 간 실증테스트를 거쳐 그 과정과 결과를 개선방안에 반영하는 것이 바람직하다는 의견도 제기됐다.