한국인공지능윤리협회(KAIEA)는 인공지능(AI) 알고리즘의 편향성을 검증하는 중립적 기구 도입을 촉구하는 성명서를 14일 발표했다.

협회 관계자는 "최근 국회에서 주요 정당 대표 연설 기사의 포털서비스 노출 관련해 뉴스 편집 AI 알고리즘의 중립성과 편향성에 대한 논란이 있었다"며 "이 문제는 국내외 인터넷과 모바일 기업에서 무분별하게 도입하고 있는 AI 자동화 알고리즘에 대한 근본적인 문제로, AI 알고리즘을 과도하게 신뢰하며 모든 역할과 책임을 AI에게 돌리는 것에도 문제가 있다"고 지적했다.

협회는 성명서를 통해 "AI 알고리즘은 현재 기술 단계에서는 중립적일 수가 없는 데, 현 기술 수준에서 AI 알고리즘은 편향된 데이터를 토대로 학습해 구현될 가능성이 높아 AI 알고리즘 자체도 편향될 수 밖에 없다"며 "AI 알고리즘을 설계하는 것은 결국 인간이기 때문에 인간의 편향된 생각이 AI 알고리즘에 그대로 반영될 수 있다"고 주장했다.

이어 "이러한 상황에서 AI 자동화 알고리즘에 얼마든지 윤리적 문제가 제기될 수 있음에도 불구하고, 아무런 검증 없이 과도하게 신뢰하거나 무분별하게 활용하는 것은 문제가 된다"며 "결국 AI 알고리즘을 사전과 사후에 검증하는 체계적인 시스템이 필요한 데, AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템을 도입하고, AI 알고리즘의 편향성을 검증하고 올바르게 가이드할 수 있는 중립적 기구 설치가 반드시 필요하다"고 강조했다. 이를 위해 정부와 각 기업들의 협력이 필요하다고 덧붙였다.

또 AI 기술은 아직 발전 중에 있는 기술로서 현재 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 매우 부족한 데, 정부, 기업, 학계, 연구계, 유관단체 등 모든 관련 주체들이 이러한 AI 윤리 가이드라인을 만들고 적용하는데 적극 협력할 것을 촉구했다. 자세한 내용은 협회 공식 페이스북에서 전문을 확인할 수 있다.

한국인공지능윤리협회 전창배 이사장은 "AI 알고리즘의 중립성은 정부가 판단하면 규제가 될수 있고, 기업이 스스로를 판단하면 그 자체로 중립적일 수 없다는 문제가 생긴다" 며, "AI 알고리즘의 편향성의 검증과 판단은 모든 관련 주체가 논의하되, 비영리 단체와 같은 중립적인 기구가 맡는 것이 적합하다" 는 의견을 제시했다.

[한국인공지능윤리협회 성명서 전문]

“AI 자동화 알고리즘의 편항성을 우려하며 검증 시스템 및 검증 중립기구의 도입을 촉구한다”

최근 국회에서 주요 정당 대표 연설 기사의 포털서비스 메인 노출 관련하여 뉴스 편집 AI 알고리즘의 중립성과 편향성에 대한 논란이 있었다.

관련하여 한국인공지능윤리협회는 인공지능의 윤리 문제 중 AI의 편향성 문제를 지속적으로 제기해 왔으며, 이번 논란을 계기로 다시 한번 AI알고리즘의 편향성에 관한 의견을 아래와 같이 밝히고자 한다.

하나, AI 알고리즘은 현재 기술 단계에서는 중립적일 수가 없다. 현재 기술 수준에서 AI 알고리즘은 편향된 데이터를 토대로 구현될 가능성이 높으며 따라서 AI 알고리즘 자체도 편향될 수 있다. 또한 AI 알고리즘을 설계하는 것은 인간이기 때문에 인간의 편향된 생각이 AI 알고리즘에 반영될 수 있다.

하나, 이렇게 중립적일 수 없는 AI 알고리즘을 검증 과정이나 절차적 가이드라인 없이 무분별하게 활용하고 있는 인터넷 및 모바일 서비스 업체에 우려를 표한다.

하나, 따라서 AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템과 검증하고 가이드 할 수 있는 중립적 기구가 절실히 필요하며, 정부와 각 기업은 이러한 기구의 설립과 적용에 적극 협력해야만 한다.    

하나, AI 기술은 아직 발전 중에 있는 기술로서 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 부족하다. 정부, 기업, 학계, 연구계, 유관단체 등 모든 관련 주체들은 이러한 AI 윤리 가이드라인을 만들고 적용하는데 적극 협력해야만 한다.

AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때의 위험성과 역작용이 클 수 있으므로 본 협회를 비롯하여 모든 관련 주체들이 이와 같은 문제를 지속 제기하고 논의하고 합의하는 과정에 적극 함께해주기를 요청하는 바이다.