인공지능(AI) 챗봇 '이루다'의 개발사인 AI 스타트업 스캐터랩이 이루다 학습에 사용된 딥러닝 대화 모델과 데이터베이스(DB)를 폐기하기로 해, 논란의 중심이었던 이루다는 사실상 사라지게 된다. 하지만 성희롱, 혐오, 개인정보 유출 등 이루다 논란으로 법적 규제를 강화해야 한다는 주장이 제기되고 있는 데, AI 업계에서는 규제보다 자율적인 AI 윤리 규제로 이 문제를 해결해야 AI 시장을 살릴 수 있다고 목소리를 높이고 있다.

또 방통위는 물론 관련 협회에서 AI 개발자들과 AI 이용자들의 AI 윤리 인식 확산을 위한 AI 윤리 교육을 본격화할 계획이다.

다만, 정부는 물론 협회 등에서 AI 윤리 규정이 속속 등장하고 있지만, 아직까지 AI 윤리는 추상적인 규정만을 담은 원론 수준에 그치고 있으며, AI 윤리 발표 후 1년이 지나도록 구체적인 지침을 담은 AI 윤리의 후속조치는 나오지 않는다는 점도 문제로 지적된다.

◆이루다 논란으로 규제 강화 안 돼...AI 윤리로 자율적 규제해야 

이번 이루다 논란으로 그동안 데이터 3법 개정을 반대해왔던 시민단체들은 'AI 윤리를 통해 선의에 기대는 대신 AI 기술 통제를 위한 법 규범이 필요하다'며 법적 규제를 강조하고 있다.

민주사회를 위한 변호사모임 디지털정보위원회, (사)정보인권연구소, 진보네트워크센터, 참여연대는 13일 공동성명을 통해 "시민사회는 데이터 3법으로 기업들이 개인정보를 가명처리한 후 정보주체 동의 없이 AI 상품 개발에 무한대로 이용할 수 있도록 허용한 데 대해 비판해왔다"며 "이번 사태로 정보주체 권리를 보장하기 위해 현 가명정보에 면제한 열람권, 삭제권을 보장하는 방향으로 법 개정이 있어야 한다"고 주장했다.

AI 업계에서는 개인정보보호와 관련해 가장 강력한 규제로 손꼽히는 유럽연합의 일반개인정보보호규정(GDPR) 수준까지 규제가 높아지지 않을까 우려가 크다.

AI 업계의 한 대표는 "데이터 3법이 판단이 분명치 않은 부분이 많은데, 이번 이루다 이슈로 과다하게 해석하다 보면 규제가 강화돼 아직 제대로 성숙하지도 않은 AI 시장이 크게 위축될 우려가 있다"며 "전 세계적으로 AI 윤리 가이드라인을 만들어지고 있고, 우리 정부에서도 AI 윤리를 내놓은 만큼 이를 현장에 적용해 기업의 자율적인 문제 예방이 필요하다"고 강조했다.

◆'이루다'로 AI 윤리 교육 강화...AI 교과서에도 AI 윤리 다뤄질 것

이번 '이루다' 이슈는 물론 AI 기술을 이용해 유명인의 얼굴을 영상·사진에 합성하는 '딥페이크'에 대한 강력 처벌을 요구하는 국민청원이 최근 올라와 논란이 되고 있으며, 유명 연예인의 목소리를 AI 기술로 음란물 등에 합성하는 '딥보이스' 문제까지 제기되면서 AI 윤리의 중요성은 더욱 커지고 있다.

이에 따라 방송통신위원회 등 정부는 물론 관련 협회에서도 AI 교육을 강화할 계획이다.

또 정부에서 만들고 있는 AI 초·중·고 교과서에도 AI 윤리가 중요하게 다뤄질 예정이며, 부산시교육청에서 사용하는 AI 리터러시에도 AI 윤리 파트 교재를 별도로 만들어 사용하는 등 AI 교과서를 통한 AI 교육도 강화되고 있다.

AI 윤리 전문 민간 협회인 한국인공지능윤리협회 전창배 이사장은 "이번 '이루다' 사태로 AI 윤리 교육을 더욱 강화할 계획이어서 우선 협회와 교류 협약을 맺은 대학교와 연계해 학생, 일반 시민 대상 교육을 강화할 계획"이라며 "이미 호원대학교와 위탁교육 사업을 공동 진행키로 했으며, 중앙대학교, 동서대학교 등과 학생, 시민을 대상으로 AI 기술과 인공지능 윤리 교육을 동시에 시행해 기술과 윤리의식 모두를 갖춘 AI전문가를 양성할 계획"이라고 밝혔다. 이어 "기업과 개발자를 대상으로 한 AI 윤리 교육도 적극 시행할 예정"이라며 "현재 기업과 개발자를 위한 AI 윤리 교육 커리큘럼을 개발 중이며, 기업에 찾아가는 교육을 통해 많은 기업과 개발자들이 AI 윤리 교육을 쉽게 받을 수 있도록 진행할 것"이라고 덧붙였다.

방통위는 올해부터 AI 이용자 교육에 나서 AI 서비스에 활용된 알고리즘 편향성과 문제를 최소화해 서비스를 이용할 수 있는 방안 등을 교육할 계획이다.

방통위는 또 내년에는 신규로 예산을 편성해 AI 윤리교육을 사업자까지 확대하고, AI 스타트업 등을 상대로 서비스 설계시 AI 역기능 등을 막을 수 있는 위험관리 컨설팅 지원도 추진하기로 했다.

또 학교는 물론 교사, 공무원 등에서도 자발적으로 AI 교육에 대한 요구가 들어오고 있어, 한국인공지능윤리협회는 지금까지 초·중·고, 대학교, 대학원, 교수, 교사, 공무원, 일반시민 등을 대상으로 AI 윤리교육을 진행해왔다.

◆AI 윤리 속속 발표되고 있지만, 구체적 규정 담은 후속조치 마련은 '전무'

AI 윤리는 국내에서 과기정통부 산하 한국정보화진흥원(NIA)이 2018년 최초로 '지능정보사회 윤리 가이드라인'을 발표하기는 했지만 큰 주목을 받지 못했다.

이후 한국인공지능윤리협회가 2019년 10월 '인공지능 윤리헌장'을 내놓았으며, 방통위가 같은 해 11월 AI 윤리인 '이용자 중심의 지능정보사회를 위한 원칙'을 발표했다. 1년 뒤인 지난해 12월 과기정통부도 '국가 인공지능 윤리기준'을 내놓았다. 또 최근 AI 거버넌스포럼은 AI 윤리를 포괄하는 '인공지능 거버넌스와 정책 보고서' 초안을 공개해 관심을 모았다.

하지만 방통위와 윤리협회가 AI 윤리를 발표한 지 1년이 넘었지만, 추후 발표하겠다는 후속지침은 아직도 나오지 않고 있다.

방통위의 AI 윤리는 기본 원칙 7문장으로만 구성돼 AI 기업이 현장에 적용하기 모호한 측면이 많다. 과기정통부의 윤리도 3대 기본원칙과 10대 핵심요건 만을 담고 있어 상세한 규정 마련이 절실하다. 윤리협회는 5개장과 이를 구체화하는 37개조를 담은 후 2번의 개정을 통해 40조항으로 구성해 가장 많은 항목을 포함한다.

방통위는 지난해 후속조치로 해외 모범 사례를 담은 '사례집'을 내놓는다고 했지만, 아직까지도 발간되지 않았다. 방통위는 또 이번 이루다 이슈 이후 민간에서 현재 실천하고 있는 모범사례를 적극 발굴해 실행지침을 마련하겠다고 밝혔으며, 윤리협회도 윤리 헌장을 지속적으로 추가할 계획이다.