"인공지능(AI)이 흑인, 여성을 차별하고, 경비로봇이 오류로 1살 아이를 공격해 다치게 한 사건이 있었습니다. 이보다 더 심각한 것은 미국, 러시아 등이 킬러로봇인 군사용 자율로봇을 개발한다는 점입니다. AI 윤리는 안전과 직결돼 엄청난 파급력을 가지기 때문에 기술 발전 초기부터 이 문제를 꼭 고민해야 합니다."

전창배 한국인공지능윤리협회(KAIEA) 이사장은 메트로신문과 만난 자리에서 "2016년 '알파고 대국'이 전 세계에 충격을 안긴 이후 AI 기술이 급격히 발전하면서 그 이면으로 AI의 부작용을 우려하는 목소리가 커졌다"고 지적했다. 그는 "AI는 우리 후손들에게도 큰 영향을 미치기 때문에 AI 윤리 문제를 해결해나가야 한다"고 강조했다.

전 이사장은 서울대학교 윤리교육과를 졸업하고, 인터파크·야후코리아·TU미디어 등 IT 기업에서 근무해오다 지난해 6월 블록체인 기업 아이오냅을 설립해 대표이사를 맡고 있다. 3년 전 이슈로 떠오른 AI 윤리 문제를 접하고 큰 관심을 가져왔다.

"전 세계 학계에서는 이미 'AI Ethics(윤리)' 라는 키워드로 다양한 연구가 이뤄지고 있지만, 국내에서는 어느 주체도 주도적으로 이 문제를 공론화하려고 하지 않았습니다. AI 윤리는 너무 중요한 문제이기 때문에 이를 해결해나가자는 목적으로 이청호 협회장(세종대학교 교수) 등과 함께 지난 3월 협회를 설립했습니다."

AI의 이면에 대해 고(故) 스티븐호킹 박사는 "AI 기술이 인류 문명사에서 최악의 사건이 될 수 있다"는 경고를 내놓았고, 엘론 머스크 테슬라 최고경영자(CEO)도 "AI가 5년이나 10년 후 중대한 위험이 될 것"이라는 우려를 제기했다.



"미국에서 재판 지원 AI가 흑인이 백인보다 2배 이상 위험하다고 판단한 예측 편향성 문제를 보여줬고, 아마존 AI 채용 프로그램은 여성보다 남성 지원자들에게 높은 점수를 줘 폐기하기도 했습니다. 아마존 물류센터에서 로봇 오류가 발생해 직원들이 유독물질에 중독돼 24명이 입원한 사건도 있었습니다."

그는 가장 중요한 AI의 문제로 킬러로봇이 인간의 생명권을 경시할 수 있다는 점을 들었다. "지뢰제거 로봇이나 인명구조 로봇 등 사람을 살리는 로봇은 적극 개발해야 하지만, 인명살상을 목적으로 하는 자율살상무기는 금지해야 합니다. 최근 미국 전투용 드론이 민간인과 전투원을 제대로 구별하지 못해 아프간 민간인 30명을 살상한 사건이 있었습니다. 킬러로봇도 오류 발생 시 인간을 공격 대상으로 취급해 대량 학살이 일어날 수도 있습니다. 인간의 생명을 빼앗는 결정은 절대로 기계에 위임해서는 안 됩니다."

AI 역작용에 대한 우려로 2017년 AI 비영리단체인 퓨처오브라이프가 '아실로마 AI 원칙'을 발표하고 많은 전문가들이 지지선언을 했으며, 최근 유럽연합(EU)·독일·일본·중국 등에서도 AI 윤리 지침들을 발표했다.

"저희 협회는 지난 10월 23일 '인공지능 윤리헌장'을 발표했습니다. 협회에서 전 세계 AI 관련 지침들을 묶어 표준화 작업을 진행했는데 이에 역점을 두고 만들어진 것입니다. AI 개발자들이 저희 지침만 보더라도 AI를 어떻게 개발하고 사용해야 할지 실질적인 도움을 주는 것이 목표입니다."

그는 기존에 나왔던 AI 윤리지침들이 너무 선언적이고 추상적이어서 이해하기 어렵고, 조항이 짧아 실제 산업 현장에 활용할 수 없다는 문제가 있었는데, 협회가 발표한 AI 윤리헌장은 매우 구체적이고 세부적인 조항들로 구성됐다고 설명했다. 5개장 37개조로 구성돼 항목이 가장 많고 누구나 쉽게 이해할 수 있는 문구로 기술돼 바로 적용할 수 있다는 것.

"AI 윤리 지침 중 처음으로 '인간과 인공지능과의 관계'를 규정했습니다. 1장에 '인공지능은 인간을 편리하고 행복하게 하기 위한 도구이다', '인공지능은 인간에게 절대 해를 끼쳐서는 안 된다', '인공지능의 어떤 의사결정도 인간에 의해 수정될 수 있다' 등입니다." 그는 AI의 선한 본성 추구(5조), AI가 인간과 동등한 의사 결정 권한을 가질 수 없다는 점(6조), 전쟁 목적의 AI 개발 금지(8조), 비상용 킬스위치 필수 내장(16조), 소비자 정보보호 및 고지 의무(30조) 등은 전 세계 최초의 규정이라고 강조했다.

하지만 기업들 사이에서 'AI 산업이 국내에서 무르익기도 전에 AI 윤리를 먼저 내놓는 것은 오히려 산업 성장을 가로막는 게 아니냐'는 우려도 제기된다.

"AI 윤리로 규제를 하자는 얘기가 아닙니다. 국내 AI 기술이 미국·중국에 비해 많이 뒤져 있기 때문에 강제 규제가 아닌 기업 자율규제로 가야 합니다. 소비자 보호 차원에서 법제화가 필요하다면 최소화해야 합니다. 저희 협회는 기업들이 안전과 위험 문제에서 벗어나 기술에만 집중할 수 있도록 지원에 초점을 맞추고 있습니다."

협회가 AI 윤리, 안전에 대한 이슈가 발생했을 때 정부와 중재해주는 역할을 맡겠다는 것이다.



"앞으로 AI 윤리를 많이 알리고 전파하려 합니다. AI 기술이 초기 약인공지능 단계로 강인공지능으로 가기 위해 20~30년의 시간이 필요한 것처럼 AI 윤리도 초창기로 인식 공유가 출발점입니다. 저희 협회는 교육 사업에 주력할 계획입니다. 협회에 현직 교사들이 많이 참여한 만큼, 미래 AI 개발자가 될 초·중·고 학생들부터 AI·기술 윤리 교육을 받을 수 있도록 환경을 조성할 계획입니다."

그는 교과과정 내 AI 윤리가 포함될 수 있도록 커리큘럼과 학교 특강 프로그램을 마련하고, 협회 하부 기관으로 AI윤리 교육 전문 기관도 설립할 계획이다.



전창배 이사장은 "협회에 구성된 '인공지능윤리위원회'에서 AI 제품과 서비스에 대해 인증기준에 의거해 안전하고 윤리적인 제품인지 인증해주는 인증 사업을 내년부터 본격화할 것"이라고 밝혔다.

"미국 뿐 아니라 국내에서도 선거철이 다가오면서 딥페이크 문제가 큰 이슈입니다. 기술이 악용되는 대표적인 AI 윤리 문제로 볼 수 있는 데, 간단한 코딩 지식만으로 만들 수 있어 성인동영상에 연예인 얼굴을 합성하거나, 가짜뉴스 양산 등 문제가 심각합니다. 딥페이크 보이스피싱이 성행한다면 가족에게 긴급한 상황이 발생했을 때 의심부터 하게 됩니다. AI 사용자들이 윤리 의식을 가지고 자발적으로 이 같은 행위를 하지 않는 것이 중요하며, 바로 AI 윤리의 목표입니다."