'이루다 사태'로 AI 윤리교육의 중요성이 부각된 가운데, 지난해 하반기부터 올해까지 속속 출시되고 있는 인공지능(AI) 교과서에 AI 윤리교육 내용이 별도의 단원으로 필수적으로 소개되는 추세다.

다만, 전체 AI 교과서 중 AI 단원이 7 페이지 등 분량에 그치고 소수의 AI 윤리 사례를 소개하는 수준이어서, 더 심층적인 논의를 담을 수 있는 AI 윤리 전문 교과서가 필요하다는 주장이 제기되고 있다.

AI 교과서 중 가장 상세한 AI 윤리 내용을 담은 교과서는 부산시교육청이 AI 교육을 위해 지난해 11월 발행한 교과서인 '콕찍AI'이다.

'콕찍 AI'에는 12페이지 분량으로 '인공지능 기반 사회와 인공지능 윤리' 챕터를 포함하고 있다. '인공지능 기반 사회의 모습' 섹션에서는 AI 기반 사회의 정의와 AI 기반 사회의 모습을 ▲개인생활 ▲가정생활 ▲교통 ▲교육 ▲법률 ▲의료 등으로 나눠 소개하고 있다. '본격적인 인공지능과 관련된 윤리적 문제들' 섹션에서는 자율주행차, 나쁜 AI의 대표인 딥페이크, 인공지능 기반 CCTV '텐왕'의 사례를 담고 있다.

자율주행차 세션에서는 운행 중 사고가 난다면 사고의 책임이 운전석에 앉아만 있던 탑승자와 자율주행 자동차 제조사 중 누구에게 있을 것인지 하는 논의를 담는다. 또 AI 기술로 실존 인물의 얼굴을 합성한 영상편집물인 '딥페이크'로 정치인, 아나운서를 흉내 낸 가짜 뉴스가 유포되기도 하며, 딥페이크 포르노가 만들어져 유포된다는 문제점도 다뤘다. '텐왕'은 중국에서 2015년 시작된 실시간 영상감시 시스템으로, 중국이 보유한 국민의 생체정보와 연동해 사람들의 활동을 실시간 추적해 윤리 문제가 제기되고 있다.

또 정보문화포럼이 과학기술정보통신부 등과 공동으로 내놓은 '지능정보화사회 윤리가이드라인', 한국인공지능윤리협회에서 공포한 '인공지능윤리헌장'을 소개하고 해외 사례로 2017년 미국 아실로마에서 개최된 AI 콘퍼런스에서 채택된 '아실로마 인공지능 원칙',교황청이 내놓은 AI 시스템이 준수해야 할 규정을 담은 'AI 윤리를 위한 로마 콜' 등을 소개하고 있다. 다만, 방송통신위원회에서 2019년 말 내놓은 '이용자 중심의 지능정보사회를 실현하기 위한 원칙'이나 과기정통부가 지난해 말 발표한 '사람이 중심이 되는 인공지능(AI) 윤리기준'은 다뤄지지 않았다.

'인공지능 윤리교육 체험 플랫폼' 섹션에서는 MIT 미디어랩에서 무인 자동차와 같은 인공지능의 윤리적 결정에 대한 사회적 인식을 수집하기 위해 만든 플랫폼인 '모랄 머신'을 통해 13가지 선택 장면을 제시해 윤리적 장면을 스스로 만드는 사례를 소개하고 있다.

서울시교육청은 지난해 8월 AI 윤리 내용을 포함한 '인공지능과 미래사회' 교과서 개발을 완료하고, 올해 고등학교에서 AI 교육을 위한 선택수업용 교재로 활용할 계획이다.

서울시교육청 관계자는 "AI가 개발된다면 어떤 윤리적인 부분이 담겨 개발되어야 할지 시사점을 생각하는 부분을 중점적으로 담았다"며 "7페이지 정도로 소단원에 '인공지능 윤리'를 포함했다"고 설명했다.

이 단원에는 자율주행차가 사고를 피할 수 없는 상황에서 다수를 위해 소수를 희생할지와 관련된 '트롤리 딜레마' 등 자율차 윤리 문제와 미래 도시 교통시스템이 어떤 윤리적 지침을 갖춰 개발돼야 할지 등을 담았다. 또 일자리에 있어 AI가 사람의 일자리를 대체할 가능성, 개인정보 유출 문제 등에 대해 구체적 해결방안을 담는 대신 학생들이 자신의 의견을 말해 토론식으로 수업할 수 있게 했다.

또 교육부 관계자는 "제주교육청 등이 개발 중인 '인공지능 기초' 교과서를 올해 상반기 중 심의를 완료해 2학기부터 고등학교 선택교과로 운영할 계획"이라며 "'인공지능 영향력' 섹터를 통해 인공지능 윤리를 소개하는 내용이 포함될 것"이라고 설명했다.

'인공지능 기초' 교과서에서는 인공지능이 개인의 삶과 사회에 긍정적, 부정적 영향을 미치며 데이터 편향성을 가진다는 점을 소개한다. 또 AI 윤리를 '사회의 구성원이 인공지능을 올바르게 활용하기 위해 갖춰야 할 가치관과 행동 양식'으로 정의하고, 윤리적 딜레마를 갖는다는 점과 사회적 책임, 공정성이 필요하다는 내용을 중심으로, 상세 내용을 개발 중이다.

하지만 AI 교과서의 AI 윤리교육이 부수적으로 다뤄지고 분량도 작아, AI 시대를 책임질 학생들을 위한 교육자료로는 턱없이 부족하다는 지적도 나오고 있다. 실제로 일어나고 있는 AI 윤리 사례와 해법을 심층적으로 담아야 한다는 지적이다.

전창배 한국인공지능윤리협회 이사장은 "초·중·고용으로 각각 다른 내용을 담은 AI 윤리 전문 교과서가 필요하며, 당장 AI 윤리 교과서 개발이 어렵다면 AI 교과서에 AI윤리 파트를 충실하게 기술해 AI 윤리를 명확하게 알게 할 필요가 있다"며 "AI 윤리의 개념과 사례는 공통으로 들어가되, 학제가 높아질수록 AI의 편향성, AI의 오류와 안전, AI의 악용, 개인정보보호, 킬러로봇 등 심화된 내용들이 들어가야 한다"고 지적했다. 그는 또 "교육방식도 단순 내용 전달에 그쳐서는 안되고, 사례 중심으로 학생들 스스로 왜 AI 윤리를 지켜야 하는지, AI가 인간에게 미치는 영향이 무엇인지 해결방안을 찾아보는 탐구식, 발표식, 토론식 수업이 바람직하다"고 덧붙였다.