메트로人 머니 산업 IT·과학 정치&정책 생활경제 사회 에듀&JOB 기획연재 오피니언 라이프 CEO와칭 플러스
글로벌 메트로신문
로그인
회원가입

    머니

  • 증권
  • 은행
  • 보험
  • 카드
  • 부동산
  • 경제일반

    산업

  • 재계
  • 자동차
  • 전기전자
  • 물류항공
  • 산업일반

    IT·과학

  • 인터넷
  • 게임
  • 방송통신
  • IT·과학일반

    사회

  • 지방행정
  • 국제
  • 사회일반

    플러스

  • 한줄뉴스
  • 포토
  • 영상
  • 운세/사주
IT/과학>IT/인터넷
기사사진
'누가 AI에 백인남성을 심었나' … IT 업계 편향성 해결 노력 총력

지브리풍 이미지 생성으로 화제를 모은 챗GPT 등 생성형 AI는 성별이나 인종 정보를 명시하지 않아도 대부분 '백인 남성'을 주인공으로 설정한다. 이는 반복 실험에서도 동일한 결과를 보인다. AI 모델들이 훈련 데이터에 내재된 사회적 편견을 학습해 성별, 인종, 나이 등에 따른 차별을 재생산하는 구조 때문이다. 21일 <메트로경제> 취재 결과 AI 모델의 차별, 혐오표현, 편향성 등이 여전히 문제시 되는 가운데 이를 해결하기 위한 다양한 방책이 쏟아지고 있다. AI 모델의 편향성은 훈련 데이터에 내재된 사회적 편견을 그대로 학습해 성별, 인종, 나이 등에 따른 차별을 학습, 재생산하는 현상을 뜻한다. 데이터의 불균형과 알고리즘 설계자의 무의식적 편향이 주요 원인으로 꼽힌다. AI 모델의 편향성은 생성형 AI 대중화 이전부터 문제로 지적돼 왔다. 중국 난징항공우주대 천지성 연구원은 AI 채용 시스템이 효율성을 높이면서도 비백인 남성에 불리한 차별적 결과를 낳았다고 밝혔다. 그는 "AI의 편향은 데이터셋과 알고리즘 설계자의 편견에서 비롯되며, 기존 사회적 불평등을 강화할 수 있다"고 경고했다. 헬스케어 분야에서도 단일 인종·성별 중심의 학습은 특정 집단에 대한 과잉 해석 등 왜곡을 유발할 수 있다는 우려가 제기된다. 편향으로 인한 각종 문제는 사회적 불평등을 심화시키고, AI 모델이 생성하는 결과물의 품질에도 영향을 미친다. 이에 따라 AI 모델을 개발하는 기업들은 적극적으로 편향을 해결하기 위해 노력하고 있다. 카카오는 지난해 10월 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고 관리하는 리스크 관리 체계인 '카카오 AI 세이프티 이니셔티브(Kakao AI Safety Initiative(카카오ASI)'를 구축했다. 카카오 ASI는 ▲Kakao AI 윤리 원칙 ▲리스크 관리 사이클 ▲AI 리스크 거버넌스라는 3가지 핵심요소로 구성된다. 카카오 관계자는 "카카오 ASI는 지난해 5월 개최된 'AI 서울 서밋(AI Seoul Summit)'에서 선언한 '서울 AI 기업 서약'을 위한 실천에 해당한다"며 "AI 윤리와 안전을 위해 다양한 선제적 노력을 이어갈 예정"이라고 설명했다. 네이버 또한 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계를 갖고 있다. 네이버의 AI 모델 하이퍼클로바X는 레드팀 테스트, 전문 데이터 확보, 강화학습 알고리즘 개선 등을 통해 생성 정보의 정확성, 편향성, 안전성 등을 개선하고 있다. 또한 타 문화권과의 협업을 통해 특정 문화의 특징과 사회적 맥락을 학습하는 데도 주력하고 있다. 정부 또한 AI 모델의 편향성을 개선하기 위한 노력을 이어가고 있다. 한국지능정보사회진흥원(NIA)와 한국정보통신기술협회(TTA)는 대규모 언어모델(LLM) 학습용 데이터 내 '유해 표현 검출 인공지능 모델 및 유해 표현 학습용 데이터'를 공개하기도 했다. 공개된 인공지능 모델은 주어진 말뭉치 데이터 내에서 유해 표현을 검출하고 다양한 유해 표현 카테고리로 분류하는 기능을 수행할 수 있다. 과학기술정보통신부의 초거대 AI 확산 생태계 조성 사업의 일환으로, LLM 데이터의 품질 검증 과정에서 '유해성'을 측정하기 위해 개발됐다. 자체 성능 검증 결과, 해당 모델은 80~90% 수준의 높은 정확도를 기록하며 유해 표현 검출의 실효성을 입증했다. 학습용 데이터는 ▲유해 표현 검출용 데이터 20만 건 ▲유해 표현 카테고리 구분용 데이터 21만 건으로 구성돼 있다. 황종성 NIA 원장은 "인공지능 기술의 발전은 기술적 진보뿐만 아니라 사회적 책임을 담보할 수 있는 윤리적 고려가 반드시 병행돼야 한다"며 "이는 지속 가능한 인공지능 생태계 조성을 위한 핵심 요소"라고 강조했다.

2025-04-21 15:07:59 김서현 기자
기사사진
인포빕 "카카오 메시지량 전년 대비 56% 증가"

커뮤니케이션 플랫폼 기업 인포빕이 전 세계 5300억 건 이상의 고객 상호작용 데이터를 분석한 결과, AI 기반 메시징 기술이 기업-소비자 간 소통 방식에 결정적 변화를 이끌고 있는 것으로 나타났다. 21일 인포빕이 발간한 '2025 메시징 트렌드 보고서'에 따르면 AI 챗봇과 자동화 도입이 금융·보험 업계를 중심으로 확산 중이다. 고객 응대의 개인화, 실시간 지원, 사기 방지 등에서 실제 활용이 빠르게 진행되고 있다. 특히 소비자들이 메신저 앱으로 직접 결제하거나 AI 챗봇으로 실시간 상담을 받는 사례가 증가하면서, 메시징 앱이 '서비스형 대화창구'로 진화하고 있다는 평가다. 국내 시장에서는 모바일 메시징 사용량이 전년 대비 125% 증가한 가운데, 왓츠앱 사용량은 무려 647% 폭증하며 가장 빠른 성장세를 보였다. 다만 여전히 카카오톡이 B2C 커뮤니케이션의 핵심 채널로 카카오톡 메시지 사용량의 87%가 국내 브랜드와 소비자 간 상호작용에서 발생, 국내 사용량도 56% 증가했다. 글로벌 차원에서는 카카오톡 사용량이 전년 대비 65% 늘었고, 일부 싱가포르 기업들도 카카오톡을 활용하는 사례가 확인됐다. 또한, 아시아·태평양(APAC) 소비자들은 현지 문화에 기반한 메시징 채널 선호가 뚜렷한 것으로 조사됐다. 베트남에선 잘로(Zalo)가 대화형 메시징의 63%, 태국·대만·싱가포르에선 라인(LINE)이 전체의 98%를 차지하며 주도권을 잡고 있다. 인포빕 성경식 한국지사장은 "AI 및 RCS 기반의 고도화된 메시징 기술이 국내외 기업의 실시간 고객 소통 역량을 혁신적으로 끌어올릴 것"이라며, "메시징은 단순 커뮤니케이션 채널을 넘어 브랜드와 고객 간의 가장 중요한 연결고리로 자리 잡았다"고 밝혔다. /김서현기자 seoh@metroseoul.co.kr

2025-04-21 11:04:31 김서현 기자
기사사진
“지도 내놔” 다시 고개 든 구글… 韓 안보논리 재부상

구글이 다시 한 번 한국 정부에 고정밀 지도 데이터의 국외 반출을 요구하면서, 안보·형평성 문제를 둘러싼 논란이 커지고 있다. 구글은 지난 18일 국토교통부 산하 국토지리정보원에 1:5000 축척의 고정밀 한국 지도 데이터 반출을 요구했다. 앞서 미국 무역대표부(USTR)는 지도 반출에 대한 정부의 반출 거부를 두고 "디지털 무역 장벽"이라고 주장하기도 했다. 정부는 우리나라가 세계 유일 분단국가로서 안보 등의 이유를 들어 계속 해외 반출을 거부하고 있다. 20일 <메트로경제> 취재에 따르면 오는 7~8월 중 국토교통부 국토지리정보원이 지도 국외 반출 협의체 회의를 통해 최종 결정을 내릴 것으로 알려졌다. 구글이 요구하는 1:5000 축적 지도는 50m 거리를 1㎝로 줄여 골목길 모습까지 식별할 수 있는 지도다. 구글은 현재 한국에 대해 1:2만5000 축적 지도를 사용 중이다. 이번 요구는 구글의 세 번째 지도 반출 시도다. 구글 맵을 한국에 론칭하기 전해인 2007년 국가정보원에 1:5000 축적 지도데이터 국외 반출을 요구했으나 거절당했고, 2016년 재차 요구했다. 2016년에는 게임 앱 '포켓몬 고' 출시를 위해서라고 주장했으며 정부는 일부 지역을 흐릿하게 하는 블러(Blur)처리를 조건으로 지도 반출을 허용했다. 문제는 구글이 요구하는 1:5000 축적 지도의 활용 방향과 형평성의 문제다. 구글 측에서 든 주장은 지도 앱 서비스 정교화지만, 일반적인 지도 앱 서비스는 1:2만5000 축척을 사용한다. 1:5000 축척 지도는 B2B 환경에서 인프라 구축, 토목공사 등에 활용되는 수준의 데이터로, 일반 소비자 대상 지도 서비스에 활용하기에는 과하다는 지적이 나온다. 같은 빅테크 기업들인 애플과 마이크로소프트(MS)의 네비게이션 및 지도 서비스도 1:2만5000 축척을 사용 중이다. 구글의 설명이 서비스 목적에 부합하지 않는 만큼, 국가 안보와 관련된 의심이 제기되고 있다. 구글이 팔레스타인, 아프가니스탄 등 미국과 전쟁 중인 국가에 대해 특별히 구글 맵 표시를 번복하는 등의 여러 정황은 구글과 미국의 관계에 대한 의혹을 키울 수밖에 없다. 여기에 더해 구글의 요구에 응할 경우 이후 닥칠 형평성 문제도 크다. 구글의 요구를 들어준다면, 다른 빅테크 기업과 중국의 바이두 등 유력 기업들의 요구 또한 들어주지 않을 수 없게 된다. 더불어, 지도 앱이 정교해질 때 따라오는 부수적인 서비스들이 국내 기업을 위협할 수도 있다. 이미 구글은 법인세 회피 의혹을 받으며 국내 기업과의 세제 형평성에서 큰 우위를 점유하고 있다. 지난해 네이버는 3902억원의 법인세를 납부했으나 구글은 2023년 155억 원을 납부하는 데 그쳤다. 올해도 비슷할 전망이다. 이는 구글이 앱마켓 수수료, 유튜브 광고 수익, 유튜브 프리미엄 멤버십 요금 등 주요 수입원을 한국 법인인 구글코리아 매출이 아닌 싱가포르 법인의 매출로 계산하기 때문이다. 대신 한국에서 영업하는 구글코리아는 단순히 구글 서비스의 대행만을 하는 기업으로 돼 있다. IT 관계자는 "국내 기업에 대한 역차별이라는 말이 나오는 이유가 다른 데 있지 않다"며 "우리 기업에 대한 유리한 정황을 마련해달라는 게 아니라, 글로벌 기업들도 같은 환경에서 경쟁하게 해달라는 게 우리의 요구"라고 말했다. /김서현기자 seoh@metroseoul.co.kr

2025-04-20 15:39:01 김서현 기자
기사사진
"절대 아무도 믿지 마라!"...이알마인드, 스펙터로 '제로 트러스트' 보안 모델 구현

"절대 아무도 믿지 마라!" 스릴러 영화의 포스터 홍보 문구 같은 이 글귀는 보안 솔루션 전문 기업 '이알마인드'의 캐치프레이즈다. 이알마인드는 이미지와 비디오 스트리밍 방식을 활용한 웹 격리(RBI·Remote Browser Isolation) 기술 기반의 보안 시스템을 개발하는 회사다. 가짜 웹사이트로 사용자 계정·인증 정보 탈취를 시도하는 '피싱 공격', 악성 코드가 포함된 웹 콘텐츠를 통해 시스템을 감염시키는 '멀웨어', 알려지지 않은 취약점을 이용한 위협 '제로데이 공격' 등으로부터 기업의 IT(정보기술) 인프라와 디지털 자산을 보호하는 역할을 한다. 보안 솔루션 업체 이알마인드의 강인석 영업이사를 통해 기업의 성장 원동력과 미래 청사진을 들어봤다. -간단한 기업 소개 부탁드린다. "금융, 공공, 국방, 연구기관 등 다양한 산업군에서 안전한 웹 접근과 데이터 보호를 지원하는 기술·보안 서비스를 개발해 공급하는 회사다. '맹신 말고, 반드시 확인하라(제로 트러스트)' 원칙을 기반으로 하는 보안 솔루션 '스펙터(Spector)'가 주력 상품이다." -'스펙터'에 대해 자세히 설명해달라. "웹 보안 솔루션인 스펙터는 웹 트래픽을 격리된 환경에서 처리하고, 이미지와 비디오 스트리밍 방식을 통해 안전한 콘텐츠만 사용자에게 전달하는 방식으로 동작한다. 웹 콘텐츠는 격리된 환경에서만 실행되고, 화면만 전송되므로 악성 콘텐츠나 의심스러운 웹 활동으로부터 기업 네트워크를 완벽하게 보호할 수 있다." 스펙터는 웹 스트리밍 기술을 기반으로 구현한 RBI 솔루션이다. RBI는 웹 브라우저를 격리된 환경(예: 클라우드 또는 가상 컨테이너)에서 실행해 악성 코드나 피싱 공격이 사용자의 장치와 네트워크에 침투하지 못하도록 막는다. 격리 환경은 경량 컨테이너 기술을 활용하며, 실행 후에는 완벽하게 삭제되므로 서버에서의 데이터 유출 방지도 가능하다. -기업들이 보안 솔루션 모델로 스펙터를 선택해야 하는 이유가 무엇인가. "최근 피싱, 멀웨어, HEAT(고도 회피형 적응 공격) 등의 보안 위협이 급증하고 있다. 스펙터는 RBI를 통해 이러한 위협을 사전에 차단한다. 기존 보안 모델로는 원격 근무나 개인기기를 업무에 활용하는 환경에 대응하기 어렵다. 스펙터는 모든 웹을 검증하고 격리해 보안성을 높인다. 민감한 데이터를 다루는 금융기관, 연구소는 웹을 통한 데이터 유출 위험을 줄일 수 있다." -보안 솔루션 도입 최신 사례와 그 성과에 대해 소개해달라. "H손해보험은 망분리 환경이 적용된 콜센터에서 고객 응대를 위해 지도 사이트를 이용해야 했다. 이전까지의 외부 지도 연동 과정은 복잡하고 느린 단점이 있었다. 고객사는 자사의 웹 격리 솔루션으로 이 문제를 해결했다. 아울러 전략 물자로 수출 통제 품목 관리를 받는 Z고객사에는 이알마인드와 모니터랩의 협력 모델(AISWG+AIRBI)을 제공해 빠르고 안전한 인터넷 사용을 가능케했다." -생성형 AI(인공지능)와 관련해 보안 측면에서 준비한 대응 전략이 있다면. "생성형 AI 사이트를 통한 데이터 유출 방지, 피싱 사이트나 딥페이크 기술을 RBI로 차단, 위·변조 사이트를 학습시키는 등의 특허 기술 출원을 진행 중이다. 개인정보와 민감정보 유출을 막는 기술 검증을 완료했고, 스펙터의 필터링 알고리즘 개선을 준비하고 있다." -이알마인드가 지향하는 보안 솔루션의 방향성은. "최고의 보안 기술 제공과 '보안 간소화'를 통한 고객 불편 최소화다. 안전성을 강조하며 여러 보안 솔루션 기능을 탑재할 경우 고객사의 인프라에 부담을 주고 사용자 불편을 증대시킬 수 있다. 이알마인드는 보안을 간소화해 관리자와 사용자 모두 쉽고 편리하게 자사의 솔루션을 활용토록 하는 것은 물론, 업계 최고의 보안 등급을 제공하겠다." -향후 계획은. "일본, 싱가포르와 같이 보안 규제가 엄격하고 제로 트러스트 기반의 보안 수요가 높은 지역을 중심으로 글로벌 시장 진출을 준비할 것이다. 금융·공공 부문 해외 고객사를 확보하고 현지 파트너와 협업·상용화 사례를 만들어 레퍼런스를 쌓겠다."

2025-04-20 15:03:07 김현정 기자
AI 모델, 믿어야 할까?…신뢰하는 MZ vs 의심하는 중장년, 'AI 리터러시'

인공지능(AI) 모델이 빠르게 대중화되면서, 이를 둘러싼 '신뢰의 격차'가 새로운 갈등 요소로 떠오르고 있다. 챗GPT 등 생성형 AI의 답변을 전적으로 신뢰하는 집단과, 할루시네이션(Hallucination·AI 환각현상) 등의 이유로 AI를 경계하는 집단 간의 인식 차이가 뚜렷해지고 있기 때문이다. 20일 <메트로경제> 취재에 따르면, 최근 AI를 둘러싼 사회적 신뢰 논쟁이 거세지고 있다. 특히 AI 활용에 익숙한 젊은 층과, 이를 경계하는 장년층 사이의 'AI 리터러시' 차이가 직장, 일상 등 다양한 영역에서 갈등으로 표출되고 있다. AI 모델의 신뢰성 문제는 이미 오래전부터 지적돼 왔다. 대표적인 사례가 바로 '할루시네이션'이다. 이는 AI가 잘못된 정보를 사실처럼 생성하는 현상으로, ▲학습 데이터의 부족 ▲데이터 편향 ▲모델의 잘못된 전제 ▲문맥 오해 등이 주요 원인으로 꼽힌다. AI 모델은 기본적으로 '모든 질문에 답하려는' 구조를 갖고 있어, 학습 범위를 벗어난 질문에도 확률적으로 그럴듯한 답변을 만들어낸다. 하지만 이 과정에서 오답이 자주 발생하면서, AI에 대한 맹신에 우려를 제기하는 목소리도 커지고 있다. 직장인 김나영(38) 씨는 "회사 동료 중 한 명이 챗GPT 전도사처럼 굴고 있다"며 "이제는 점심 메뉴뿐만 아니라 사업 타당성 검토까지 챗GPT에 맡기자고 한다. 게다가 부하 직원에게도 챗GPT 활용을 강요하는 바람에 스트레스가 크다"고 토로했다. 반면 장준재(61) 씨는 "요즘 친구들 중에도 AI를 공부하거나 도입하려는 사람이 많다"며 "나 역시 대세를 따라야겠다는 생각이 들어 챗GPT를 조금씩 익히고 있다"고 말했다. 그러나 장 씨는 "정작 회사 차원에서는 구체적인 활용 가이드도, 교육도 없어 막막한 상황"이라고 덧붙였다. 세대 간 인식 차이는 각종 통계에서도 드러난다. 미국 갤럽과 월튼 패밀리재단의 설문조사에 따르면, 20대 응답자의 30%가 "AI 정보를 자주 신뢰한다"고 답한 반면, 50~60대의 비율은 12%에 그쳤다. 연령대가 높을수록 AI를 신뢰하는 비율이 눈에 띄게 낮은 것이다. 국내 연구도 유사한 결과를 보인다. 한국법제연구원의 보고서에 따르면, 20대는 AI 기술에 대해 가장 높은 친숙도를 보였지만, AI 기술에 대한 '불안감'은 2.87점(5점 만점)으로 낮은 편이었다. 반면 40~50대의 우려 수준은 평균 4.12점으로 훨씬 높아, 기술 친숙도와 신뢰감 사이의 간극이 뚜렷했다. 한 IT 업계 관계자는 "AI 활용은 이제 거스를 수 없는 흐름"이라며 "그러나 기술에 대한 과신이나 막연한 불신 모두 문제다. 사용자의 리터러시 수준을 높이기 위한 체계적 교육이 시급하다"고 말했다. /김서현기자 seoh@metroseoul.co.kr

2025-04-20 14:54:00 김서현 기자
기사사진
카카오모빌리티-일본 택시 단체 'X Taxi', 스마트 택시 인프라 구축 맞손

카카오모빌리티는 일본 택시 단체인 'X Taxi(크로스 택시)' 대표단이 지난 17일 오후 판교 카카오모빌리티 본사를 방문해 자율주행 등 미래 모빌리티 기술을 체험하고, '스마트 택시 인프라 구축을 위한 디지털 혁신 업무 협약(MOU)'을 맺었다고 20일 밝혔다. 이날 크로스 택시에서는 키요카와 스스무 X Taxi 대표 등 10여명의 일본 택시 업계 관계자가 함께했다. X Taxi는 일본 택시 업계의 혁신을 목표로 지난 2020년 설립된 사단법인이다. 현재 도쿄를 비롯해 홋카이도, 치바현, 가나가와현, 오키나와현 등 일본 전역의 100여개 택시 회사 대표와 주요 관계자가 가입돼 있다. 카카오모빌리티는 "이번 방문은 한국 택시 호출 서비스의 운영 과정에 관심이 많은 X Taxi 측의 적극적인 요청으로 성사됐다"면서 "X Taxi는 일본 택시 업계의 고령화 문제 해결을 위해 디지털 전환(DX)이 필수적이라 판단하고 있다"고 설명했다. 카카오모빌리티는 정보통신기술(ICT)을 기반으로 한 '카카오 T 택시' 비즈니스 모델을 소개했다. 체계적인 '택시 회사 관리 소프트웨어'와 운영 효율화를 위한 '무인 배차 키오스크', 일본보다 한국에 선제 도입된 '택시 앱미터기' 등 카카오모빌리티의 디지털 전환 사례와 서비스 운영 노하우를 전파하는 시간을 가졌다. 특히 X Taxi 대표단은 카카오모빌리티의 자율주행 기술에 주목했다. 카카오모빌리티가 강남·세종·판교·서울·대구·제주 등 다양한 지역에서 진행한 자율주행 실증 경험과 서울시 자율주행 자동차 운송 플랫폼 민간 사업자에 최종 선정돼 운영 중인 '서울 자율차', 디지털 트윈 데이터 구축을 위한 차별화된 기술에 큰 관심을 보였다고 회사 측은 전했다. 이날 양측은 한국과 일본의 모빌리티 분야 교류 협력 확대와 공동 디지털 이노베이션 실현을 골자로 한 업무 협약을 체결했다. 카카오모빌리티와 X Taxi는 ▲택시 회사 관리 시스템의 디지털 전환 ▲스마트 배차 및 수요 예측 ▲외국인 친화적 승차 체험 제공 등의 분야에서 힘을 모으기로 했다. 키요카와 스스무 X Taxi 대표는 "카카오모빌리티의 플랫폼 운영 과정, 그중에서도 기존 택시 업계와 상생하며 앞으로 다가올 '자율주행 생태계'까지도 준비하고 있는 모습이 매우 인상적이었다"면서 "일본 택시 서비스에도 이러한 운영 모델과 인공지능(AI) 기술이 적용되면 우리가 고민하고 있는 디지털 전환에 큰 도움이 될 수 있을 것"이라고 말했다. 류긍선 카카오모빌리티 대표는 "이번 X Taxi 대표단의 방문을 계기로 한국과 일본의 택시 서비스 관련 교류가 더욱 활발해질 것으로 기대한다"며 "카카오모빌리티가 축적한 이동 데이터와 AI 기술을 기반으로 글로벌 진출을 위한 다양한 협업 방안을 모색하겠다"고 밝혔다.

2025-04-20 10:02:38 김현정 기자