KAIST 전기·전자공학부 및 인공지능(AI) 양자컴퓨팅 IT 인력양성연구센터 이준구 교수 연구팀이 비선형 양자 기계학습 AI 알고리즘을 개발해 복잡한 데이터에 대한 양자 기계학습이 가능해졌다.

양자 인공지능은 양자컴퓨터 발전과 함께 현재의 인공지능을 앞설 것으로 크게 기대되고 있으나, 연산 방법이 전혀 달라 새로운 양자 알고리즘의 개발이 절실한 상황이다. 특히, 양자컴퓨터는 본질적으로 일차방정식을 잘 푸는 선형적 성질을 가지고 있어 복잡한 데이터를 다루는 비선형적 기계학습에 어려움이 존재했었다. 하지만 이 교수팀이 개발한 양자 지도학습 알고리즘은 학습에 있어 매우 적은 계산량으로 연산이 가능해 대규모 계산량이 필요한 현재의 AI 기술을 추월할 가능성을 제시한 것으로 평가되고 있다.

이 교수팀은 독일 및 남아공 연구팀과의 협력 연구를 통해 학습데이터와 테스트데이터를 양자 정보로 생성한 후 양자 정보의 병렬연산을 가능하게 하는 양자포킹 기술과 간단한 양자 측정기술을 조합해 양자 데이터 간 유사성을 효율적으로 계산하는 비선형 커널 기반의 지도학습을 구현하는 양자 알고리즘 체계를 만들었다. 이후 IBM 클라우드 서비스를 통해 실제 양자컴퓨터에서 양자 지도학습을 실제 시연하는 데 성공했다.

KAIST 박경덕 연구교수가 공동 제1 저자로 참여한 이번 연구결과는 국제 학술지 네이처 자매지(npj Quantum Information) 5월 6권에 게재됐다.

기계학습에 있어 중요한 문제 중 하나는 주어진 데이터의 특징을 구분해 분류하는 것인 데, 개나 고양이로 분류하는 작업에서 입과 귀의 특징으로만 개와 고양이를 분류하기 쉽지 않다면 새로운 결정 경계를 찾기 위해 특징에 관한 정보 공간 차원을 확장해야 하는데 이 때 비선형 커널 기술이 필요해진다. 또 양자컴퓨팅은 고전 컴퓨팅과는 달리 큐비트(양자컴퓨팅 정보처리의 기본 단위) 개수에 따라 정보 공간의 차원이 기하급수적으로 증가하기 때문에 고차원 정보처리에 있어 기하급수적으로 뛰어난 성능을 낼 수 있다.

연구팀은 이 같은 양자컴퓨팅의 장점을 활용해 데이터 특징 대비 기하급수적인 계산 효율성을 달성하는 양자 기계학습 알고리즘을 개발했다. 이 교수 연구팀이 개발한 알고리즘은 저차원 입력 공간에 존재하는 데이터들을 큐비트로 표현되는 고차원 데이터 특징 공간으로 옮긴 후, 양자화된 모든 학습데이터와 테스트데이터 간 커널 함수를 양자 중첩을 활용해 동시에 계산하고 테스트데이터 분류를 효율적으로 결정한다.

연구팀은 또 양자 회로의 체계적 설계를 통해 다양한 양자 커널 구현이 가능함을 이론적으로 증명했다. 커널 기반 기계학습에서는 주어진 입력 데이터에 따라 최적 커널이 달라질 수 있어, 다양한 양자 커널을 효율적으로 구현할 수 있게 된 점은 양자 커널 기반 기계학습의 실제 응용에 있어 매우 중요한 성과다.

연구팀은 IBM이 클라우드 서비스로 제공하는 다섯 개의 큐비트로 구성된 초전도 기반 양자 컴퓨터에서 이번에 개발에 성공한 양자 기계학습 알고리즘을 실험적으로 구현해 양자 커널 기반 기계학습 성능을 실제 시연을 통해 입증하는 데 성공했다.

이 연구에 참여한 박경덕 연구교수는 "연구팀이 개발한 커널 기반 양자 기계학습 알고리즘은 수년 안에 상용화될 것으로 예측되는 수백 큐비트 NISQ(Noisy intermediate Scale Quantum Computer) 컴퓨팅 시대가 되면 기존 고전 커널 기반 지도학습을 뛰어넘을 것"이라며 "복잡한 비선형 데이터의 패턴 인식 등을 위한 양자 기계학습 알고리즘으로 활발히 사용될 것"이라고 말했다.