SKT-파네시아, AI 데이터센터 설계 바꿔 비효율 해결한다

SK텔레콤이 컴퓨팅 자원 연결 기술 기업 파네시아와 함께 인공지능(AI) 데이터센터 구조 혁신에 나선다고 4일밝혔다. AI 모델 고도화로 메모리 수요가 급증하는 가운데 GPU 증설에 의존하던 기존 방식에서 벗어나 컴퓨팅 자원 연결 구조를 바꿔 성능과 비용 효율을 동시에 개선하겠다는 구상이다. 파네시아는 CXL(Compute eXpress Link) 관련 기술을 개발하는 국내 스타트업으로, 패브릭 링크 스위치와 링크 컨트롤러 등 데이터 이동을 효율화하는 링크 반도체 기술을 보유하고 있다. 이들 기술은 여러 장치를 연결해 데이터 흐름을 관리하고 장치 간 데이터 전송을 효율적으로 수행하는 데 활용된다. CXL은 CPU·GPU·메모리를 고속으로 연결해 초저지연 데이터 처리를 가능하게 하는 데이터 연결 표준이다. 서버 단위로 묶여 있던 컴퓨팅 자원을 보다 유연하게 확장하고 활용할 수 있도록 하는 것이 특징이다. SK텔레콤은 스페인 바르셀로나에서 열린 MWC26에서 파네시아와 'CXL 기반 차세대 AI 데이터센터 구조' 공동 개발을 위한 업무협약(MOU)을 체결했다고 4일 밝혔다. 양사는 CXL 기반 기술을 활용해 장비 증설 없이도 AI 처리 효율을 높이고 데이터센터 운영 비용을 낮추는 구조를 개발할 계획이다. 기존 AI 데이터센터는 CPU·GPU·메모리가 서버 단위로 고정된 구조다. 이 때문에 특정 서버에서 자원이 남아도 다른 서버에서 활용하기 어렵고, 메모리가 부족해지면 실제로 필요하지 않은 GPU까지 함께 증설해야 하는 비효율이 발생한다. 양사는 CXL 기술을 적용해 CPU·GPU·메모리를 서버 단위 고정 구조에서 벗어나 유연하게 연결·조합할 수 있는 구조로 전환할 계획이다. 기존에 서버 내부에 제한됐던 자원 연결 범위를 여러 대의 서버를 묶은 랙 단위까지 확장해 필요한 자원을 선택적으로 활용하는 방식이다. 또한 GPU 간 협업 연산 과정에서 범용 네트워크를 통해 데이터를 주고받던 기존 방식 대신 CXL 기반 직접 연결 구조를 적용해 데이터 전송 과정을 단순화하고 연산 효율을 높인다는 계획이다. 이번 협력에서 SK텔레콤은 AI 데이터센터 구축·운영 경험을 바탕으로 상용 환경에 적합한 구조 설계를 맡고, 파네시아는 링크 반도체 기술을 활용해 자원 연결 구조를 랙 단위 이상으로 확장하는 기술 개발을 담당한다. 양사는 실제 AI 모델을 구동해 GPU와 메모리 활용률, 지연시간, 처리량 등을 검증한 뒤 연말까지 차세대 AI 데이터센터 구조를 공개할 계획이다. 이후 대형 AI 데이터센터 환경에서 실증을 거쳐 상용화 가능성을 검토할 방침이다.