▲ 9일 SK텔레콤이 엔비디아·리벨리온과 협력해 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 결합한 한국형 소버린 AI 인프라를 개발하고, AI 추론 성능과 전력 효율을 높이기 위한 실증 및 상용화에 나선다고 밝혔다. <SK텔레콤>

[비즈니스포스트] SK텔레콤이 엔비디아, 리벨리온과 손잡고 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 결합한 한국형 소버린(주권적) 인공지능(AI) 인프라 구축에 나선다.
SK텔레콤은 9일 서울 코엑스에서 열린 '엔비디아 AI 데이 서울' 행사에서 엔비디아, 리벨리온과 GPU·NPU 통합 시스템 개발을 위한 업무협약을 맺었다고 밝혔다.
세 회사는 엔비디아의 ‘NV링크 퓨전’ 기술을 활용해 리벨리온이 개발하고 있는 NPU ‘리벨 R200’을 엔비디아 GPU 플랫폼에 연결한다.

NV링크 퓨전은 엔비디아 GPU끼리 데이터를 빠르게 주고받는 연결 기술을 다른 회사가 만든 AI 반도체에도 쓸 수 있도록 확장한 기술이다.
여기에 엔비디아의 서버 랙 표준 설계 규격인 MGX를 적용해 GPU·NPU 통합 시스템을 개발한다.
통합 시스템에는 AI 추론 과정을 서로 다른 반도체에 나눠 맡기는 분리형 추론 방식을 적용한다.
엔비디아 GPU가 사용자의 질문을 분석하는 프리필 단계를 맡고, 리벨리온 NPU가 답변을 생성하는 디코드 단계를 처리하는 방식이다. 이를 통해 AI 추론 성능과 전력 효율을 높인다는 계획을 세웠다.
SK텔레콤은 AI 데이터센터 구축·운영 경험을 바탕으로 엔비디아-리벨리온 통합 시스템의 성능과 안정성을 실증하고 상용화 가능성을 검토한다. 또 독자 AI 모델 ‘A.X K2’와 대국민 AI 서비스 '모두의 AI'를 연계해 인프라부터 AI 모델과 서비스까지 소버린 AI 시스템을 구축한다는 계획이다.
정석근 SK텔레콤 최고기술책임자(CTO) 겸 AI CIC장은 “이번 협력은 엔비디아 GPU와 리벨리온 NPU의 강점을 결합해 추론 성능과 전력 효율을 높일 수 있는 한국형 소버린 AI 인프라의 가능성을 검증하는 데 의미가 있다”며 “공공과 민간이 실제로 활용할 수 있는 소버린 AI 인프라 생태계를 만들어 갈 것”이라고 말했다. 조승리 기자