[비즈니스포스트] KT가 국산 인공지능(AI) 반도체와 자체 개발 거대언어모델(LLM)을 결합한 기업용 소버린 AI 장비를 선보였다.

KT는 국내 AI 반도체 기업 리벨리온의 신경망처리장치(NPU)와 자체 개발 LLM, 운영 플랫폼을 하나의 서버에 통합한 ‘KT 신경망처리장치 거대언어모델 스테이션(KT NPU LLM Station)’을 출시했다고 19일 밝혔다.
 

KT 신경망처리장치 거대언어모델 스테이션에는 리벨리온의 NPU ‘아톰-맥스’와 KT의 독자 개발 LLM ‘믿음 K 2.5 프로’, 운영 응용프로그램 인터페이스(API) 플랫폼이 탑재됐다.

아톰-맥스는 AI 추론에 특화된 국산 NPU다. KT에 따르면 공인 시험에서 동급 그래픽처리장치(GPU)보다 높은 처리 성능과 전력 효율을 검증받았다. 믿음 K 2.5 프로는 고난도 추론과 AI 에이전트 활용에 강점을 둔 모델이다.

KT는 AI 반도체부터 모델과 운영 플랫폼까지 핵심 기술을 국내 기술로 구성해 데이터 주권 확보가 필요한 기업과 기관의 AI 전환 수요를 공략한다.

KT 신경망처리장치 거대언어모델 스테이션은 고객사 내부에 설치돼 데이터와 AI 연산이 외부로 나가지 않는다. 이에 따라 망분리나 보안 규제 등으로 외부 생성형 AI 활용이 제한됐던 공공·국방·제약·제조·금융 분야에서 활용할 수 있다.

서버와 AI 모델, 플랫폼을 일체형으로 제공해 별도 구축 과정 없이 사내 문서를 기반으로 한 검색증강생성(RAG) 등 AI 기능을 사용할 수 있다. 업계 표준 API도 제공해 기존 AI 서비스의 접속 정보를 변경하는 방식으로 연동할 수 있다.

KT는 회의록 작성과 코딩 지원, 업무 자동화 AI 에이전트 ‘K-Claw(가칭)’ 등을 순차적으로 탑재한다. 에이전트 전문 개발사와 협력해 고객 맞춤형 구축 사업으로도 사업 영역을 넓힌다.

KT 신경망처리장치 거대언어모델 스테이션을 피지컬 AI를 위한 엣지 데이터센터로 확대해 저전력·저지연 AI 인프라 구축에도 활용한다.

KT는 과학기술정보통신부의 '모두의 AI' 프로젝트에서도 국산 NPU를 활용해 소버린 AI 구현과 국내 AI 생태계 경쟁력 강화에 나선다.

이진형 KT AX사업본부장 상무는 “KT 신경망처리장치 거대언어모델 스테이션은 KT의 AX 풀스택 역량과 국산 반도체를 결합해 소버린 AI를 실제 산업 현장에서 즉시 사용할 수 있도록 만든 것”이라며 “데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것”이라고 말했다. 조승리 기자