[비즈니스포스트] 박윤영 KT 대표이사 사장이 여러 인공지능(AI) 모델을 연결하고 사용량에 따라 요금을 부과하는 '토큰 팩토리' 서비스를 오는 30일 시작하며, AI 추론 시장에서 새로운 수익원 확보에 나선다.

박 대표는 자체 AI 데이터센터(AIDC)를 활용한 토큰 생산과 통신 사업에서 축적한 과금·정산 역량을 결합해 AI 인프라 공급을 넘어 사용량에 따라 매출이 발생하는 AI 토큰 플랫폼 사업으로 수익구조 확장을 추진한다.

아마존웹서비스(AWS) 등 글로벌 클라우드 사업자들도 유사한 서비스를 제공하고 있어, KT가 가격과 보안 경쟁력을 앞세워 기업 고객을 확보할 수 있을지가 관건이 될 것으로 보인다.

27일 KT는 서울 광화문 KT빌딩에서 AX 사업 전략 기자간담회를 열고 오는 30일 토큰 팩토리 서비스를 출시한다고 밝혔다.

박 대표는 지난 7월 취임 100일 기자간담회에서 “AI 기업들이 가장 결핍된 요소가 바로 과금”이라며 “복잡한 상품과 요금제를 실시간 정산하는 과금 역량은 통신사가 가장 잘한다”고 말했다. 

토큰은 AI가 질문을 이해하고 답변을 생성할 때 처리하는 데이터의 기본 단위이자, 이용료 산정 기준이다.

최근 AI가 단순 질의응답을 넘어 실제 업무를 수행하는 AI 에이전트로 발전하면서 토큰 사용량도 빠르게 늘고 있다. 

AI 에이전트는 하나의 업무를 처리하기 위해 여러 AI 모델을 반복적으로 호출하기 때문에 기업에는 AI 추론 비용을 효율적으로 관리하는 기술이 중요해지고 있다는 게 KT 측 설명이다.

KT가 인용한  미국 AI 모델 라우팅 및 중개 플랫폼 오픈라우터 통계에 따르면 AI 플랫폼의 토큰 사용량은 최근 1년 동안 약 35배 증가했다.

KT의 토큰 팩토리는 여러 AI 모델을 하나의 플랫폼에서 제공하고, 기업 업무에 적합한 모델을 자동으로 선택해 사용량과 비용을 관리하는 서비스다. KT는 자체 모델 선택 기술과 입력 문장 압축 기술을 통해 AI 토큰 비용을 최대 25% 절감할 수 있다고 설명했다. KT의 토큰 팩토리 수익 모델은 자체 AI 인프라에서 AI 모델을 직접 구동하고, 기업의 토큰 사용량에 따라 이용료를 받는 것이다.

국내 데이터센터의 그래픽처리장치(GPU)를 활용해 AI 추론 서비스를 제공하고, 이용료에서 GPU 운영비 등 관련 비용을 제외한 차액을 수익으로 확보하는 구조다. 외부 AI 모델을 연결해 중개 수수료를 받는 방식과는 차이가 있다.

KT는 30일 토큰 팩토리 출시 시점에 73종의 AI 모델을 제공한다. 이 가운데 KT 자체 모델과 업스테이지·모티프테크놀로지스 모델 등을 포함한 7종은 국내 KT 인프라에서 직접 제공한다.
  이진형 KT AX사업본부장은 이날 간담회에서 “보통 (AI 모델을) 중개하는 사업자들은 약 5% 정도의 수수료를 받고 있다”며 “저희는 수수료가 메인 비즈니스 모델은 아니다. 자체 데이터센터의 GPU로 토큰을 직접 생산하면 판매가와 원가 차이에서 발생하는 마진을 주요 수익원으로 확보할 수 있다”고 설명했다.

KT는 통신사업에서 축적한 과금·정산 역량을 경쟁력으로 내세웠다. 통화 이용 내역을 기록하는 CDR과 유사한 토큰 이용 기록인 TDR을 구축해 AI 모델별 사용량을 측정하고 통신요금과 함께 청구할 수 있도록 했다.

요금제는 사용량에 따라 비용을 내는 스탠다드와 이용 규모·계약 기간에 따라 할인 및 맞춤형 서비스를 제공하는 엔터프라이즈로 구성된다. 기업 전용망과 프라이빗 클라우드, 서비스 품질 보장(SLA) 등을 결합해 기존 기업 고객의 AI 수요도 끌어온다는 계획이다.

KT는 글로벌 AI 모델 유통 플랫폼 오픈라우터와 공식 파트너십을 맺고 11월 제공 모델을 500개 이상으로 확대할 것이라고 밝혔다. 향후 국내 AI 모델의 해외 유통도 추진하며, 내년 3월에는 개인 개발자와 일반 이용자를 위한 구독형 서비스도 선보일 계획이다. 

다만 토큰 팩토리는 아마존웹서비스(AWS)의 생성형 AI 플랫폼 '아마존 베드록'과 사업구조가 유사하다는 평가를 받는다. 베드록도 여러 AI 모델을 통합 제공하고 기업의 AI 서비스 개발과 보안 관리를 지원한다.

이 본부장은 베드록이 기업의 AI 서비스 개발 기반을 제공하는 데 초점을 맞춘다면, KT는 AI 모델 자동 선택과 비용 최적화, 보안 관리 등 실제 이용에 필요한 기능까지 묶어 제공한다는 점을 차별점으로 제시했다.

KT는 국내 데이터센터에서 직접 추론하는 모델을 활용해 데이터 주권과 보안 요구가 높은 금융·공공기관도 공략한다는 계획이다. 

KT가 목표로 내건 2028년 AX 매출 1조 원을 달성하기 위해선 토큰 팩토리가 AIDC 사업과 시너지를 내면서 실제 기업 고객과 매출을 확보하는 것이 중요해질 것으로 전망된다. 

이 본부장은 “내년 글로벌 AI 토큰 시장 규모를 약 215조 원으로 예상한다”면서 “국내 AI 생태계에서 KT 토큰 팩토리의 활용이 얼마나 확대되느냐에 따라 2028년 매출 규모가 달라질 것”이라고 말했다. 조승리 기자