[현장] 아태 기업 76% 연내 AI 에이전트 도입 추진 중, 구글클라우드 지기성 "추론 AI 시대 도래"

▲ 지기성 구글클라우드 코리아 사장이 8일 서울 강남구 코엑스 컨벤션센터에서 열린 ‘구글클라우드 데이 서울’ 미디어데이 행사에서 발언하고 있다. <비즈니스포스트>

[비즈니스포스트] 아시아태평양 지역 기업들이 생성형 AI의 성공 경험을 바탕으로 에이전트 AI 도입에 속도를 내고 있는 것으로 나타났다.

전대일 IDC AI리서치 수석연구원은 8일 서울 강남구 코엑스 컨벤션센터에서 열린 ‘구글클라우드 데이 서울’ 미디어데이 행사에서 “최근 2년간 기업들이 생성형 AI에서 성공적 경험을 쌓으면서, 이같은 경험이 에이전트 AI 도입으로 이어지고 있다”고 말했다.

IDC 조사에 따르면 아시아태평양 지역 기업의 76%가 올해 안에 AI 에이전트 도입을 추진 중인 것으로 나타났다.

특히 생성형 AI에서 높은 투자수익률(ROI)을 기록한 기업의 경우, AI 에이전트 도입률은 87.1%에 달했다.

전 연구원은 한국의 AI 에이전트 도입률이 다른 국가에 비해 낮다는 점을 지적하며, 전략적 AI 도입 계획 수립과 플랫폼 기반의 AI 활용 가속화가 필요하다고 주장했다.

이날 지기성 구글클라우드코리아 사장은 “작년에 에이전트 시대가 도래한다고 말했는데, 올해는 그 시대가 실제로 실행되고 있다”고 말했다.

지 사장은 조만간 출시 예정인 구글의 7세대 텐서처리장치(TPU)이자 대규모 AI 추론을 위해 설계된 TPU 가속기 ‘아이언우드’도 함께 소개했다.

그는 “아이언우드의 등장은 AI 기술 발전과 이를 뒷받침하는 인프라 측면에서 중요한 전환점”이라며 “사람이 해석해야 할 정보를 실시간으로 제공하던 반응형 AI에서, 스스로 해석과 인사이트를 선제적으로 생성하는 AI로 전환되는 ‘추론의 시대’가 도래하고 있다”고 설명했다.

구글클라우드는 이날 행사에서 기존 데이터 저장 위치뿐 아니라 머신러닝 처리 작업까지 국내에서 수행할 수 있는 새로운 옵션도 발표했다.

이 옵션은 머신러닝 처리 위치에 대한 규제 요건이 있는 기업들이 구글의 최신 거대언어모델(LLM) ‘제미나이 2.5 플래시’를 국내에서 활용할 수 있도록 지원하는 것이다.
 
[현장] 아태 기업 76% 연내 AI 에이전트 도입 추진 중, 구글클라우드 지기성 "추론 AI 시대 도래"

▲ 서울 강남구 코엑스에서 열린 구글클라우드데이 행사장 모습. <비즈니스포스트>

이어 유영준 뤼튼테크놀로지스 최고운영책임자(COO)가 연단에 올라 개인화된 AI 기능을 강화한 ‘뤼튼 3.0’ 서비스를 소개하며 구글클라우드와 협업 사례를 설명했다.

그는 “새로운 서비스에 적용할 LLM은 뛰어난 성능, 합리적인 가격, 높은 안정성 등 다양한 기준을 충족해야 했다”며 “제미나이 2.5 모델군은 뤼튼의 자체 테스트에서 이 기준을 만족했고, 현재 다양한 LLM과 함께 서비스 내 적재적소에 활용되고 있다”고 말했다.

구글클라우드 데이는 구글이 세계 주요 지역에서 주최하는 AI, 데이터, 인프라 기술 기반의 현장 중심 체험형 컨퍼런스다. 

코엑스에서 진행된 이날 행사에서 놀유니버스, LG유플러스, NC AI, 카카오모빌리티, 매스프레소 등이 참여해 생성형 AI 협업 사례를 소개했다. 조승리 기자