[비즈니스포스트] 삼성전자가 고대역폭메모리(HBM)와 함께 '추론형 인공지능(AI) 칩'에서도 엔비디아와 협력하며 'AI 동맹'을 강화하고 있다.

전영현 삼성전자 디바이스솔루션(DS)부문장 대표이사 부회장이 AI에 필요한 반도체 인프라를 폭넓게 제공할 수 있다는 삼성의 강점을 적극 활용하기 시작한 것이다.

전 부회장은 특히 최근 급격히 커지고 있는 추론형 AI 칩 생산에서 주도권을 확보, 메모리·시스템반도체의 성장동력을 동시에 확보하는 전략을 추진할 것으로 예상된다.

젠슨 황 엔비디아 최고경영자(CEO)는 16일(현지시각) 미국 새너제이에서 열리는 엔비디아 GTC 2026에서 "삼성이 우리를 위해 AI 추론용 칩 '그록3' 언어처리장치(LPU)을 생산하고 있다"며 "삼성은 최대한 빠르게 생산을 늘리고 있으며, 정말 감사하게 생각한다. 올해 3분기부터 출하될 것"이라고 말해 이목을 끌었다.

삼성전자가 엔비디아에 HBM4(6세대)를 공급하는 것을 넘어 파운드리(반도체 위탁생산)에서도 협력하고 있음을 공식화한 것이다.

그록3는 추론형 AI 칩으로 삼성전자 파운드리 4나노 공정을 활용해 제작된다.

엔비디아는 AI 추론 반도체 경쟁력을 강화하기 위해 2025년 AI 추론칩 설계업체(팹리스) 그록의 핵심 인재와 기술을 200억 달러(약 29조 원)에 사들였으며, AI 슈퍼칩 '베라 루빈'과 '그록3'을 결합한 새로운 추론 구조를 개발했다.

그록은 최근 삼성전자에 웨이퍼 주문량을 기존 월 9천 장에서 1만5천 장으로 약 70% 증산을 요청한 것으로 알려졌다. 

한진만 삼성전자 파운드리사업부 사장은 "현재 평택사업장에서 4나노 파운드리 공정으로 그록3를 생산하고 있다. 이미 2023년부터 그록과 연계돼 있었으며, 삼성 엔지니어들이 직접 달라붙어 설계도 도와줬다"며 "내년에는 본격적으로 수요가 늘어날 것"이라고 말했다.

AI는 이제 '학습의 시대'를 지나, 만들어진 AI를 실제로 사용하는 '추론의 시대'로 전환하고 있다.

그동안 빅테크 기업들이 거대언어모델(LLM)을 고도화하는 데 집중했다면, 이제는 그 모델을 기업 운영, 고객 서비스, 자율주행 등에 실제적으로 적용하는 단계에 접어든 것이다.

시장조사업체 마케츠앤드마케트에 따르면 세계 AI 추론 시장 규모는 2025년 약 1061억 달러(약 158조 원)에서 연평균 19.2% 성장해 2030년에는 2549억 달러(약 379조 원)까지 커질 것으로 전망된다.

학습용 AI 반도체로는 그래픽처지장치(GPU)와 같은 비싼 제품이 활용됐지만, 추론에는 전력 효율이 높고 가격이 저렴한 언어처리장치(LPU), 신경망처리장치(NPU) 등이 활용되고 있다.

이에 따라 생산단가가 중요한데, 삼성전자 4나노 공정은 경쟁사 대비 가격경쟁력이 높은 것으로 분석된다.
  엔비디아는 현재 AI 학습용 GPU의 생산을 대부분 TSMC에 맡기고 있다.

하지만 추론용 AI 칩은 삼성전자에 맡기는 '이원화 전략'을 추진하면서, 성장성이 높은 추론형 AI 칩 생산에서 삼성전자가 주도권을 확보할 기회를 얻게 됐다.

삼성전자는 추론용 AI 칩에서 경쟁우위를 갖추고 있는 것으로 평가된다.

그록3에는 HBM 대신 고속처리메모리인 'S램'이 탑재됐다. S램은 연산장치 외부에 따로 붙이는 HBM과 달리, 칩 내부에 직접 설계돼 데이터가 오가는 통로가 짧다. 그 결과 AI 토큰 생성 시간을 훨씬 단축할 수 있다.

S램은 그동안 일반 D램 대비 면적이 넓고, 제조 단가가 높다는 단점 때문에 제한적으로만 활용돼왔다. 하지만 추론용 AI 칩에서 데이터 병목을 해결할 수 없는 기술로 떠오르면서, S램과 파운드리 서비스를 '일괄제공(턴키)' 방식으로 제공하는 삼성전자의 경쟁력이 주목받고 있다.

그록3은 전체 면적에서 S램이 차지하는 비중이 80%에 달할 만큼, 메모리 비중이 높은 제품이다.

투자은행 모간스랜리는 "HBM이 여전히 시장을 지배하고 있지만, S램이 처리량 밀도보다 지연 시간이 더 중요한 워크로드에서 틈새시장을 개척하고 있다"며 삼성전자의 S램 기술과 파운드리 역량을 장점으로 꼽았다.

전영현 부회장은 AI 반도체 경쟁력 강화를 위해 메모리, 파운드리, 시스템LSI, 패키징 등 각 사업부 협업으로 제품 완성도를 높이는 데 집중하고 있다. 이는 AI 반도체가 개별 제품 경쟁에서 AI 시스템 전체를 뒷받침하는 '인프라 경쟁'으로 바뀌고 있기 때문이다.

전 부회장은 올해 초 "제품 중심에서 고객 지향 중심의 회사로 변화하자"며 "삼성전자는 로직부터, 메모리, 파운드리, 선단 패키징까지 '원스톱 솔루션'이 가능한 세계 유일의 반도체 회사"라고 말했다.

이번 그록3 제조 협력은 향후 엔비디아의 AI 슈퍼칩 파운드리 수주 확보전에서도 긍정적으로 작용할 것으로 분석된다.

이날 젠슨 황 CEO가 소개한 차세대 AI 슈퍼칩 '파인만'은 HBM5(8세대)가 탑재되고, TSMC의 1.6나노 파운드리가 적용될 가능성이 높은 것으로 알려졌다.

하지만 삼성전자가 그록3 생산으로 엔비디아의 신뢰를 확보한다면, HBM5 공급은 물론 1.4나노 파운드리의 파인만 수주를 노려볼 수 있게 된다.  

이영곤 토스증권 연구원은 "엔비디아와 삼성전자 파운드리 협업은 단순 파트너 이상의 의미가 있다. 그동안 엔비디아 주력 제품(GPU) 생산에서 협력할 수 있는 기업이 매우 한정적이었기 때문"이라며 "국내 대표 반도체 기업이 글로벌 AI 밸류체인 내 핵심 축으로서 입지를 공고히 하고 있음을 확인했다"고 분석했다. 나병현 기자