맞춤형 AI반도체 경쟁에 HBM 부각, 시장 과점 SK하이닉스 삼성전자 '미소'

▲ 삼성전자와 SK하이닉스 도대역폭메모리 경쟁력이 더욱 부각될 것으로 전망된다. <그래픽 비즈니스포스트>

[비즈니스포스트] 삼성전자와 SK하이닉스의 고대역폭메모리(HBM) 사업 전망이 밝아질 것으로 보인다.

엔비디아와 AMD에 이어 인텔까지 인공지능(AI) 반도체에 뛰어들며 경쟁이 격화되고 있어서다. AI 반도체의 성능은 HBM 성능과 탑재량에 따라 좌우되기 때문에 그 중요성이 앞으로 더 커질 것으로 전망된다.
 
특히 HBM은 기존 범용제품이던 일반 D램과 달리 맞춤형 D램으로 진화하고 있는 만큼 메모리반도체산업의 고질적인 문제였던 업황 싸이클에 따른 실적변동 폭을 줄여줄 것으로 예상된다.

18일 반도체업계에 따르면 엔비디아가 장악하고 있던 AI 반도체 시장도 2024년부터는 지각변동이 일어날 조짐이 나타나고 있다.

AMD는 최근 AI 반도체 ‘MI300’을 공개하며 경쟁사 엔비디아의 AI 반도체인 ‘H100’보다 AI 학습과 추론 능력에서 최대 2배 앞선 성능을 제공한다고 밝혔다. 가격은 4만 달러(약 5200만 원)인 H100보다 저렴하게 책정할 것으로 관측된다.

AMD의 발표에 엔비디아는 H100 성능이 불리한 환경에서 측정됐다며 자사 소프트웨어를 활용하면 H100의 성능은 2배가량 향상된다는 반박자료를 배포해 AI반도체 성능을 둘러싼 공방전이 치열해지고 있다.

인텔도 지난 14일 자회사 하바나랩스를 통해 개발한 AI 반도체 ‘가우디3’을 공개하며 경쟁에 뛰어들었다.

엔비디아, AMD, 인텔의 AI 반도체 경쟁이 격화될 수록 삼성전자와 SK하이닉스가 생산하는 HBM의 중요성은 커질 것으로 보인다. HBM의 숫자와 성능에 따라 AI 반도체의 성능도 완전히 달라지기 때문이다.

이는 엔비디아가 H100에 80GB HBM3을 탑재하자 AMD는 MI300에 192GB의 HBM3를 적용하는 것으로 대응한 이유이기도 하다. 엔비디아는 2024년에 출시할 B100에 기존보다도 1세대 더 발전한 HBM3E(144GB)를 탑재할 것으로 전망되고 있다.

HBM은 뛰어난 성능에도 오랫동안 크게 주목받지 못하던 D램 제품이다.

HBM은 2015년 AMD의 요구로 SK하이닉스가 HBM 1세대를 처음 제조했다. 당시 AMD는 게이밍 그래픽처리장치(GPU) 성능을 높일 방안으로 고대역폭메모리를 적용해 보는 아이디어를 떠올려 실행에 옮겼다.

반도체 대역폭은 단위 시간 동안 전송할 수 있는 데이터의 양을 나타낸 것으로 메모리반도체가 고대역폭일수록 더 많은 데이터를 더 빠르게 전송할 수 있다.

하지만 AMD는 큰 효과를 보지 못했다. HBM 적용에 따른 성능 향상이 있기는 했지만 가격 상승과 비교하면 향상되는 폭이 크지 않았기 때문이다. AMD는 결국 GPU에서 HBM을 버리고 대역폭이 낮은 GDDR6로 전환했다.

이와 같은 시행착오는 삼성전자가 재작년까지만 해도 HBM에 대규모 투자를 주저했던 이유 중 하나다.

하지만 엔비디아가 서버용 GPU에 HBM을 도입하면서 상황은 완전히 바뀌었다.

챗GPT와 같은 인공지능 서비스의 학습과 추론은 게이밍용 GPU보다 훨씬 방대한 양의 데이터를 처리해야 하는데 이를 GPU를 늘려서 대응하려면 막대한 비용이 든다. 하지만 HBM를 활용하면 GPU 사용량이 줄어 총소유비용(TCO) 측면에서 매우 유리하다.

게이밍용 GPU에서 계륵이었던 HBM이 인공지능 반도체의 개화로 인해 없어서는 안될 D램이 된 것이다.

곽민정 현대차증권 연구원은 “AI 반도체를 구현하기 위해서는 높은 대역폭이 요구되며 인공지능, 머신러닝 추론 주류화와 더불어 HBM 시장이 확대되는 계기가 되었다”고 바라봤다.

박준영 현대차증권 연구원은 “글로벌 HBM 시장은 2022년 23억 달러(약 3조 원)에서 2025년 103억 달러(약 13조3700억 원)로 연평균 64% 성장할 것”이라고 전망했다.
 
맞춤형 AI반도체 경쟁에 HBM 부각, 시장 과점 SK하이닉스 삼성전자 '미소'

▲ 삼성전자와 SK하이닉스의 HBM 제품 이미지. <그래픽 비즈니스포스트>

HBM은 삼성전자와 SK하이닉스에 성장성뿐만 아니라 사업모델의 구조적인 변화까지 몰고 올 것으로 예상된다.

그동안 D램을 비롯한 메모리반도체 산업은 업황 사이클에 따른 실적변동 폭이 크다는 단점이 있었다.

일반적으로 메모리반도체는 3~4년 주기로 슈퍼사이클(호황기)에서 다운사이클(침체기)을 오가는데 이에 따른 실적 불안정성은 삼성전자와 SK하이닉스가 다른 글로벌 반도체기업 대비 저평가받는 주요 요인 가운데 하나였다.

지난해 말부터 시작된 메모리반도체 다운사이클로 SK하이닉스는 특히 4개 분기 연속 영업손실을 내고 있다.

하지만 HBM은 기존 D램과 달리 맞춤형 제품으로 점차 진화할 공산이 크다.

HBM을 어떻게 배치해서 패키징하느냐에 따라 AI 반도체의 성능이 달라지는 만큼 엔비디아, AMD와 같은 고객들은 삼성전자, SK하이닉스와 긴밀하게 협력할 필요성이 커지고 있다.

즉 기존 소품종 대량생산으로 판매 가격이 가장 중요하던 메모리산업의 구조가 파운드리와 같은 수주형 사업 구조로 변화하는 것이다.

게다가 엔비디아, AMD와 같은 반도체기업 뿐만 아니라 마이크로소프트, 아마존, 구글과 같은 빅테크가 자체 AI 반도체를 개발하고 있는 만큼 이에 맞춘 다양한 HBM이 요구되고 있다.

이처럼 메모리산업도 싼 가격보다는 제품의 성능, 고객사와 협력 노하우 등이 중요해진다면 삼성전자와 SK하이닉스는 제품에 대한 가격결정권을 어느 정도 가질 수 있고 사이클에 따른 실적변동 폭도 줄일 수 있다.

이는 그동안 상대적으로 저평가되던 삼성전자와 SK하이닉스의 기업가치를 제대로 평가받을 수 있는 요인이 될 것으로 분석된다.

곽노정 SK하이닉스 대표이사 사장은 2023년 10월11일 대전 한국과학기술원(KAIST)에서 진행된 특별강연에서 "지금 HBM이 AI로 각광받고 있는데 메모리산업의 속성이 변하는 시그널도 보인다"며 "CPU·GPU 업체들이 자신들에게 맞는 메모리를 원하게 되고 메모리가 좀 더 뭔가 해줬으면 좋겠다는 니즈도 나올 것”이라고 전망했다.  나병현 기자