▲ 엔비디아를 비롯한 인공지능 반도체 기업들이 대용량 메모리반도체를 탑재하는 대신 효율성을 높이는 기술에 집중하며 수요 감소로 이어질 가능성이 떠오른다. 엔비디아 데이터센터용 GPU 제품 홍보용 이미지. <엔비디아>
대용량의 고대역폭 메모리(HBM)를 활용해 연산 성능을 높이는 것보다 효율성을 개선하는 기술이 중요해지면 삼성전자와 SK하이닉스에도 중장기 변수가 될 수 있다.
14일(현지시각) 월스트리트저널 계열 투자전문지 마켓워치는 "AI 데이터센터에서 인공지능 학습 대신 추론 작업의 비중이 높아지고 있다"는 투자기관 번스타인의 분석을 전했다.
매디슨 레자이 번스타인 연구원은 인공지능 모델의 성능을 개선하는 학습보다 이를 실제 서비스에 활용하는 추론 작업 중심으로 투자 수요가 이동할 수 있다고 내다봤다.
인공지능 모델이 스스로 판단해 작업을 수행하는 에이전틱 AI의 확산도 중요한 변화로 꼽혔다.
이 과정에서 필요한 반도체의 종류도 달라질 수 있다는 전망이 나온다.
AI 데이터서버의 연산 성능보다 효율성이 중요해지면서 인공지능 반도체에 HBM과 같은 메모리반도체를 대용량으로 탑재할 필요성이 낮아지기 때문이다.
엔비디아는 실제로 차세대 인공지능 반도체에 HBM 용량을 줄이는 방안을 고려하고 있는 것으로 파악된다.
투자전문지 모틀리풀은 엔비디아의 메모리반도체 수요 감소가 실제로 마이크론을 비롯한 협력사에 중장기 위험 요소로 부상할 수 있다고 내다봤다.
이와 관련해 모틀리풀은 "엔비디아가 고가의 메모리반도체 구매량을 얼마나 줄일 수 있을지 시험하고 있는 것"이라며 "원가 부담을 줄이기 위해 이를 시도할 이유가 충분하다"고 바라봤다.
엔비디아는 최근 삼성전자와 SK하이닉스, 마이크론 등 메모리반도체 기업을 포함한 협력사와 2790억 달러(약 378조 원)의 구매 약정을 맺었다고 밝혔다.
메모리반도체 공급 부족과 가격 상승에 대해 선제적으로 물량을 확보하려 거액을 들이고 있는 셈이다.
다만 모틀리풀은 엔비디아의 전략 변화에 따라 구매 약정 계획은 언제든 수정될 수 있다며 이는 확정된 수치로 보기 어렵다고 바라봤다.
▲ SK하이닉스의 HBM 메모리 기술 전시용 모형. < SK하이닉스 >
세미애널리시스는 14일 보고서를 내고 차세대 인공지능 반도체에는 현재 주로 사용되는 12단 HBM 대신 8단 제품이 널리 활용될 수 있다고 바라봤다.
일부 AI 추론용 반도체에는 4단 HBM이 널리 쓰일 가능성도 제시됐다.
HBM은 적층 수가 낮아질수록 용량이 감소한다. 자연히 인공지능 반도체 1대당 삼성전자와 SK하이닉스, 마이크론의 메모리반도체 공급 물량이 줄어드는 효과가 나타날 수 있다.
세미애널리시스는 인공지능 산업에서 학습보다 추론에 투입되는 연산 비중이 높아지며 이러한 변화를 이끌고 있다고 분석했다.
인공지능 모델을 학습하는 과정에서는 많은 데이터를 저장할 대용량 메모리가 중요하지만 추론에서는 메모리 용량을 계속 늘리는 데 따른 장점이 상대적으로 적기 때문이다.
결국 인공지능 반도체 기업들이 HBM 용량을 계속 높이는 대신 메모리반도체의 효율성을 개선하는 방향으로 제품을 설계할 가능성이 있다는 의미다.
메모리반도체 공급 부족과 가격 상승은 이러한 기술 개발을 더 자극하는 계기로 작용할 수 있다.
결국 세미애널리시스는 이러한 기술 흐름이 삼성전자와 SK하이닉스, 마이크론 등 메모리반도체 공급사에 중장기 변수로 작용할 공산이 크다고 바라봤다.
세미애널리시스는 저용량 HBM이 모든 인공지능 반도체에 적합하지는 않다고 덧붙였다. 인공지능 모델의 성능이 지금보다 훨씬 높아지면 대용량 HBM의 필요성도 다시 커질 수 있다는 것이다.
다만 최근 오픈AI와 앤트로픽 등 기업 경영진이 인공지능 모델의 기술 발전에 속도를 늦춰야 한다는 주장을 펼치고 있는 만큼 상황을 예측하기 어려워지고 있다. 김용원 기자
