[비즈니스포스트] 삼성전자, SK하이닉스, 마이크론 등 세계 메모리반도체 3사가 엔비디아 요청에 따라 이미 6세대 고대역폭메모리(HBM4) 16단 개발 경쟁에 들어갔다.

HBM4 12단과 16단은 단순히 층수 차이를 넘어 용량, 성능, 제조 공정의 난이도에서 큰 격차가 있다. 특히 개별 칩을 16단까지 쌓으면서도 전체 두께를 유지하는 것이 최대 관건으로 꼽힌다.

1일 반도체 업계 취재를 종합하면 최근 엔비디아가 삼성전자, SK하이닉스, 마이크론 등 메모리 3사와 'HBM4 16단' 초기 생산물량 논의 착수한 것으로 알려졌다.

아직 HBM4 12단 공급도 시작하지 않은 상황에서 이미 차세대 HBM 제품을 준비하기 시작한 것이다.

엔비디아가 HBM4 16단을 서둘러 요청한 것은 인공지능(AI) 연산의 물리적 한계를 돌파하고, 경쟁 우위를 유지하기 위한 전략적 판단으로 해석된다.

경쟁사인 AMD는 앞서 2026년 선보일 AI 칩 'MI450' 개별 그래픽처리장치(GPU) 하나에 432기가바이트(GB) 용량의 HBM4(개당 32GB, 12개)를 탑재하겠다고 밝혔다. 이는 엔비디아의 차세대 AI칩 '루빈'의 HBM4 탑재량 288GB보다 약 50% 더 큰 용량을 탑재하는 것이다.

메모리 용량이 클수록 AI 연산의 속도를 개선할 수 있는 만큼 엔비디아를 위협할 수 있다.

엔비디아는 성능 개선을 위해서는 HBM4 16단이 필요하다고 보고 있다. 

HBM4 12단이 개당 36GB의 용량을 공급하는 반면 HBM4 16단은 64GB를 제공한다. 12단이 '책상을 여러 개 붙여서 넓게 쓰는 것'이라면 16단은 '책상 위에 높은 선반을 설치하는 것'으로, 같은 용량을 탑재하더라도 '공간 효율성', '데이터 이동 거리', '비용'에서 큰 이점이 있다.

엔비디아는 2027년 출시하는 '루빈 울트라'에 12개의 HBM4 16단을 탑재할 것으로 예상된다.

다만 HBM4 12단과 16단은 단순히 층수 차이를 넘어서는 수준의 공정 난이도에 차이가 있다.

12단 대비 4개 층을 더 쌓으면서도 전체 높이를 그대로 유지해야 하기 때문이다. 12단 HBM의 개별 웨이퍼 두께는 약 50마이크로미터(㎛)이지만, 16단을 구현하려면 머리카락의 3분의 1 두께인 30㎛ 수준까지 줄여야 한다.

하지만 웨이퍼를 얇게 갈아낼수록 절단과 연마 과정에서 파손 위험이 커진다는 문제가 있다. 게다가 웨이퍼는 얇아질수록 물리적 강성이 급격히 떨어져 종이처럼 휘어지는 현상이 발생할 가능성이 높아진다.

반도체 업계 관계자는 "30㎛까지 두께를 줄여야하는 HBM4 16단부터는 웨이퍼 가공과 적층 난이도가 급격하게 올라간다"며 "웨이퍼가 쉽게 휘어지거나 깨질 수 있는 만큼 수율(완성품 비율)을 확보하기 쉽지 않을 것"이라고 말했다. 삼성전자는 문제 해결을 위해 '하이브리드 본딩' 패키징 방식 적용을 검토하고 있다.

그동안 HBM은 D램과 D램 사이를 연결할 때 둘을 접착하는 ‘범프’라는 소재를 사용해왔다. 하지만 하이브리드 본딩 기술을 활용하면 범프 없이 칩과 칩을 접착하고, 데이터 통로를 곧바로 연결해 칩 두께를 획기적으로 줄일 수 있다.

다만 하이브리드 본딩 방식은 아직 적용한 적이 없는 만큼, HBM4 16단까지는 기존 ‘열압착-비전도성 접착필름(TC-NCF)’ 본딩 방식을 유지할 가능성이 큰 것으로 분석된다.

TC-NCF 방식은 칩을 쌓을 때마다 얇을 필름을 넣은 뒤 상단에서 강한 압력으로 눌러주는 방식으로, 물리적으로 고정하기 때문에 칩의 평탄도를 유지하는 데 유리하다. 이에 따라 층을 높게 쌓아도 옆으로 비뚤어지거나 무너지지 않는 데 장점이 있는 것으로 평가된다.

삼성전자 측은 필름의 두께 제어만으로도 HBM4 16단을 표준 높이로 제조할 수 있을 것으로 보고 있다.

1c(10나노 6세대) D램 공정을 HBM4에 선제적으로 도입한 점도 성능 측면에서 우위를 점할 수 있는 요소로 꼽힌다. SK하이닉스는 HBM4 16단도 1b(10나노 5세대) 공정을 기반으로 설계하고 있다.

SK하이닉스는 HBM4 16단까지 ‘어즈밴스드 매스리플로우-몰디드언더필(MR-MUF)’ 본딩 방식을 적용할 것으로 보인다.

MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입한 뒤 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 TC-NCF과 달리 접합 공정이 생략돼 생산속도가 높고 불량률을 낮출 수 있는 장점이 있다. 

다만 범프를 사용해 연결하는 방식이기 때문에 범프 자체가 차지하는 높이를 감안해 웨이퍼를 더 얇게 깎아내야 한다는 부담이 있다. SK하이닉스 이를 해결하기 위해 보호재에 저점도 신소재를 도입하는 등 신기술을 도입할 것으로 보인다.   

삼성전자와 SK하이닉스의 HBM 경쟁에서 앞으로 적층 기술이 더 중요해질 것이란 분석도 나온다.

반도체 업계 관계자는 "HBM3E는 12단이 주력 제품이었지만, HBM4부터는 16단이 표준으로 자리잡을 가능성이 있다"며 "7세대 제품인 HBM4E는 20단까지 높아질 것"이라고 말했다. 나병현 기자