메모리반도체와 시스템반도체의 물리적 거리를 최대한 좁히고 최종적으로는 하나로 결합해 ‘AI 반도체 왕좌’를 차지하겠다는 구상이다.
경계현 삼성전자 사장은 14일 새벽 사회관계망서비스(SNS) 인스타그램에 미국 라스베이거스에서 열린 세계 최대 가전·IT전시회 ‘CES 2024’ 현장을 방문한 사진과 함께 AI 반도체에 대한 생각을 글로 올렸다.
경계현 사장은 “메모리와 컴퓨트 사이의 거리를 줄이려는 시도가 지속될 것이다. 그리고 서버에서 시작된 이 시도는 PC로, 스마트폰으로 진화해 갈 것이다”라며 “새로운 기회가 온 것이다. AI의 시대”라고 말했다.
경 사장은 “지금은 시작일 뿐일 수 있다”며 “CES에서 만난 대부분 고객과의 대화 주제는 AI였다”고 덧붙였다.
2022년 11월 처음으로 등장한 생성형 AI ‘챗GPT’는 기존 반도체 산업에 대변혁을 불러일으키고 있다.
생성형 AI를 학습시키는 데 필수적인 그래픽처리장치(GPU)와 더불어 고대역폭메모리(HBM) 수요도 급증했기 때문이다.
챗GPT와 같은 인공지능 서비스의 학습과 추론은 게이밍용 GPU보다 훨씬 방대한 양의 데이터를 처리해야 하는데, 이를 GPU만으로 대응하려면 천문학적인 비용이 든다. 하지만 GPU와 함께 HBM를 활용하면 가격이 높은 GPU 사용을 줄여 비용 효율성을 높일 수 있다.
HBM은 D램을 여러 층으로 쌓아올린 형태의 고성능 메모리반도체로 기존 D램보다 데이터를 더 빠르게 전송할 수 있다는 장점이 있다. 반도체 대역폭이 높을수록 단위 시간 동안 전송할 수 있는 데이터는 많아진다.
삼성전자는 최근까지 HBM에서 경쟁사인 SK하이닉스에 다소 밀리는 형국이었다.
챗GPT 등장에 따른 AI 반도체 수요 확대가 일시적 현상일 수 있다고 판단해 기존 설비의 전환을 망설였던 것이다. 하지만 서버에서 시작된 AI 반도체 수요가 PC와 스마트폰으로 확산하자 삼성전자도 2024년 HBM 투자를 지난해보다 2.5배 확대하겠다고 발표했다.
한진만 삼성전자 DS부문 미주총괄(DSA) 부사장은 11일 CES 2024 행사에서 “경계현 사장의 철학은 시장의 높고 낮음에 따라서 CAPEX(설비투자)를 변화하는 과거의 형태는 맞지 않다는 것이어서 작년 어려운 시황에도 설비투자를 상당히 높게 유지했다”며 “2~3년 뒤 삼성전자가 고성능컴퓨팅(HPC), 생성형 AI 시대에 파운드리와 메모리의 융합을 통한 강자가 될 것이라 자신한다”고 말했다.
삼성전자는 HBM 외에도 PIM-HBM(지능형반도체+고대역폭메모리), CXL(컴퓨트 익스프레스 링크) 등의 신기술 개발로 AI 시대를 준비하고 있다.
PIM은 연산 기능을 시스템반도체인 CPU나 GPU가 담당한다는 일반적 인식을 완전히 깨버린 메모리반도체다. 기존 GPU나 CPU를 완전히 대체하는 것은 아니지만 연산기능을 일부 보조함으로써 데이터 처리 속도를 극대화하는 방식이다.
삼성전자는 PIM-HBM이 기존 HBM이 탑재된 GPU 가속기와 비교해 AI 모델의 생성 성능을 3.4배 개선한다고 밝히기도 했다.
CXL은 컴퓨터 시스템 내부에서 다양한 구성 요소들 사이에 데이터를 빠르게 전송하기 위한 인터페이스 기술이다.
CXL을 활용하면 기존의 여러 인터페이스를 하나로 통합해 각 장치를 직접 연결하는 만큼 데이터 처리 길(pathway)을 빠르고 효율적으로 확장할 수 있다.
즉 삼성전자가 추구하는 AI 반도체의 핵심 목표는 CPU나 GPU와 같은 시스템반도체와 메모리반도체의 거리를 좁혀 데이터 병목현상을 최소화하는 것이다.
메모리반도체와 시스템반도체가 점차 가까워지고 있고 최종적으로 하나로 결합되는 단계까지 온다면 종합반도체(IDM) 기업인 삼성전자의 경쟁력은 더욱 부각될 것으로 예상된다.
그동안 다른 공간에서 서로 작업하며 정보를 주고받던 메모리반도체와 시스템반도체가 한 장소에서 작업을 진행하도록 만들려면 각 반도체에 대한 이해가 필수적이다. 이를 고려하면 메모리만 제조하는 SK하이닉스, 파운드리만 하는 TSMC는보다 삼성전자가 유리한 고지를 점할 수 있는 셈이다.
삼성전자는 메모리반도체 뿐만 아니라 모바일 프로세서(AP)와 같은 시스템반도체 설계, 파운드리까지 담당하고 있어 AI 반도체 고객사에 원스톱으로 서비스를 제공할 수 있는 체제를 갖추고 있다.
이 때문에 최근 삼성전자 파운드리사업부에는 세계 AI 스타트업체들의 AI 반도체 생산을 위한 문의가 급증하고 있는 것으로 알려졌다.
김동원 KB증권 연구원은 “삼성전자는 메모리, 파운드리, 세트 사업을 동시 보유한 유일한 업체로 생성 AI가 보편화할 2~3년 후에는 AI 턴키(일괄수주) 솔루션 경쟁우위가 부각될 것”이라며 “파운드리 생태계 강화와 턴키 시너지로 TSMC보다 우위에 있을 수 있다”고 분석했다.
해외 매체 로이터도 9일 “AI 반도체 열풍이 지속되는 가운데 삼성전자가 ‘원스톱’ 서비스를 제공할 수 있는 기업으로 더욱 주목받고 있다”며 “삼성전자는 AI 반도체 왕좌를 탈환할 준비가 돼 있다”고 평가했다. 나병현 기자
