AI 시대를 맞아 '삼성전자는 무엇을 준비하고 있느냐'는 의문에 경계현 삼성전자 DS부문장 겸 대표이사 사장이 대답을 내놓은 것이다.
삼성전자가 계획대로 올해 4분기부터 자체 AI칩 양산에 들어간다면, 그동안 실적부진에 시달렸던 시스템LSI와 파운드리사업부의 반등이 더 빨라질 것으로 예상된다.
14일 반도체와 증권 업계 취재를 종합하면 삼성전자가 이르면 올해 4분기부터 AI 추론칩 ‘마하1’ 양산에 들어가 고객사인 네이버에 공급을 시작할 전망이다.
AI 반도체는 크게 학습용과 추론용으로 나뉜다.
학습용 AI 반도체는 방대한 데이터를 학습하는 데 활용되고, 추론용 반도체는 학습된 데이터를 기반으로 AI 서비스에 필요한 결과물을 출력하는 데 사용된다.
AI 추론칩은 적은 데이터와 간단한 수학적 연산을 저전력으로 빠르게 처리할 수 있는 성능이 요구된다.
삼성전자의 AI 추론칩 '마하1'은 전력소모 측면에서 강점을 지니고 있다.
엔비디아의 AI칩이 고대역폭메모리(HBM)를 활용하는 반면, 마하1은 저전력 D램인 LPDDR을 사용하기 때문이다.
또 AI 칩을 구성하는 핵심인 메모리와 신경망처리장치(NPU) 사이의 데이터 병목현상을 8분의 1로 줄이는 동시에 전력 효율을 8배 높이도록 설계됐다고 회사 측은 설명했다.
경계현 사장은 올해 3월20일 삼성전자 주주총회에서 “메모리 처리량을 8분의 1로 줄이고, 8배 전력 효율을 갖게 하는 것을 목표로 현재 개발 중인 마하1 칩은 혁신의 시작이 될 것”이라며 “저전력 메모리로도 거대언어모델(LLM)의 추론이 가능하도록 준비하고 있다”고 말했다.
마하1의 가장 큰 장점은 가격이다.
개당 약 500만 원 가격이 책정될 것으로 예상되는데, 엔비디아의 주력 AI칩 ‘H100’이 개당 4만 달러(약 5500만 원)인 것과 비교하면 10분의 1 수준인 셈이다.
이 때문에 마하1을 비롯한 삼성전자의 가성비(가격대비성능) 칩이 기존 엔비디아 중심의 AI 반도체 시장에 지각변동을 일으킬 것이란 전망까지 나오고 있다.
김동원 KB증권 연구원은 “AI 추론에서는 업종별 맞춤형 AI칩이 더 효과적”이라며 “AI 대중화를 위해 AI 반도체는 전력효율과 가성비를 동시에 갖춘 추론용 AI 반도체, 즉 주문형 AI 반도체로 무게 중심이 이동할 것”이라고 내다봤다.
삼성전자는 지난해까지 고대역폭메모리(HBM) 시장에서 SK하이닉스에 밀리는 모습 보이면서 AI 시대를 맞아 경쟁사에 뒤처지는 것 아니냐는 지적을 받아왔다.
하지만 반도체 설계와 파운드리(반도체 위탁생산), 패키징, 메모리반도체까지 ‘AI 토탈 솔루션’을 제공할 수 있다는 장점을 적극 활용해, AI추론칩에서 새 성장동력을 찾기 시작한 것이란 해석이 나온다.
▲ 삼성전자의 AI 추론칩 시장 진출은 시스템반도체 사업의 실적반등 계기가 될 것으로 예상된다. <그래픽 비즈니스포스트>
시장조사업체 옴디아는 AI 추론칩 시장이 2023년 60억 달러(약 8조2600억 원)에서 2030년 1430억 달러(약 197조 원)로 7년 만에 24배 성장할 것으로 전망했다.
이 같은 AI 추론칩 시장 확대는 적자에 빠져있는 삼성전자 파운드리, 시스템LSI사업부의 실적 대반전 계기가 될 것으로 보인다.
삼성전자는 시스템반도체(파운드리, 시스템LSI)에서 지난 한 해 동안에만 약 2조6840억 원의 영업손실을 냈으며, 올해 1분기에도 8천억 원가량의 영업손실을 거뒀을 것으로 추산된다.
파운드리는 첨단공정에서 자체 물량 외에 대형고객사를 확보하는 데 어려움을 겪고 있고, 시스템LSI도 기존 모바일 프로세서(AP)나 이미지센서만으로 수익성 확보에 한계에 부딪힌 것으로 분석된다.
하지만 마하1을 시작으로 AI추론칩 물량이 본격적으로 확대된다면, 기존 메모리에 비해 다소 약했던 회사의 시스템반도체 사업도 크게 부상할 것으로 예상된다.
삼성전자의 마하1 네이버 공급물량은 약 20만 개, 1조 원 규모가 될 것으로 전망되고 있다. 게다가 경 사장은 두 번째 AI 추론칩 ‘마하2’ 개발에도 착수하겠다고 앞서 밝혔다.
미국 IT매체 톰스하드웨어는 “마하1이 당장은 엔비디아 H100과 같은 AI칩과 경쟁하도록 설계되지는 않았지만, 아마존의 자체 반도체 ‘인퍼런시아’를 포함해 다른 AI 추론형 칩과는 확실히 경쟁력을 갖출 것”이라며 “삼성은 마하-1 개발에만 집중하는 것이 아니라 광범위한 AI칩 개발에도 적극 참여하고 있다”고 보도했다. 나병현 기자