이형수 대표 “확실한 수요 확인된 HBM… 부상하는 ‘온 디바이스 AI’”

SK하이닉스가 HBM(고대역폭메모리)의 확실한 수요 증가를 입증했다. SK하이닉스는 3분기 실적 발표를 통해 D램 부문에서 인공지능(AI) 서버에 들어가는 고부가 제품 HBM3와 DDR5(Double Data Rate 5) 판매 비중이 확대되며 전분기 대비 적자폭을 1조 원 이상 줄였다고 밝혔다. 4분기 낸드플래시 부문에서 반등이 시작될 가능성이 커지면서 흑자전환 기대감도 높아지고 있다. 무엇보다 글로벌 빅테크 기업들이 AI 클라우드 시장에서 치열하게 경쟁을 펼치는 가운데 ‘온 디바이스 AI’로 시장이 확대되고 있어 HBM 공급 부족 전망까지 나온다. 실제로 SK하이닉스는 3분기 실적 콘퍼런스 콜에서 “HBM3와 HBM3E를 포함해 내년 캐파(생산능력)가 ‘솔드아웃’됐다”고 밝혔다.

이형수 HSL파트너스 대표는 “HBM 시장이 예상보다 빠르게 커지고 있다”며 “지금은 온 디바이스 AI에 주목할 필요가 있다”고 강조했다. 온 디바이스 AI 시대에는 어떤 기업이 수혜를 입을까.

11월 6일 반도체 전문가 이형수 HSL파트너스 대표를 만나 향후 국내외 반도체 시장 흐름과 온 디바이스 AI 시장을 분석했다.

이형수 HSL파트너스 대표. [지호영 기자]

낸드플래시도 곧 반등할 듯

SK하이닉스가 3분기 D램 부문에서 5000억 원가량 영업이익을 내며 흑자전환에 성공했다.

“HBM3와 DDR5가 하드캐리하며 D램 흑자전환을 이끌었다. 엔비디아 AI용 GPU(그래픽처리장치)에 HBM이 채택되면서 D램 사이클이 예상보다 빨리 올라왔다. 이에 낸드플래시와 시차가 났지만 조만간 낸드플래시도 반등할 것으로 보인다. 낸드플래시 부문 트리거는 내년 일반 서버 시장이다.”

일반 서버 시장은 어떤 상황인가.

“메모리 반도체의 주요 수요처는 서버와 모바일, 개인용 컴퓨터(PC)로 구성된다. 특히 낸드플래시는 PC용 SSD(Solid State Drive)와 모바일용 eMMC(embedded MultiMedia Card: 내장형 멀티미디어카드)와 UFS(Universal Flash Storage: 범용플래시저장장치)와 일반 서버에 많이 들어간다. 그런데 올해 글로벌 빅테크 기업들이 생성형 AI용 GPU와 HBM3에 집중 투자하다 보니 일반 서버 시장 수요가 거의 없었다. 낸드플래시는 일반 서버 시장이 살아나야 수요를 기대할 수 있는 상황이다.”

삼성전자는 SK하이닉스에 빼앗긴 HBM 시장 주도권을 확보하고자 힘쓰는 모습인데.

“삼성전자와 SK하이닉스 희비는 AI 반도체용 주문형 메모리 반도체 시장에서 갈렸다. 최근 빅테크 기업들은 자체 시스템에 최적화된 AI를 구현하기 위해 프로세스뿐 아니라 메모리도 주문형으로 사용하고 있다. 이 주문형 메모리의 대표가 바로 HBM3다. 최근 애플은 자체 설계한 R1칩에 들어갈 고성능 모바일 D램을 SK하이닉스에 주문했으며, 8월에는 엔비디아 담당자도 SK하이닉스를 방문했다. 글로벌 기업들이 삼성전자가 아니라 SK하이닉스를 찾기 시작하자 삼성전자는 HBM3와 HBM3E 생산계획을 디테일하게 공개하기도 했다. 현재는 삼성전자도 주문형 모바일 D램을 생산하는 데 필요한 준비가 어느 정도 돼 있는 것으로 보인다.”

삼성전자는 4분기에 HBM3를 양산한다고 밝혔다.

“당초 경계현 삼성전자 사장이 9월 HBM3 양산을 공언했는데, 3분기 실적 발표 콘퍼런스 콜에서는 4분기에 양산한다고 밝혔다. 이렇다 보니 당분간 SK하이닉스가 HBM3와 HBM3E 시장을 주도할 수밖에 없는 상황이다. 삼성전자는 2025년 이후 시작될 HBM4 시장에서 승부를 걸 것으로 보인다.”

3분기 D램 부문에서 흑자전환한 SK하이닉스. [뉴스1]

HBM3 공급 부족할 수도

엔비디아의 AI용 GPU 공급은 여전히 원활하지 않은 것 같다.

“엔비디아의 AI용 GPU인 H100칩은 주문 후 인도까지 40주가량 걸렸는데, 최근 52주로 늘었다. 그만큼 공급 부족이 심각하다. TSMC가 캐파 증설에 공을 들이는데도 수요를 따라잡을 수 없을 정도다. 이런 상황이 길어지면 엔비디아는 고객사를 AMD 같은 기업에 뺏길 수 있어 내년 4분기 출시 계획이던 차세대 칩 B100의 생산을 2분기로 앞당겼다.”

AI용 반도체 수요가 폭발하면서 TSMC도 증설에 박차를 가하고 있다.

“AI용 반도체 칩은 기본적으로 TSMC의 어드밴스드 패킹징인 CoWos(Chips on Wafer on Substrate) 2.5D 구조를 채택하고 있다. 올해 초 TSMC의 CoWos 생산량은 월 1만7000장 정도였는데, 수요가 폭증하자 TSMC가 대규모 증설에 나서며 내년에는 월 8만 장까지 늘어날 전망이다. 그럼에도 2025년까지는 공급 부족 현상이 발생할 것으로 전망된다.”

국내 반도체 기업들의 HBM 공급에는 문제가 없나.

“올해 HBM 시장은 지난해 대비 2배 넘게 성장한 44억 달러(약 5조7400억 원) 규모로 예상되며, 내년에는 175% 이상 성장할 전망이다. HBM 수요가 당초 계획보다 급증하면서 삼성전자는 천안과 온양의 후공정 라인에 어드밴스드 패키징 아이큐브 라인을 설치하고 있다. SK하이닉스는 엔비디아가 선지급한 투자금으로 청주에 HBM 라인을 증설 중이다. 그럼에도 시장조사업체들은 TSMC가 5배 증설하기 때문에 HBM 쇼티지(공급 부족)가 발생할 수 있다는 전망을 내놓고 있다.”

애플 온 디바이스 AI 강화

AI 시장에서 애플이 주춤하는 모습이다. 애플은 생성형 AI 기술의 도약을 위해 어떤 준비를 하고 있나.

“애플은 마이크로소프트(MS), 아마존, 구글 등 경쟁 빅테크가 앞다퉈 생성형 AI를 선보이는 동안 주목할 만한 결과물을 내놓지 못했다. 애플GPT를 구축했다는 소식이 전해진 정도다. 애플은 ‘시리’에 열심히 투자했는데, 시리가 생산형 AI가 아니다 보니 매몰 비용이 돼버렸다. 애플은 이를 극복하고자 온 디바이스 AI 강화로 시간을 벌면서 AI 클라우드 투자에 박차를 가할 것으로 보인다. 애플은 올해 AI 클라우드에 6조2000억 달러(약 8094조1000억 원) 정도 투자했고, 내년에는 45억7000만 달러(약 5조9660억 원)를 추가 투자한다.”

애플뿐 아니라 삼성전자도 3분기 실적 발표 콘퍼런스 콜에서 온 디바이스 AI 기술 도입을 예고했다. 새로운 AI용 반도체 밸류체인 ‘온 디바이스 AI’가 정확히 무엇인가.

“생성형 AI 서비스는 디바이스에서 질문하면 클라우드에서 그 물음을 연산한 뒤 통신을 통해 답한다. 이때 막대한 컴퓨팅 파워가 쓰이는데, 사실 매번 클라우드를 사용할 만큼 높은 수준의 연산이 필요한 건 아니다. 단순한 연산은 디바이스 자체 AI를 통해서도 충분히 해결할 수 있다. 이처럼 디바이스 자체에서 문제를 해결하는 것이 온 디바이스 AI다. 스마트폰은 이미 어느 정도 온 디바이스 AI가 적용돼 있고, PC는 기존 칩에 NPU(Neural Processing Unit: 신경망처리장치)를 더해 온 디바이스 AI를 구현할 것으로 전망된다.”

온 디바이스 AI 시대가 본격화되면 클라우드 시장은 어떻게 되나.

“온 디바이스 AI는 그동안 비효율적이던 프로세싱이 효율화되는 것이다. 따라서 AI 클라우드 시장은 그대로 성장할 것으로 보인다.”

온 디바이스 AI 밸류체인에서 수혜를 입을 기업을 꼽는다면.

“퀄컴을 꼽을 수 있다. 온 디바이스 AI 트렌드에 따라 최근 스마트폰에서 사용되던 ARM코어 기반 칩들이 PC와 일반 서버에까지 진출하고 있다. 퀄컴은 스마트폰에 들어가는 ARM코어 기반의 칩 ‘스냅드래곤’을 주로 설계했는데, ‘윈도우’ OS용 스냅드래곤X 엘리트를 내놨다. 이후 ‘윈텔동맹’으로 불릴 만큼 인텔과 협업했던 MS도 인텔을 등지고 퀄컴 칩을 사용하기 시작했다. AI에 진심인 MS는 AI를 위해서라면 인텔과 동맹이 느슨해져도 상관없다는 것이다. 최근 MS는 엔비디아가 ARM코어 기반 CPU를 설계할 때도 적극 지원했다.”

ARM코어란 무엇인가.

“컴퓨터에는 인텔이나 AMD의 CPU가 들어가고, 모바일 기기의 95%에는 영국 반도체 설계 기업 ARM의 CPU가 들어간다. ARM코어는 ARM 프로세서의 핵심 부문을 뜻한다. 컴퓨터는 CISC(Complex Instruction Set Computer: 복합 명령 세트 컴퓨터)와 RISC(Reduced Instruction Set Computer: 축소 명령형 컴퓨터)로 나뉜다. CISC는 컴퓨팅 파워가 뛰어나지만 전기가 많이 소모돼 유선 컴퓨터에 주로 사용된다. 반면 RISC는 컴퓨팅 파워는 좀 떨어져도 전기 소모가 적은 것이 특징이다. RISC가 바로 ARM코어 기반이다. 주목할 점은 최근 기술 발전으로 RISC 컴퓨팅 파워가 CISC를 넘어서고 있어 온 디바이스 AI에 더 유리하다는 것이다.”

3분기 실적 발표에서 MS와 구글은 AI 클라우드 부문의 희비가 엇갈렸다.

“MS는 AI 클라우드에서 수익 창출이 가능하다는 것을 보여준 반면, 구글은 그러지 못했다. 일각에서는 구글이 스마트폰 시대가 열리면서 쇠퇴한 노키아와 모토로라의 전철을 밟는 것 아니냐는 우려도 나온다. 하지만 생성형 AI의 기반이 되는 트랜스포머 모델을 개발한 구글이 AI 시장에서 더딘 모습을 보이는 것은 검색엔진 위주의 사업 구조 때문이다. 생성형 AI는 질문하면 바로 답이 나오지만 검색엔진은 광고부터 나온다. 구글은 이 광고가 매출에서 대부분을 차지하는데 생성형 AI로 전환하면 카니발리제이션(잠식효과)이 생기기 때문에 빠르게 사업 구조를 바꾸기 어렵다. 반면 검색엔진 시장점유율이 낮은 MS는 잃을 게 없으니 사업 구조를 빠르게 생성형 AI로 전환할 수 있었을 것이다.”

향후 AI 시장은 어느 기업이 주도할 것으로 보나.

“현재는 오픈AI의 챗GPT가 주도하는 상황이고, 오픈AI에 지분투자를 한 MS는 AI 서비스 MS365 코파일럿을 유료화하면서 치고 나갔다. 하지만 AI 시대는 이제 시작이다. 구글이 어떻게 대응하느냐가 중요해졌다. 일각에서는 구글이 AI 인프라를 깔고 앉아 있어 생성형 AI를 열심히 안 해도 된다고 하는데 나는 그렇게 보지 않는다. 한 시대에 압도적 기술을 가졌던 기업이라도 시대 흐름에 뒤처지면 퇴출되는 건 순식간이기 때문이다.”

반도체 소재 기업 주목할 만

앞으로 투자자는 어떤 전략으로 반도체 투자에 나서야 할까.

“AI 트렌드는 꺾이지 않을 것으로 보인다. 한국 시장에서는 HBM과 삼성전자의 파운드리(반도체 위탁생산) 역할 확대를 주목해야 한다. 삼성전자는 단순히 HBM3 시장에서 SK하이닉스를 추격하는 게 중요한 것이 아니라 파운드리 선단 공정과 턴키 공급에서 가시적 성과를 내야 한다. 더불어 반도체 전 공정 기업도 주목할 만하다. D램과 낸드플래시 가격이 반등하면 그동안 소외됐던 전 공정 관련주들이 상승할 수 있다. 특히 동진쎄미켐, 솔브레인, 한솔케미칼 같은 프로세스 케미컬 업체와 삼성전기, 대덕전자, 해성디에스 같은 기판 업체가 괜찮아 보인다.”

HBM 관련주를 추격매수하기엔 늦었다고 보나.

“밸류에이션이 부담스럽지만 모멘텀 투자자라면 계속 주목할 만하다. 특히 최근 대장주인 한미반도체는 ETF(상장지수펀드)에 큰 비중으로 들어가고 있다. 한미반도체는 한국투자증권이 출시한 에이스AI ETF에 삼성전자, SK하이닉스와 동일하게 25% 비중으로 편입됐고, 11월 중순 나오는 미래에셋타이거 ETF에는 16.5% 비중으로 들어간다. 밸류에이션이 높지만 수급이 계속 들어오니까 주가가 어느 정도까지는 올라갈 수 있을 것으로 보인다.”