엔비디아가 3월 18일(현지 시간) 미국 캘리포니아주 새너제이 SAP센터에서 ‘GTC(GPU Technology Conference) 2024’를 열었다. 젠슨 황 엔비디아 최고경영자(CEO)는 이번 콘퍼런스에서 ‘풀 스택(full stack)’으로 인공지능(AI) 플랫폼을 만들겠다고 강조했다. 엔비디아가 단순 GPU(그래픽처리장치) 공급에서 벗어나 모든 영역의 AI 기술과 서비스를 토털로 제공하겠다는 것이다. 그러면서 한 차원 업그레이드된 새로운 아키텍처(하드웨어와 소프트웨어를 포함한 컴퓨터 시스템 전체 설계 방식) ‘블랙웰’을 공개했다. ‘GTC 2024’ 이후 글로벌 투자은행 골드만삭스는 엔비디아 목표주가를 1000달러(약 134만 원)로 상향했으며, 시장은 SK하이닉스, 삼성전자, 마이크론 등 국내외 고대역폭메모리(HBM) 업체들이 수혜를 입을 것이라는 전망을 쏟아내고 있다. 엔비디아가 AI 플랫폼 기업으로 거듭난다면 어떤 기업이 최대 수혜를 받을까. 3월 25일 이형수 HSL파트너스 대표를 만나 엔비디아 ‘GTC 2024’를 분석하고 수혜 기업을 알아봤다.

엔비디아, AI 플랫폼 기업으로 거듭나

엔비디아 ‘GTC 2024’에서 가장 주목할 점은 무엇인가.
“엔비디아가 ‘GTC 2024’를 통해 AI 토털서비스 기업으로 거듭나겠다고 밝힌 것이다. 단순 GPU 공급을 넘어 데이터센터에 아파트같이 들어선 ‘래크(rack)’를 공급하고 소프트웨어까지 제공한다는 계획이다. 소프트웨어로는 개발자 생태계인 ‘쿠다(CUDA)’뿐 아니라, 로봇이나 자율주행차 개발에 사용되는 디지털 트윈 기반 시뮬레이션 테스트 ‘옴니버스’도 제공한다. 엔비디아 제품을 쓰면 AI가 전부 해결되는 식이다. AI 혁명에서 엔비디아가 저인망식으로 싹쓸이에 나섰다.”

쿠다는 AI 개발자들이 프로그래밍을 위해 사용하는 소프트웨어로 2006년 개발됐다. 지난 18년간 AI 개발자들이 쿠다만 사용해 프로그래밍하다 보니 ‘쿠다 생태계’가 만들어졌다. 무엇보다 쿠다로 만든 프로그램은 엔비디아 GPU에서만 돌아간다. 이런 이유로 현재 엔비디아가 AI 시장을 독점할 수밖에 없는 상황이다.

엔비디아가 ‘GTC 2024’에서 공개한 블랙웰은 어떤 제품인가.
“블랙웰은 유명한 미국 흑인 수학자 이름을 따서 만든 엔비디아의 새로운 아키텍처다. 블랙웰에는 다양한 장점이 있는데, 가장 큰 강점은 연결성이다. 타사 GPU는 다른 칩과 연결할 때 커뮤니케이션 속도가 떨어지는데, 블랙웰은 다른 칩과 연결해도 속도가 빠르다. 또한 원래 3㎚ 공정으로 TSMC가 생산할 것으로 예상됐으나, 4㎚로 생산된다고 한다.”



블랙웰 아키텍처가 적용된 AI 칩은 역대 최대인 2080억 개 트랜지스터가 집약됐다. 기존 H100은 800억 개 트랜지스터로 이뤄졌다. H100과 비교해 연산 속도가 2.5배 빠르다. 블랙웰 플랫폼은 4㎚ 칩 다이 2개를 칩렛(Chiplet) 기술로 하나로 엮어 단일 칩처럼 작동하며, HBM을 강화해 성능을 높였다.

엔비디아는 블랙웰을 공개하면서 그레이스 CPU(중앙처리장치)와 함께 사용할 수 있다는 점을 강조했다.
“엔비디아는 B200 2개와 그레이스 CPU를 연결한 슈퍼칩 GB200도 출시할 예정이다. 이 칩은 기존 H100에 비해 성능이 최대 30배 향상됐다. 또한 엔비디아는 그레이스 CPU 36개와 블랙웰 72개를 하나의 래크 형태로 묶어 ‘GB200 NVL72’ 컴퓨팅 유닛으로 시장에 공급한다는 계획이다.”

엔비디아는 마이크로소프트(MS)나 애플 같은 플랫폼 기업으로 거듭나겠다며 소프트웨어 구독 모델 ‘NIM’도 발표했는데.
“AI 서버를 만들려면 개당 4만 달러(약 5390만 원) 정도 하는 GPU 8개가 필요하다. 하지만 벤처기업은 그만큼 자금이 없다. 엔비디아는 이런 기업들을 위해 GPU 개당 연간 4500달러(약 606만 원)를 내면 AI 서버는 물론, 시뮬레이션 서비스까지 이용할 수 있는 구독서비스 ‘NIM’을 출시할 계획이다. 비교하자면 정수기를 팔다가 이젠 정수기 렌털 서비스까지 하는 셈이다.”

황 CEO의 사업 수완이 남다른 것 같다.
“황 CEO가 이번 AI 혁명 사이클에서 시쳇말로 제대로 뽑아먹고 있다. 현재 엔비디아는 AI 서버용 GPU 시장을 독점 중인데, 이 독점이 깨지더라도 계속 성장할 수 있는 시나리오까지 짜고 있다.”

삼성 파운드리 3㎚ 선택 못 받아

엔비디아는 왜 블랙웰을 3㎚에서 4㎚ 공정으로 변경했나.
“TSMC의 3㎚ 공정이 이미 꽉 차 있기 때문이다. 올해 TSMC는 애플 맥북용 프로세서 M4와 아이폰 AP 두뇌 칩 등에 들어가는 NPU 등을 3㎚ 공정으로 생산하는데, AI가 가속화되면서 칩 면적이 예상보다 50%가량 늘어났다. 그 여파로 블랙웰을 TSMC의 3㎚ 공정에서 생산하지 못하게 되자 4㎚ 공정으로 변경한 것으로 보인다.”

엔비디아가 삼성전자 파운드리 3㎚ 대신 TSMC의 4㎚를 선택했다는 얘기인데.
“엔비디아나 AMD 같은 업체들이 아직 삼성전자 파운드리 3㎚ 공정을 신뢰하지 못하는 것 같아 안타깝다. 삼성전자 파운드리는 3㎚ GAA(게이트 올 어라운드)로 승부수를 던졌는데 고객사 반응을 보면 신통치 않은 것 같다. 반면 삼성전자 파운드리 4㎚는 고객 유치 상황이 좋다. 다만 미래를 생각하면 삼성전자 파운드리는 GAA가 성장해야 한다.”

블랙웰 출시로 삼성전자, SK하이닉스, 마이크론 등 HBM 3사의 경쟁이 격화되는 양상이다.
“3파전으로 보이지만 아직까지는 SK하이닉스 독주다. 현재 5세대 HBM 일부 물량을 마이크론이 공급 중이고, 하반기에 마지막으로 삼성전자가 본격적으로 납품을 시작할 것으로 보인다.”

엔비디아가 삼성전자의 5세대 HBM3E를 검증하고 있다던데.
“황 CEO가 ‘GTC 2024’에서 삼성전자 HBM3E에 ‘젠슨 승인(JENSEN APPROVED)’이라고 사인해 화제를 모았지만, 현재 삼성전자는 엔비디아에서 HBM3E 테스트를 받고 있다. 엔비디아 입장에서는 삼성전자가 5세대 HBM3E를 꼭 양산해야 하는 상황이라 이런 제스처까지 한 것으로 보인다. 엔비디아의 AI 서버용 GPU 공급 부족은 TSMC의 2.5D 패키징 캐파(생산능력)가 부족했기 때문이다. 그런데 최근 TSMC가 공격적으로 투자하고, 일부 물량을 인텔이 받아가면서 병목이 풀리고 있다. 또한 인터포저와 HBM, 기판 등을 붙이는 후공정은 대만 ASE와 미국 앰코테크놀로지 등 OSAT(반도체 조립·테스트 외주) 기업이 일부 맡으면서 공급 부족이 해결되고 있다. 남은 건 SK하이닉스가 독점 중인 HBM이다. 엔비디아 입장에서는 SK하이닉스만큼 생산할 수 있는 삼성전자가 빨리 HBM3E를 양산해야 HBM 공급 부족이 해결되는 것이다.”

마이크론은 엔비디아에 HBM3E를 공급하기 시작했다고 밝힌 바 있다.
“마이크론이 생산을 시작했지만 올해 마이크론의 HBM 예상 매출은 7억 달러(약 9429억7000만 원)에 불과하다. SK하이닉스의 올해 HBM 매출이 10조 원 정도로 전망되니 10분의 1 수준이다. 마이크론은 인텔과 손잡고 차세대 메모리 ‘3D X포인트’를 개발하는 와중에 HBM이 차세대 메모리로 자리매김했다. 그만큼 마이크론은 HBM을 충분히 준비하지 못했고, 생산량 또한 많지 않다.”

SK하이닉스는 HBM3E를 세계 최초로 양산해 3월 말 엔비디아에 납품한다.
“엔비디아는 2분기에 출시하는 H200에 HBM3E를 넣을 계획이다. 또한 블랙웰 아키텍처부터 HBM3E가 기본으로 들어간다. 따라서 SK하이닉스는 스케줄상 지금부터 양산에 들어가야 한다. 당분간 SK하이닉스가 HBM3E의 상당 부분을 납품하고, 일부 물량을 마이크론과 삼성전자가 담당할 것으로 보인다.”

HBM 3사 가운데 기술력에서 앞선 기업은 어디인가.
“현재 HBM3E를 제대로 양산하는 기업은 SK하이닉스가 유일하고 생산 수율도 70% 정도로 가장 앞서 있다. 마이크론과 삼성전자는 수율이 20~30% 수준으로 추정된다. 또한 GPU는 열이 많이 발산되기 때문에 HBM의 발열 성능이 중요하다. SK하이닉스는 HBM 전체에 열을 가해 납땜을 하고, 칩 사이에 액체 형태의 보호재를 넣어 공백을 채우는 MR-MUF(매스 리플로-몰디드 언더필) 기술로 HBM을 생산해 발열 성능이 좋다. 반면 삼성전자와 마이크론은 칩 사이에 필름을 층층이 까는 NCF(논 컨덕티브 필름) 방식으로 생산해 열 배출 성능이 떨어진다. 업계에 따르면 SK하이닉스와 타사의 열 성능은 30%가량 차이가 나는 것으로 나타난다. 필름을 7㎛까지 얇게 하면 SK하이닉스의 발열 성능을 잡을 수 있는데, 쉽지 않아 보인다.”

삼성전자 밸류체인 수혜 가능

당분간 SK하이닉스 독주가 지속될까.
“올해 초까지 화두는 독점이었다. AI 반도체는 엔비디아가, AI 반도체 생산은 TSMC가 독점이었다. 또한 HBM3는 SK하이닉스가, HBM3를 만드는 데 필요한 본더는 한미반도체가 독점이었다. 다만 이제부터는 독점 구도가 풀릴 것으로 보인다. ‘GTC 2024’에서 황 CEO가 ‘지금은 AI 가속기 쪽에서 80~90%가 엔비디아 독점 상태인데 앞으로 70%대까지 내려온다’며 ‘독점 구도가 깨진 이후를 준비하기 위해 다양한 서비스를 내놓고 있다’고 말하기도 했다. TSMC의 독점 구도도 인텔과 삼성전자 파운드리, OSAT 업체들이 참여하면서 깨지고 있다. HBM 분야도 SK하이닉스 독점 구도에 삼성전자, 마이크론이 들어오고 있다.”

그렇다면 투자자들은 어떤 기업을 주목해야 할까.
“엔비디아가 여전히 GPU 서비스를 강화하고 있지만 점차 독점이 깨진다면 자체 설계 칩이 많아지게 된다. 이 경우 설계 툴을 제공하는 기업이나 IP를 제공하는 ARM, 램버스 같은 회사가 단기적으로 유망할 것으로 보인다. 국내에서는 상대적으로 소외받고 있는 삼성전자 밸류체인이 수혜를 볼 수 있다. 원익IPS, 유진테크, 디엔에프 같은 회사다.”

엔비디아가 세계 시가총액 1위가 될 수 있다는 전망도 나온다.
“엔비디아는 현재 세계 시가총액 3위로, 2위인 애플을 곧 넘을 것으로 보인다. 장기적으로 시가총액 1위 마이크로소프트도 넘을 가능성이 충분하다. 엔비디아가 GPU 공급사에서 AI 플랫폼 기업으로 레벨 업했기 때문이다.”

_{*유튜브와 포털에서 각각 ‘매거진동아’와 ‘투벤저스’를 검색해 팔로잉하시면 기사 외에도 동영상 등 다채로운 투자 정보를 만나보실 수 있습니다.}