엔비디아 GPU 26만 장, 돌릴 인재도 전력도 부족하다

엔비디아 그래픽처리장치(GPU) 26만 장을 확보했으나 이를 활용할 인재가 부족하다는 지적이 제기된다. GETTYIMAGES

“인공지능(AI) 연구에 필수적인 그래픽처리장치(GPU)가 국내로 충분히 들어온다는 점 자체는 고무적이다. 그동안 GPU 부족이 연구자들을 해외로 떠나게 만든 측면이 있기 때문이다. 하지만 GPU 이외에 남은 과제들은 해결이 더 어렵다. ‘백지수표’ 수준의 처우를 보장하는 미·중 빅테크와의 격차, 연구 과제에 대한 국내 산업계의 낮은 이해도, 협업 가능한 유능한 동료 연구자 풀의 부재, 의대를 선호하고 이공계를 기피하는 사회 풍토 등을 어떻게 풀 것인가 하는 부분이다.”

최병호 고려대 인공지능연구소 교수가 AI 분야 인재 유출 문제의 심각성을 지적한 말이다. 최근 한국을 찾은 젠슨 황 엔비디아 최고경영자(CEO)는 국내 기업과 ‘AI 동맹’을 강조하며 2030년까지 자사 GPU 26만 장을 한국에 우선 공급하겠다고 밝혔다. 다만 이를 기반으로 국내 AI 기술력과 산업 발전을 도모하기까지는 인재 확보, 전력 수급 등 선결과제가 적잖다는 지적이 나온다.

해외선 억대 연봉에 원하는 연구하는데…

황 CEO의 GPU 공급 약속은 한국과 엔비디아의 이해관계가 맞아떨어진 결과다. 한국 입장에서는 전 세계적으로 품귀 현상이 지속되는 엔비디아의 최신 GPU를 조기에 조달할 수 있다는 점에서 큰 기회다. 그렇다고 엔비디아가 일방적으로 호의를 베푸는 차원은 아니다. 엔비디아는 한국에 GPU를 대량 판매함으로써 향후 한국을 자체 개발 플랫폼 ‘쿠다’ 생태계 안으로 편입할 수 있게 됐다. 또 엔비디아가 공급하기로 한 GPU에는 GB200 이외에 RTX 6000 시리즈도 포함됐다. 그중에는 기업용 하이엔드급 GPU가 아닌 모델이 여럿이다. 여기에 내년 차세대 아키텍처 루빈이 상용화되면 RTX 6000은 물론, GB200도 구형 모델이 된다. 최신 GPU를 도입해 치열한 개발 경쟁을 펼치는 글로벌 빅테크를 고려하면 이번 공급이 엔비디아의 ‘재고 부담’을 덜어주는 측면이 있는 것이다.

그렇지만 일단 GPU 수가 늘어나는 것은 환영할 만하다는 평가다. 연구자가 필요로 하는 가장 기초적인 연구 인프라 중 하나가 GPU이기 때문이다. 하지만 이것만으로는 인재들을 국내에 잡아두기 어렵다. 최근 한국은행 조사에 따르면 해외 이공계 전문가가 가장 많은 연봉을 받는 13년 차(평균 36만6000달러·약 5억3000만 원)에 국내 전문가는 평균 9300만 원을 받았다. 격차가 5배를 넘는다. 무엇보다 국내에는 연구자들이 희망하는 연구를 수행할 기회가 턱없이 부족하다. 최병호 교수는 “지난해 최예진 교수(미국 스탠퍼드대 컴퓨터과학과)가 엔비디아 선임 디렉터로 합류한 건 그의 논문이 일반 AI 모델 개발 과정에서 완전히 탈피해 있었기 때문”이라며 “국내에서 아무런 통제 없이, 킬러 카테고리를 벗어난 연구가 비전을 인정받을 수 있을지 의문”이라고 말했다.

이에 한국 산업계에서는 연구 생태계 확보를 위한 자구 노력을 하고 있다. 내년 첫 개강을 앞둔 LG AI대학원이 대표적 예다. LG AI대학원은 임직원이 실제 산업 현장에서 해결하고자 하는 연구 과제를 가져와 직접 그 해결 가능성을 보여주는 방식으로 진행된다. AI업계 한 관계자는 “AI 인재가 없다는 얘기가 계속 나오는데, 엄밀히 말하면 그들이 원하는 연구와 개발을 할 자리가 없는 것”이라며 “LG가 사내에 직접 관련 대학원을 만든 건 잠재력 있는 이들에게 연구 기회를 제공하고, 공식 학위를 부여해 그룹 차원의 AI 리더로 키우려는 의지”라고 설명했다. 정부도 멀티 잡(multi job) 등 인재 확보를 위한 각종 대책을 고심하고 있다. 멀티 잡은 A라는 기술을 연구하는 연구자가 A 기술을 필요로 하는 n개 기관(정부 기관, 기업 등)과 동시에 협력할 수 있는 제도다. 각 기관이 보수를 지급해 연봉 수준도 보장된다.

“제반 시설 안 갖춰져 비용률 안 나와”

다만 인재 유출을 해결하더라도 과제는 남는다. AI 데이터센터는 국내 전력 생산 규모를 웃도는 막대한 전력 소모를 자랑한다. 정보기술(IT)업계에 따르면 GPU 가동에 필요한 전력이 1이라면 데이터센터 같은 네트워크와 발열 관리 등에는 그 2배가 필요해 전체 전력 소모량은 3이 된다. GB200(약 2700와트(W))을 기준으로 GPU 26만 장 가동에 투입되는 전력만 702메가와트(MW)다. 현재 한빛·고리 원전의 순간 전력 생산능력이 최대 1000MW 수준이다. 이에 원전 신규 건설 등 근본 대책이 요구되지만 정부는 제11차 전력수급기본계획의 골자인 ‘대형 원전 2기 및 소형모듈원자로(SMR) 1기 건설’을 사실상 재검토하는 분위기다.

IT업계 한 관계자는 “최근 클라우드 서비스가 주목받는 이유는 기업이 GPU나 데이터센터를 직접 가동할 경우 전력 수급, 발열 제어 등에 더 많은 비용이 들어갈 수 있기 때문”이라며 “오픈AI 등이 참여하는 스타게이트 프로젝트도 제반 시설 문제로 애를 먹는데, 그것보다 시설이 안 갖춰진 국내 산업 현장에서 GPU 26만 장을 돌린다고 하면 도저히 비용률이 나올 수가 없다”고 말했다.