엔비디아의 인공지능(AI) 개인용 컴퓨터(PC) ‘RTX 스파크(Spark)’(위쪽)와 ‘DGX 스테이션(Station)’. 엔비디아 제공
기업 경영진은 AI 시대에 굳이 좋은 PC를 구비할 필요가 있을지 의문을 품기 시작했다. 챗GPT, 클로드, 제미나이, 코파일럿 등 직원들이 주로 사용하는 AI 도구는 모두 데이터센터에서 구동된다. 문서 작성, 코딩, 번역, 요약을 클라우드형 AI가 해결한다면 직원들은 화면과 키보드가 있는 얇은 단말기만 가져도 충분할 것이다. AI 도구에 명령을 입력하고 그 결과를 받아볼 수 있기만 하면 되니 말이다.
수백만 원대부터 1억 원대 모델까지
하지만 클라우드형 AI에 의존할 경우 보안 문제가 발생한다. 기업 내부 계약서, 설계도, 소스코드, 고객 정보, 인사 자료를 외부 클라우드형 AI로 다 보내는 것은 보안 관점에서 큰 부담이다. 특히 금융, 제조, 국방, 의료, 공공분야 기업은 민감한 데이터가 많아 클라우드형 AI를 사용하는 데 더 큰 어려움을 겪을 수 있다.비용도 문제다. 영업, 마케팅, 개발, 법무, 고객센터 사업부 직원 수백 명이 매일 동시에 AI 도구와 에이전트를 쓰면 토큰(AI 데이터 처리 단위) 사용량이 눈덩이처럼 불어난다. 게다가 해를 거듭할수록 정액제 AI의 기본 제공 토큰 양이 줄고 있다. 토큰을 많이 사용할 경우 AI 비용이 천정부지로 늘어나는 것이다.
이런 이유로 AI PC가 부상하고 있다. 기업 관점에서 AI PC는 단순히 성능 좋은 사무용 컴퓨터가 아니다. 일부 AI 작업을 클라우드로 보내지 않고 회사 내 PC에서 처리하는 시스템이다. 이를 도입하면 문서 요약, 번역, 회의록 정리, 음성 인식, 사내 문서 검색 같은 반복 작업을 사내 PC로 처리해 민감한 데이터 유출 우려를 줄이고 클라우드 AI 사용 비용은 절감할 수 있다.
관련 움직임은 이미 시작됐다. 엔비디아는 지난해 600만 원대 개인용 AI 슈퍼컴퓨터 ‘DGX 스파크(Spark)’를 출시했다. 6월 열린 IT 박람회 ‘컴퓨텍스 2026’에서는 700만 원대 AI PC ‘RTX Spark’를 공개했다. 데스크톱에서 파라미터(매개변수)가 2000억 개인 거대 AI 모델을 실행할 수 있는 제품이다. 역시 엔비디아가 선보인 1억 원대 상위 모델 ‘DGX 스테이션(Station)’의 경우 파라미터가 1조 개인 모델도 돌릴 수 있다. 데이터센터를 거치지 않고 PC에서 AI를 직접 작동시키는 것이다.
물론 모든 직원에게 1억 원짜리 PC가 필요하진 않다. 기업용 AI PC 시장은 향후 세 층위로 갈릴 가능성이 크다. 첫째는 회의록 요약이나 번역 등을 처리하는 일반 사무용 AI 노트북, 둘째는 개발자와 디자이너처럼 AI를 자주 이용하는 직원을 위한 고성능 워크스테이션, 그리고 마지막으로 모델 실험과 민감 데이터 분석을 위한 부서 단위 AI 슈퍼컴퓨터다. 기업 현장에서는 순서대로 200만~300만 원대 삼성·LG·애플 컴퓨터, 500만 원 이상인 RTX 스파크 수준의 컴퓨터, 1억 원대 DGX 스테이션 수준의 컴퓨터가 사용될 가능성이 크다. 향후 엔비디아, 퀄컴, 인텔, AMD, 애플, 미디어텍이 모두 AI PC 주도권을 놓고 경쟁할 것이다.
클라우드 없이 파라미터 1조 개 AI 모델 구동
이러한 변화는 반도체 지형도 바꾼다. 로컬 PC에서 AI가 제대로 구동하려면 좀 더 빠르고 용량이 큰 램이 필요하다. 기업이 보안을 이유로 로컬 AI를 더 많이 선택할수록 PC 대당 메모리 탑재량은 더욱 늘어난다. 삼성전자, SK하이닉스, 마이크론 관점에서 보면 데이터센터용 메모리와는 다른 장기 수요가 창출되는 것이다.AI PC의 본질은 ‘클라우드형 AI 대체재’가 아니다. 필요에 따라 클라우드와 로컬 AI를 구분해 쓰는 새로운 기업 컴퓨팅 구조의 출발점이다. 거대한 모델 학습과 복잡한 추론은 데이터센터가 맡고, 민감한 데이터를 반복적·즉각적으로 다루는 일은 PC 속 AI가 처리한다. 기업은 이 둘 사이를 균형 있게 오가며 AI를 처리해야 비용을 최소화할 수 있다.
AI PC 시장이 열린 이유는 컴퓨터 회사들이 더 비싼 노트북을 팔려고 해서가 아니다. 직원 한 명 한 명에게 좀 더 안전하고 저렴하게 AI 서비스를 제공하기 위해서다. 지난 40년간 PC는 인간의 생산성을 높이는 도구였다. 이제 PC는 사람 옆에 붙어 판단과 실행을 돕는 AI 에이전트가 될 것이다. 클라우드에 100% 의존하는 AI의 토큰 사용료가 감당하기 어려울 정도로 커지는 상황에서 기업용 AI PC가 해결책이 될 전망이다.
