주간동아 1557호

..

AI 경쟁, ‘얼마나 두뇌가 큰가’에서 ‘얼마나 일 잘하는가’로 옮겨가

외부 서비스와 연결하고 사용자 지시 이해해 작업을 완결하는 게 경쟁력

  • 김지현 SK AI위원회 부사장

    입력2026-09-30 07:00:02

  • 글자크기 설정 닫기
    최근 인공지능(AI) 업계는 인간 개입 없이 자율적으로 업무를 수행하는 AI 시장을 선점하고자 각축전을 벌이고 있다. 사진은 9월 3일 공개된 GPT‑6 아스트라 시작 화면. GPT‑6 아스트라 웹사이트 캡처

    최근 인공지능(AI) 업계는 인간 개입 없이 자율적으로 업무를 수행하는 AI 시장을 선점하고자 각축전을 벌이고 있다. 사진은 9월 3일 공개된 GPT‑6 아스트라 시작 화면. GPT‑6 아스트라 웹사이트 캡처

    올해 들어서만 주요 모델 기준으로 GPT는 4번, 클로드(Claude)는 6번 세대가 바뀌었다. 9월만 해도 1일에 클로드 페이블(Claude Fable) 5.1이 나오고, 이틀 뒤인 3일에는 GPT‑6 아스트라(Astra)가 나왔다. GPT‑6를 두고 그레그 브록먼 오픈AI 공동창업자 겸 사장은 “범용인공지능(AGI)의 도래로 볼 수 있다”고 말했고, 젠슨 황 엔비디아 최고경영자(CEO)는 한 발 더 나아가 “AGI가 도래했다”고 선언했다.

    2022년 챗GPT가 등장한 이후 4년 가까이 AI 경쟁을 설명하는 가장 중요한 숫자는 파라미터였다. 파라미터란 AI가 학습 과정에서 조정하는 수많은 수치다. 문장에서 어떤 단어가 이어질 가능성이 높은지, 질문 의도를 어떻게 해석할지, 이미지 속 사물을 어떻게 구분할지 등이 수치 간 조합에 반영된다. 2022년 11월 공개된 GPT‑3.5의 파라미터는 약 1750억 개(175B)로 알려졌다. 뒤이은 GPT‑4는 공식 수치가 없지만 업계에서는 약 1조 7000억 개 안팎으로 추정한다. 현재 오픈AI와 앤트로픽의 최상위 모델은 수조 개 규모로 추정되고, 중국 오픈웨이트 모델은 키미(Kimi) K2.6이 1조, 딥시크(DeepSeek) V4 Pro가 1조 6000억 개 수준이다. 

    문제는 파라미터를 키울수록 컴퓨팅 자원이 기하급수적으로 필요하다는 점이다. 그래픽처리장치(GPU)를 많이 쓸수록 데이터센터 규모, 즉 전력 소모량도 커진다. 1GW(기가와트)급 AI 데이터센터에는 GPU 수십만 장이 들어갈 뿐 아니라, 원자력발전소 1기 수준의 전력을 쓴다. 구축 비용은 분석 기관에 따라 50조~70조 원으로 추산된다. 실제로 GPT‑6 아스트라는 미국 텍사스주 스타게이트 데이터센터에서 10만 개 이상의 GPU로 학습했는데 오픈AI 스스로 “역대 최대 규모의 훈련”이라고 밝힌 바 있다. 황 CEO는 여기에 “다음은 40만 개의 GPU가 가동될 차례”라고 덧붙였다.

    그런데 좋은 답변은 모델 하나로만 나오지 않는다. 파라미터가 많으면 더 좋은 성능을 낼 가능성이 커지지만, 언제나 그런 것은 아니다. 실제로 2022년 구글 딥마인드(DeepMind)가 공개한 친칠라 연구에서는 700억 파라미터 모델이 같은 연산량으로 학습한 2800억 파라미터 모델보다 여러 평가에서 더 좋은 성능을 보였다. 파라미터 규모와 학습 데이터의 양을 적절히 맞춰야 한다는 사실을 보여준 사례다. 사용자의 질문 맥락을 오래 기억하는 장기 메모리, 의도에 맞는 자료를 적절히 주입하는 기술, 부족한 질문을 보완하는 프롬프트 엔지니어링 같은 운영 기술이 함께 작동해야 한다. 

    파라미터 개수에서 업무 완결성으로 

    AI가 보편화되면서 모델 외적인 영역도 사용자가 체감하는 품질에 큰 영향을 미치고 있다. 기업 내부 문서나 최신 정보를 찾아 질문과 함께 제공하는 검색증강생성, 사용자의 선호와 앞선 작업을 기억하는 메모리, 질문 의도를 구체적인 실행 계획으로 바꾸는 프롬프트와 업무 설계가 대표적이다. 모델 내부에 저장된 지식만으로 답하게 하는 것보다 필요한 자료를 그때그때 찾아 근거와 함께 사용하게 하면 더 양질의 정보를 얻을 수 있다. 이 변화는 AI가 채팅을 넘어 ‘일’을 수행하는 에이전트로 발전할수록 더욱 분명해진다. 질문에 답하는 AI라면 좋은 문장을 만드는 능력이 중요하다. 그러나 출장을 준비하는 에이전트라면 사정이 다르다. 달력에서 일정을 확인한 뒤 회사 출장 규정을 찾아 예산을 짜고, 항공편과 호텔을 비교한 다음 결재안을 작성해야 한다. 예약이나 결제 전에는 반드시 사용자 승인을 받아야 하며, 문제가 생기면 이전 단계로 돌아갈 수도 있어야 한다.



    이때 필요한 것은 거대한 모델 하나만이 아니다. 어떤 도구를 호출할지 결정하는 능력, 사내 시스템과 안전하게 연결하는 기술, 사용자별 접근 권한, 실행 기록, 결과 검증, 오류 복구, 비용 통제와 보안 정책이 한 시스템으로 작동해야 한다. GPT-6 아스트라와 최근 클로드 모델들이 코딩뿐 아니라 브라우저 조작, 문서·스프레드시트 작성, 장시간의 다단계 업무 완결성을 강조하는 이유다.

    적합한 도구 매칭하는 AI 관제 시스템이 핵심

    실제로 오픈AI와 앤트로픽, 두 거인의 최근 경쟁은 AI를 ‘대화’가 아닌 ‘작업(Work)’에 쓰는 쪽으로 집중되고 있다. 에이전트화된 AI에서는 모델 성능보다 외부 서비스와 시스템에 연결하고 사용자의 지시 맥락을 이해해 작업을 끝까지 처리하게 만드는 플랫폼 기술이 핵심 경쟁력이 된다.

    이를 가능하게 하는 것이 모델 오케스트레이션이다. 쉽게 말해 업무 난이도와 보안 수준, 속도, 비용을 판단해 적합한 모델과 도구를 배정하는 ‘AI 관제 시스템’이다. 오픈AI가 GPT-5.6을 솔(Sol)·테라(Terra)·루나(Luna)로 나누고 추론 강도를 조절하게 한 것이나, 앤트로픽이 모델별 노력 수준을 제공하는 것은 승부처가 성능 싸움에서 업무당 비용과 처리 시간으로 옮겨간 것을 보여주는 사례다. 

    앞으로 기업이 살펴야 할 지표는 에이전트가 업무를 끝까지 성공시킨 비율, 사람이 다시 수정해야 하는 비율, 업무를 마치는 데 든 총비용, 오류를 발견하고 복구하는 능력이다. 토큰 가격이 저렴해도 여러 차례 실패하고 사람이 다시 작업해야 한다면 결코 싼 AI가 아니기 때문이다. 초기 AI 경쟁이 “얼마나 큰 두뇌를 만들 수 있는가”라는 파라미터 수 싸움이었다면, 이제는 “그 두뇌를 얼마나 안전하고 경제적으로 일하게 할 수 있는가”의 싸움이 됐다. 앞으로 기업에 필요한 것은 업무에 맞는 여러 모델을 골라 연결하고 필요한 데이터와 도구를 제공한 뒤, AI가 스스로 실행 과정을 검증해 마치는 운영 능력이 될 것이다. 

    *유튜브와 포털에서 각각 ‘매거진동아’와 ‘투벤저스’를 검색해 팔로잉하시면 기사 외에도 동영상 등 다채로운 투자 정보를 만나보실 수 있습니다.

    댓글 0개
    닫기