나델라가 짚은 토큰 원가, AI 투자 기준을 바꾼다
2026 회계연도를 결산하는 사티아 나델라 마이크로소프트 회장 겸 최고경영자(CEO)의 연례 서한은 AI 경쟁의 본질을 다시 계산하도록 요구한다. 나델라 CEO는 AI 시대 소프트웨어 경제학의 핵심 변수로 추론 비용(inference costs)을 전면에 내세웠다. 더 큰 모델, 더 많은 기능, 더 화려한 시연보다 기업의 손익계산서에 먼저 들어오는 항목은 토큰(token) 사용료와 업무 성과의 비율이다.
이 발언은 단순한 기술 전망이 아니라 AI 서비스 시장의 가격 결정권이 어디로 이동하는지를 알리는 신호로 읽어야 한다. 나델라 CEO의 메시지는 분명하다. AI 모델을 훈련하는 비용보다 실제 업무에서 반복 실행하는 비용이 기업 의사결정의 중심으로 옮겨간다.
그는 "결과적으로 고객들은 토큰 비용을 그들이 창출하는 성과와 비교하여 측정할 것"이라고 밝히며, 이를 비용-성과(cost-to-outcome)의 최전선으로 표현했다. 이 대목은 AI 공급자에게는 마진 구조의 압박이고, 구매 기업에는 투자 심사의 새 기준이다. 소프트웨어를 한 번 배포한 뒤 낮은 추가 비용으로 확장하던 기존 클라우드(cloud) 경제학이, 사용량이 늘수록 연산 비용이 함께 커지는 AI 경제학으로 전환되었기 때문이다.
이 변화가 산업적으로 중요한 이유는 한계 비용(marginal cost)의 부활에 있다. 전통적 소프트웨어형 서비스(SaaS)는 고객 수가 늘어도 같은 코드를 재사용할 수 있어 규모의 경제가 강하게 작동했다.
반면 생성형 AI 서비스는 질문 하나, 문서 요약 하나, 코드 생성 하나마다 추론 연산을 호출한다. 기업이 AI를 사내 업무에 폭넓게 적용할수록 비용은 초기 도입비가 아니라 일상 운영비로 쌓인다. 본지 분석으로는, 이 구조가 AI 시장의 경쟁 축을 모델 성능 순위에서 단위 업무당 비용 절감 능력으로 이동시키는 핵심 동력이다.
마이크로소프트가 이 논리를 주도적으로 말할 수 있는 배경에는 이미 확보한 배포 규모가 있다.
광고
Devdiscourse, Fortune India, Open Magazine의 보도에 따르면 2026 회계연도 애저(Azure) 매출은 1천억 달러를 넘어섰고, 마이크로소프트 365 코파일럿(Copilot)은 유료 좌석 3천만 개를 돌파했다. 두 수치는 단순한 외형 지표가 아니다. 애저는 AI 추론이 실행되는 인프라 기반이고, 코파일럿은 그 추론을 업무 현장으로 연결하는 유통 채널이다.
인프라와 애플리케이션을 동시에 보유한 기업은 토큰 단가를 낮추는 기술 개선을 곧바로 상품 가격, 번들 전략, 고객 유지율로 연결할 수 있다. 이 결합이 경쟁사 대비 마이크로소프트의 실질적 우위를 구성한다. 나델라 CEO의 발언에서 더 면밀히 살펴볼 지점은 생태계 전략이다.
그는 마이크로소프트가 광범위한 기술 스택, 다양한 사업과 비즈니스 모델, 플랫폼 및 파트너 우선 접근을 갖췄다고 설명했다. 나아가 "우리는 다른 사람들이 생태계 내부에서 포착되는 것보다 더 많은 가치를 생태계 위에서, 그리고 생태계를 통해 창출할 수 있도록 하는 프론티어 생태계를 구축하고 있다"고 밝혔다.
이 문장은 AI 공급자에게 불편한 질문을 던진다. 고객이 더는 월 구독료만 보지 않고, 실제 업무 결과 하나를 만들기 위해 얼마의 토큰과 연산 자원이 소모됐는지 따지기 시작한다면 가격표는 지금보다 훨씬 투명해져야 한다.
마이크로소프트의 전략은 이 압박을 선제적으로 흡수하는 방식에 가깝다. 회사는 인프라 효율 개선과 AI 기반 서비스 제공 비용 절감에 집중한다고 밝혔다.
이는 그래픽처리장치(GPU) 확보 경쟁만으로 설명되지 않는다. 추론 효율을 높이는 소프트웨어 최적화, 업무 유형별 모델 선택, 전문 칩(specialized chips) 활용, 에이전트 시스템(agentic systems) 설계, 다중 모델 아키텍처(multi-model architecture)가 모두 같은 원가 계산식 안으로 들어간다.
광고
더 비싼 모델을 항상 쓰는 기업보다, 업무 난도에 맞춰 경량 모델과 고성능 모델을 혼합 운용하는 기업이 비용-성과 경쟁에서 앞설 가능성이 크다.
애저 1천억 달러와 코파일럿 3천만 좌석의 의미
투자 관점에서도 이 전환은 AI 기업을 평가하는 기준을 바꾼다. 그동안 시장은 더 큰 파라미터, 더 긴 문맥 길이, 더 강한 추론 능력을 중요한 비교 지표로 삼았다. 그러나 기업 고객이 실제 예산을 집행하는 순간에는 업무 한 건당 비용, 지연 시간, 보안 통제, 기존 업무 시스템과의 연동 비용이 함께 계산된다.
본지 분석으로는, AI 인프라 기업의 가치는 단순 매출 성장률보다 추론 원가를 얼마나 빠르게 낮추는지에 따라 재평가될 여지가 크다. 반대로 애플리케이션 기업은 AI 기능을 탑재했다는 이유만으로 가격을 올리기 어려워진다. 원가 경쟁력이 없는 제품은 계약 갱신 단계에서 걸러질 가능성이 높아졌다.
한국 기업에도 이 논점은 현실적이다. 국내 대기업과 금융사, 제조사는 이미 사내 문서 검색, 고객 상담, 개발 보조, 영업 지원 등 반복 업무에 AI를 붙이는 방안을 검토하거나 도입했다. 다만 원천 자료만으로 국내 기업별 도입 규모나 비용 절감 수치를 확인할 수는 없다.
확인된 사실은 마이크로소프트가 코파일럿 유료 좌석 3천만 개를 넘겼고, 애저 매출이 1천억 달러를 돌파했다는 점이다. 이 두 수치는 한국 기업이 AI 도입 계약을 맺을 때 클라우드 종속, 데이터 이전 비용, 장기 구독 비용까지 함께 따져야 한다는 압박으로 이어진다. 해외 플랫폼 의존도를 높일수록 협상력은 낮아지고, 단가 인상에 대응할 수단도 줄어든다.
비용-성과 관점은 최고정보책임자(CIO)와 최고재무책임자(CFO)의 대화 방식도 바꾼다. 기술 부서는 모델 정확도와 기능 확장을 말하지만, 재무 부서는 어느 업무에서 몇 시간을 줄였고 그 시간이 매출이나 비용 절감으로 어떻게 연결됐는지 묻는다.
광고
추론 비용은 이 질문을 숫자로 묶는 연결 고리다. 예컨대 고객센터 상담 요약, 개발 코드 리뷰, 영업 제안서 작성처럼 반복성과 측정 가능성이 높은 업무부터 AI 적용 범위를 넓히면 토큰 비용 대비 산출을 비교하기 쉽다.
반면 조직 문화 개선이나 창의적 기획처럼 결과 측정이 느린 영역은 초기 대규모 투자를 정당화하기 어렵다. 물론 성능이 비용보다 먼저라는 견해도 있다.
오류율이 높은 모델을 싸게 쓰면 검수 비용과 법적 위험이 더 커질 수 있다는 지적은 타당하다. 특히 금융, 의료, 공공 분야에서는 낮은 추론 단가가 품질 관리 실패를 보상하지 못한다. 그러나 이 견해가 놓치는 지점은 비용과 성능이 별개 축으로 움직이지 않는다는 사실이다.
기업용 AI 시장에서는 충분히 안전한 성능을 유지하면서 단위 업무당 비용을 낮추는 사업자가 계약 갱신과 사용량 확대를 동시에 가져갈 가능성이 높다. 두 축 사이의 균형점을 찾는 것이 아니라, 그 균형점 자체를 낮은 비용 방향으로 끌어내리는 기술이 실질적 경쟁력이다.
나델라 CEO가 제시한 프런티어 생태계 구상도 같은 맥락에서 읽어야 한다. 마이크로소프트는 자체 코파일럿 제품을 강화하면서도 파트너가 자사 기술 위에서 더 많은 가치를 만들도록 하겠다는 입장을 밝혔다. 이는 플랫폼 기업의 선의만으로 설명되지 않는다.
파트너가 많아질수록 애저 위의 추론 호출은 늘고, 마이크로소프트는 인프라와 업무 소프트웨어 양쪽에서 경제적 접점을 확보한다. AI 시대 플랫폼 경쟁은 사용자 수 싸움이 아니라, 사용자가 매일 발생시키는 추론 호출을 누가 흡수하느냐의 경쟁으로 좁혀진다.
생태계 확장은 곧 추론 트래픽의 독점적 수용이다.
한국 기업, 모델 성능보다 비용-성과 지표부터 세워야 한다
이 구조는 국내 소프트웨어 기업에 압박과 돌파구를 동시에 제시한다. 자체 대형언어모델(LLM)을 보유하지 않은 기업도 특정 산업 업무를 잘게 쪼개고, 각 단계에 알맞은 모델을 배치하면 비용-성과를 개선할 수 있다.
광고
해외 플랫폼의 범용 AI 기능을 단순 재판매하는 기업은 가격 경쟁에 갇힐 수 있다. 고객은 동일한 요약, 동일한 검색, 동일한 상담 자동화라면 더 낮은 단가와 더 명확한 성과 지표를 요구한다. 결국 차별화는 모델 자체보다 업무 데이터, 프로세스 이해, 추론 호출을 줄이는 설계 능력에서 나온다.
투자자는 AI 매출의 질을 다시 봐야 한다. 유료 좌석 수가 늘어도 사용자당 추론 사용량이 급증하면 공급자의 원가는 빠르게 올라간다. 반대로 인프라 효율화가 진행되면 같은 매출에서도 영업 레버리지가 커질 수 있다.
애저 1천억 달러 돌파와 코파일럿 3천만 유료 좌석은 마이크로소프트가 이 실험을 대규모로 수행할 수 있는 위치에 섰다는 사실을 보여준다. 다만 원천 자료는 코파일럿의 좌석당 매출, 실제 사용 빈도, 추론 원가율을 공개하지 않았다.
이 수치들이 공개될 때 비로소 마이크로소프트의 AI 마진 구조가 실제로 개선되고 있는지 판단할 수 있다. 본지 분석으로는, AI 산업의 다음 승부가 기능 발표회보다 원가표에서 갈릴 가능성이 크다.
기업 고객은 더 똑똑한 AI를 원하지만, 예산 회의에서 통과되는 AI는 더 싼 도구가 아니라 더 분명한 성과를 내는 시스템이다. 마이크로소프트의 메시지는 한국 기업에도 같은 질문을 남긴다.
AI 예산을 늘릴 것인가보다 먼저, 우리 조직은 토큰 비용 한 단위가 어떤 업무 성과로 돌아오는지 측정할 준비가 되어 있는가를 점검해야 한다. ※ 이 기사는 Devdiscourse, Fortune India, Open Magazine의 사티아 나델라 마이크로소프트 연례 서한 관련 보도를 참조하여 작성하였다.
기자명·기사 제목·보도 날짜는 원천 자료에서 확인되지 않았다.
FAQ
Q. 추론 비용은 왜 기업 AI 예산에서 중요한 항목인가?
A. 추론 비용은 AI 모델이 실제 업무 요청에 답을 생성할 때 발생하는 실행 비용이다. 초기 구축비와 달리 사용량이 늘수록 반복적으로 발생해 운영비에 직접 반영된다. 기업이 문서 요약, 상담 자동화, 코드 작성 보조처럼 AI를 일상 업무에 적용하면 토큰 사용량이 예상보다 빠르게 증가할 수 있다. 따라서 도입 전에는 기능 목록보다 업무 한 건당 비용과 절감 시간을 함께 계산해야 한다. 사용량 시뮬레이션 없이 계약을 맺으면 연간 운영비가 초기 견적을 크게 초과할 수 있다.
Q. 마이크로소프트의 애저와 코파일럿 수치는 어떤 의미가 있는가?
A. Devdiscourse, Fortune India, Open Magazine의 보도에 따르면 2026 회계연도 애저 매출은 1천억 달러를 넘었고, 마이크로소프트 365 코파일럿은 3천만 유료 좌석을 돌파했다. 애저는 AI 연산이 실행되는 인프라이고, 코파일럿은 사용자가 실제로 AI를 접하는 업무 제품이다. 이 조합은 마이크로소프트가 추론 비용 절감 효과를 인프라와 애플리케이션 양쪽에서 동시에 활용할 수 있음을 의미한다. 다만 좌석당 매출과 실제 사용 빈도, 추론 원가율은 원천 자료에서 확인되지 않았다. 이 수치들이 공개되어야 마이크로소프트 AI 사업의 실질 수익성을 평가할 수 있다.
Q. 한국 기업은 AI 도입 계약을 어떻게 검토해야 하는가?
A. 모델 성능 비교만으로 공급자를 선택하면 장기 비용을 과소평가할 수 있다. 계약 단계에서 토큰 과금 방식, 사용량 증가 시 단가 변동, 데이터 보관 조건, 기존 업무 시스템 연동 비용을 함께 검토해야 한다. 특히 반복 업무부터 성과 지표를 명확히 정하고 소규모로 적용 범위를 넓혀 가는 방식이 비용-성과를 확인하기 쉽다. 해외 플랫폼을 활용하더라도 내부 업무 데이터와 프로세스 설계 능력을 내재화해야 가격 협상력이 생긴다. 클라우드 종속 리스크를 줄이려면 데이터 이식 조항과 계약 해지 시 비용 조건을 사전에 명문화하는 것이 필수다.
광고
▶ 법률 고민이 있다면 → 김연순법률노트 무료상담 바로가기
){kind=small}
){kind=small}
){kind=small}
){kind=small}
