2026년 5월, 우버(Uber)의 COO가 충격적인 사실을 공개했습니다. 연초에 배정된 AI 코딩 도구 예산 전액을 단 4개월 만에 소진했다는 것입니다. 직원들이 AI 툴 사용량을 겨루는 내부 리더보드를 운영했고, 그 결과 토큰 사용량이 폭발적으로 늘어났습니다. 우버만의 이야기가 아닙니다. 마이크로소프트, 쇼피파이, 골드만삭스도 같은 문제로 AI 예산 한도를 긴급 조정하고 있습니다.
AI가 기업 경쟁력의 핵심으로 자리잡으면서, 역설적으로 AI 비용이 기업의 새로운 리스크로 떠오르고 있습니다. 이 글에서는 2026년 현재 AI 비용 상황과, 앞으로 기업이 AI 청구서를 어떻게 바라봐야 하는지 정리합니다.
토큰 가격은 98% 떨어졌는데, 왜 청구서는 3배가 됐나?
AI 모델의 단가는 놀라울 정도로 내려갔습니다. 2022년 말 GPT-4급 모델의 처리 비용은 백만 토큰당 약 20달러였지만, 2026년 현재는 0.40달러 수준으로 98% 이상 하락했습니다.
그런데 기업들의 실제 AI 청구 금액은 오히려 평균 320% 증가했습니다. JPMorgan은 내부 보고서 제목을 이렇게 붙였습니다. “AI 토큰 비용이 인터넷 기업의 이익을 산 채로 먹어치우고 있다.”
이유는 하나입니다. AI 에이전트의 등장입니다.
2023년의 단순 챗봇은 대화 한 번에 약 0.04달러가 들었습니다. 그러나 2026년의 에이전트 기반 AI 시스템은 동일 작업 하나에 약 1.20달러, 약 30배의 비용이 발생합니다. 에이전트는 스스로 계획을 세우고, 도구를 호출하고, 오류를 수정하면서 반복 루프를 실행합니다. 토큰 소비가 기하급수적으로 늘어날 수밖에 없습니다.
어떤 분석에서는 에이전트 방식이 일반 챗봇 대비 최대 1,000배 많은 토큰을 소모할 수 있다고 추산합니다.
AI 기업도 돈을 못 번다 — OpenAI 140억 달러 적자
비용 문제는 AI를 사용하는 기업만의 문제가 아닙니다. AI를 만드는 기업도 어렵기는 마찬가지입니다.
OpenAI는 2026년 한 해에만 140억 달러(약 20조 원) 적자를 기록할 것으로 전망됩니다. 2025년에도 80억 달러 손실이 예상되며, 이 추세가 이어지면 2029년까지 누적 적자가 440억 달러에 달할 수 있습니다. 인프라 구축, 모델 학습, 연구 인력 채용, 데이터센터 운영비가 매출 증가 속도를 훌쩍 넘어섭니다.
빅테크 4사(구글·마이크로소프트·메타·아마존)는 2026년 AI 인프라에만 합산 약 7,000억 달러를 투입할 전망입니다. 이 엄청난 투자가 수익으로 돌아오기까지는 시간이 걸립니다.
- 구글의 잉여현금흐름: 2025년 732억 달러 → 2026년 82억 달러(약 89% 감소 예상)
- 아마존의 잉여현금흐름: 모건스탠리 분석 기준 2026년 마이너스 170억 달러 전망
AI 시대의 역설입니다. 가장 열심히 AI에 투자하는 기업이 가장 많은 적자를 보고 있습니다.
기업 현장에서 벌어지는 일들
우버: 4개월 만에 예산 소진
우버는 직원들이 AI 코딩 도구를 얼마나 많이 쓰는지 경쟁하도록 내부 리더보드를 만들었습니다. 사용량은 폭증했지만, COO는 “비용 증가가 실제로 더 유용한 기능 개발로 이어지지는 않는다”고 공개적으로 의문을 제기했습니다. 결국 AI 사용 한도를 긴급 설정했습니다.
$1 쓰면 18센트만 가치 창출
한 분석에 따르면, 기업이 AI 토큰에 1달러를 지출할 때 실제 사용자 가치를 만드는 비용은 18센트에 불과합니다. 나머지 82%는 버그 수정, 재작업, 심지어 직원들의 개인적 AI 사용에 소진됩니다.
서울 스타트업의 현실
국내에서도 상황은 다르지 않습니다. 서울의 한 스타트업 대표는 3개월 전 월 200만원이던 AI 서비스 비용이 800만원을 넘어섰다고 밝혔습니다. 코딩 보조 에이전트와 고객 응대 챗봇을 동시에 운영하면서 토큰 사용량이 급증했기 때문입니다.
앞으로 AI 청구는 어떻게 바뀔까?
1) 토큰 기반에서 ‘결과 기반’ 요금제로 이동
현재의 토큰 과금 방식은 기업 입장에서 예측이 어렵습니다. 이 문제를 해결하기 위해 업계에서는 결과 기반(outcome-based) 요금제가 논의되고 있습니다. 작업 완료 건수, 해결된 고객 문의 수, 생성된 코드 PR 수 등을 기준으로 과금하는 방식입니다. 앤트로픽과 일부 AI 서비스 기업들이 파일럿을 진행 중입니다.
2) 월정액·구독형 AI 요금제 확산
OpenAI, 앤트로픽, 구글 모두 기업 고객을 위한 월정액 구독 패키지를 강화하고 있습니다. 사용량 상한을 미리 정해두고, 예산 초과를 방지하는 방식입니다. 다만 상한에 걸리면 서비스 품질이 제한되는 트레이드오프가 있습니다.
3) AI 사용 표준화 기구 등장
토큰 가격은 98% 하락했는데 청구서는 3배가 된 현실에 기업들이 의문을 제기하면서, AI 비용 투명성과 표준화를 위한 업계 기구 설립 논의가 시작됐습니다. 실제로 사용된 연산량 대비 청구 금액의 정합성을 검증하는 표준을 만들자는 움직임입니다.
4) 온프레미스·소형 모델 병행 전략
클라우드 AI 요금이 계속 오르면서, 반복적이고 단순한 작업은 로컬에 배포한 소형 모델로 처리하고, 복잡한 추론 작업만 대형 클라우드 모델에 넘기는 하이브리드 전략이 확산되고 있습니다. 비용 절감과 데이터 보안을 동시에 잡을 수 있는 방식입니다.
기업이 지금 해야 할 것
① AI 사용량 모니터링 체계 구축
토큰 소비를 부서·서비스·업무 유형별로 추적하는 대시보드를 만드세요. 어디서 비용이 새는지 파악해야 최적화가 가능합니다.
② 에이전트 루프 횟수 제한
에이전트가 실패 시 무한 재시도하지 않도록 최대 반복 횟수(max_iterations)와 비용 상한(cost ceiling)을 설정하세요.
③ 모델 등급 분리
모든 작업에 최상위 모델을 쓰지 마세요. 단순 분류·요약은 소형 저렴한 모델로, 복잡한 추론만 고성능 모델로 라우팅하는 정책이 비용을 40~60% 줄일 수 있습니다.
④ ROI 기준 먼저 설정
“AI를 쓴다”는 목표가 아니라, “AI로 이 지표를 X% 개선한다”는 구체적 ROI 기준을 먼저 정하세요. 기준 없이 사용량만 늘리면 우버처럼 예산이 무너집니다.
마치며
AI는 분명 강력한 도구입니다. 그러나 2026년 현재, 그 비용은 아직 많은 기업이 예측하거나 통제하기 어려운 수준입니다. OpenAI가 수십조 원의 적자를 감수하며 인프라를 쌓고 있는 이유도, 기업들이 예산을 초과 소진하는 이유도, 결국 AI의 실질적 가치를 끌어내는 구조가 아직 성숙하지 않았기 때문입니다.
앞으로의 AI 경쟁력은 얼마나 많이 쓰느냐가 아니라, 얼마나 효율적으로 쓰느냐에 달려 있습니다. AI 비용을 전략적으로 관리하는 기업이 다음 라운드에서 살아남을 것입니다.