생성형 AI 도입이 확산되면서 기업들이 새로운 고민거리로 마주한 것은 '토큰 비용'이다. 토큰은 생성형 AI 모델이 텍스트를 처리하는 기본 단위로, 사용자 입력 프롬프트부터 AI가 읽어들인 문서·코드, 생성된 답변이 모두 비용 계산 대상이 된다. 문서 요약, 코드 작성, 오류 수정, 기획안 작성 등 업무 전반에 AI를 쓸 때마다 사용량이 눈처럼 쌓이다 보니, 막대한 비용으로 이어지는 구조가 문제다.
토큰 비용, 개발자 연봉을 넘을 날이 온다
가트너의 전망은 충격적이다. 2028년이면 AI 코딩 비용이 평균 개발자 연봉을 넘어설 수 있다는 것이다. 대규모언어모델(LLM) 토큰 사용량 증가와 사용량 기반 과금 확산이 맞물리면서 벌어질 일이라고 가트너는 지적했다. AI 코딩 에이전트가 대규모 배포 단계로 진입하는 현 상황에서 많은 조직이 토큰 소비 증가에 따른 재무적 영향을 과소평가하고 있다는 게 핵심 경고다.
비용이 이처럼 빠르게 증가하는 이유는 에이전트형 코딩의 특성 때문이다. 에릭 브린욜프슨 스탠퍼드대 교수팀이 GPT-5, 클로드 소네트 4.5 등 모델 8종을 코딩 벤치마크로 시험한 결과, 에이전트형 코딩 작업은 단순 코드 채팅보다 최대 1000배 많은 토큰을 소비했다. 같은 작업도 실행 횟수마다 최대 30배의 편차가 났으며, 더 많은 토큰을 쓴다고 해서 정확도가 비례해 높아지지도 않았다.
토큰 비용 변동 요인, 예측 불가능
비용 불확실성은 더 심각하다. 정액 구독형으로 보이는 도구도 실제로는:
- 모델 종류에 따라 가격 변동
- 프롬프트 길이가 길수록 비용 증가
- 읽어들이는 문서·코드 분량에 비례
- 반복 수정 횟수마다 누적
특히 최근 과금 방식이 정액 구독제에서 토큰 단위 종량제로 빠르게 전환 중이다. AI가 장황한 답을 내놓거나 오류를 내 재수정이 필요한 경우, 입력·출력 토큰 모두 비용으로 계산되면서 기업이 체감하는 부담은 배가된다.
글로벌 기업들의 토큰 제한 움직임
문제의 현실성은 이미 국외 사례로 입증됐다:
- 우버: 4월 연간 AI 예산을 조기에 소진한 후 직원 1인당 AI 토큰 사용액을 제한
- 아마존: 직원들의 AI 사용 독려를 위해 공개하던 사용량 공개 방침을 중단
두 회사의 대응은 토큰 비용이 더 이상 무시할 수 없는 수준에 도달했음을 의미한다. 특히 우버의 사례는 초기 예산 책정이 실제 소비를 얼마나 크게 저평가했는지를 보여준다.
기업이 지금 해야 할 일
토큰 비용 관리는 더 이상 선택이 아닌 필수다. 업계 선도 기업들이 이미 사용량 관리 체계를 정비하는 이유다. 금융·게임·이커머스·제조·플랫폼 기업들이 문서 작성, 고객 응대, 데이터 처리 등에 AI를 도입하는 와중에도 ROI(투자수익률)를 따지는 단계에 접어들었다.
단순히 사용을 줄이는 것만이 아니라, 어떤 작업에 AI를 투입할 때 실제 효율이 나는지 측정하는 체계가 필수가 됐다. 모델 선택, 프롬프트 최적화, 불필요한 문서 재조회 최소화 같은 운영 세부사항이 비용 절감에 직결되기 때문이다.
결론
2028년 AI 코딩 비용이 개발자 연봉을 넘을 수 있다는 가트너의 전망은 현재진행형 실제 문제다. 토큰 사용량이 예측 불가능하고 실행마다 30배 이상 차이 날 수 있다면, 기업은 이제 AI 도입 자체보다 토큰 소비 모니터링 체계 구축을 우선순위에 올려야 한다. 우버와 아마존 같은 글로벌 기업들의 비용 제한 조치는 한국 기업들도 취할 수 있는 실질적 벤치마크가 될 것이다.