AI 토큰 가격 최저인데 청구서는 왜 늘까, 작업당 비용 기준

AI 토큰 가격 최저인데 청구서는 왜 늘까, 작업당 비용 기준

작성자

카테고리:

1. AI 토큰 가격이 내렸는데 왜 청구서는 줄지 않을까요?

▶ 단가는 내려갔지만 쓰는 토큰의 양이 더 빨리 늘고 있습니다

토큰 단가는 사상 최저 수준이지만, 고성능 추론 모델과 AI 에이전트가 토큰을 훨씬 많이 쓰기 때문에 실제 청구 금액은 오히려 늘 수 있습니다. 그래서 비용을 볼 때는 토큰당 가격보다 업무 하나를 끝내는 데 드는 작업당 비용을 봐야 합니다.

조선비즈 2026년 9월 28일자 보도에 따르면, 시장조사업체 실리콘데이터가 집계하는 LLM 토큰 지출 지수는 지난달 31일 97센트까지 내려갔습니다. 지난해 말 지수 발표 이후 최저치이고, 올여름 최고점의 절반 이하입니다.

이 지수는 업체별 정가가 아니라 시장에서 실제로 소비되는 100만 토큰당 가중 평균 가격을 뜻합니다. 입력·출력 토큰 비중과 사용량을 반영해 매일 가중치를 정규화해 발표한다고 합니다.

단가가 내려간 이유는 중국산 저가 오픈소스 모델이 영향력을 키우자 글로벌 AI 기업들이 잇달아 가격을 낮춘 데 있는 것으로 보입니다. AI 비용이 걱정되는 개인 사용자와 팀 담당자에게 필요한 내용입니다.

2. 가격 인하는 실제로 얼마나 있었고, 사용량은 얼마나 늘었나요?

2. 가격 인하는 실제로 얼마나 있었고, 사용량은 얼마나 늘었나요?

▶ 단가는 크게 내렸고 사용량은 그보다 크게 늘었습니다

기사에서 확인되는 가격 인하와 사용량 증가를 나란히 보면 흐름이 분명합니다. 단가 하락 폭보다 사용량 증가 속도가 빨라 전체 지출이 커지는 구조입니다.

오픈AI는 지난 7월 GPT-5.6 테라와 루나의 API 가격을 각각 20%, 80% 낮췄고, 8월에는 솔 가격도 20% 내렸습니다. 구글은 제미나이 3.7 플래시를 이전 모델의 절반 수준인 100만 토큰당 입력 0.75달러, 출력 3.75달러에 내놓았습니다.

반면 구글은 지난 5월 월간 토큰 처리량이 3200조 개로 1년 새 7배 늘었다고 밝혔습니다. 포춘은 2023년 이후 토큰 가격이 90% 이상 떨어졌지만 LLM 전체 지출은 지난해 말 이후 약 두 배 늘었다고 전했습니다.

한눈에 보는 핵심 정보

  • 토큰 지출 지수: 97센트(지난달 31일 기준, 지난해 말 발표 이후 최저)
  • 제미나이 3.7 플래시: 100만 토큰당 입력 0.75달러, 출력 3.75달러
  • 구글 월간 토큰 처리량: 3200조 개(1년 새 7배)
  • LLM 전체 지출: 지난해 말 이후 약 두 배(포춘 보도)

3. 토큰 단가보다 작업당 비용을 봐야 하는 이유는 무엇일까요?

3. 토큰 단가보다 작업당 비용을 봐야 하는 이유는 무엇일까요?

▶ 같은 일을 끝내는 데 쓰는 토큰이 모델마다 크게 다르기 때문입니다

단가가 같거나 낮아도 한 작업에 쓰는 토큰이 많으면 총비용은 올라갑니다. 앤트로픽의 클로드 페이블 5.1이 대표적인 사례입니다.

앤트로픽은 페이블 5.1의 입력·출력 가격을 기존과 같은 100만 토큰당 10달러, 50달러로 유지했고 캐시 읽기 가격은 1달러에서 0.25달러로 75% 낮췄습니다. 그런데 아티피셜 애널리시스 종합 지능 지수에서 최대 노력 기준 작업당 비용은 3.69달러로, 페이블 5의 3.14달러보다 18% 높았습니다. 출력 토큰을 약 1.7배 더 썼기 때문입니다.

이코노미스트가 지난 6월 조지아공대 연구진 분석을 인용해 전한 사례도 있습니다. 같은 작업에서 한 딥시크 모델이 오픈AI 경쟁 모델보다 약 23배 많은 토큰을 썼다는 내용입니다.

아폴로의 수석 경제학자 토르스텐 슬록은 이를 제본스의 역설로 설명했습니다. 토큰이 싸질수록 기업이 지출을 줄이기보다 에이전트를 더 돌리고 더 많은 업무를 자동화한다는 취지입니다. 이 글은 개인 사용 기준의 정리이며 모델별 수치는 보도 시점의 값입니다.

4. 그럼 오늘부터 무엇을 확인하면 될까요?

4. 그럼 오늘부터 무엇을 확인하면 될까요?

▶ 먼저 재고, 그다음 세션을 비우고, 캐시가 깨지지 않게 하세요

비용을 줄이는 순서는 측정, 정리, 절약입니다. 질문 한 줄이 짧아도 세션이 무거우면 비용이 커진다는 점이 출발점입니다.

모델은 요청 사이에 아무것도 기억하지 못해서, 메시지를 보낼 때마다 시스템 프롬프트와 지금까지의 대화 전체를 다시 보냅니다. 한 번의 턴에서 도구를 여러 번 쓰면 그때마다 또 전송됩니다.

그다음 프롬프트 캐싱을 살펴보세요. AWS 기술 블로그 원문 기준으로 캐시 읽기는 표준 입력 단가의 약 0.1배, 캐시 쓰기는 5분 TTL에서 1.25배, 1시간 TTL에서 2.0배입니다. 이 수치는 2026년 8월 기준 공식 문서를 인용한 것이니 적용 전에 최신 문서를 확인하세요.

먼저 사용량을 측정해 어디서 토큰이 나가는지 봅니다. 그다음 무관한 작업으로 넘어갈 때는 세션을 비우고, 마지막으로 도구 정의나 대화 이력처럼 큰 항목을 줄이면 됩니다. 캐시 읽기가 쓰기보다 압도적으로 크면 잘 돌아가는 상태로 볼 수 있습니다.

오늘 체크할 것

  • 체크: 무관한 작업으로 넘어갈 때 세션을 비웠는지
  • 체크: 도구 정의가 대화 이력보다 크지 않은지
  • 체크: 캐시 읽기와 쓰기 비율이 한쪽으로 쏠리지 않았는지
  • 체크: 청구 금액은 공급사 콘솔에서 따로 확인했는지

▶ 자주 묻는 질문과 확인 사항

  • 질문: 토큰 가격이 최저라면 AI 비용도 줄어드나요?
  • 답변: 꼭 그렇지는 않습니다. 고성능 추론 모델과 에이전트가 더 긴 추론과 반복 호출로 토큰을 많이 쓰면 단가가 내려도 총비용이 늘 수 있습니다.
  • 질문: 모델을 고를 때 무엇을 비교해야 하나요?
  • 답변: 100만 토큰당 가격만 보지 말고 같은 업무를 끝내는 데 드는 작업당 비용을 비교하세요. 출력 토큰을 얼마나 쓰는지가 차이를 만듭니다.
  • 질문: 기업 구독 방식도 바뀌고 있나요?
  • 답변: 중앙일보 보도에 따르면 지난해 말부터 일부 AI 기업이 기업용 상품을 정액제에서 쓴 만큼 내는 종량제로 개편했습니다. 며칠 만에 1000만 원 청구서를 받은 직원 사례도 소개됐습니다.

▶ 단가 대신 작업당 비용으로 판단하세요

정리하면 토큰 가격이 사상 최저가 되었어도 AI 청구서가 가벼워진다는 보장은 없습니다. 단가는 내려가는데 사용량이 더 빨리 늘면 총지출은 커집니다.

그래서 AI 비용을 줄이려면 모델 단가표만 볼 것이 아니라, 업무 하나를 끝내는 데 토큰이 얼마나 드는지 재고 세션을 가볍게 유지하는 습관이 먼저입니다. 모델을 고를 때도 작업당 비용을 기준으로 삼아 보세요.

수치와 요금 조건은 자주 바뀌므로 원문을 직접 확인하시길 권합니다.

출처: 조선비즈 – https://biz.chosun.com/it-science/ict/2026/09/28/KZX4HJYXGZGB7GZYSX3TW576EQ/

참고한 자료

코멘트

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다