Claude API 프롬프트 캐싱 전후 토큰 청구서 비용 비교

매달 Claude API 청구서를 열 때마다 숫자가 예상보다 크게 나와서 당황한 적 있으세요? 프롬프트 캐싱을 켜기 전과 후, 청구서가 절반 가까이 달라지는 걸 직접 보면 얘기가 달라져요.

핵심 요약

• Claude API 프롬프트 캐싱은 반복 입력 토큰 비용을 최대 90%까지 낮출 수 있어요 (Anthropic 공식 요금표 기준).
• Claude 3.5 Sonnet 기준으로 일반 입력 토큰은 백만 개당 $3인 반면, 캐시 읽기 토큰은 $0.30 — 정확히 10분의 1 수준이에요.
• 캐싱 효과는 시스템 프롬프트가 길고 요청 빈도가 높을수록 극적으로 나타나요. 코드 리뷰나 RAG 파이프라인처럼 긴 컨텍스트를 반복 전송하는 경우가 대표적이에요.
• 단, 캐시 쓰기(write) 비용은 일반 입력보다 25% 더 비싸서, 캐싱이 무조건 유리하진 않아요.

왜 지금 이 기능이 다시 화제인가요

Anthropic이 프롬프트 캐싱을 처음 공개한 건 2024년 후반이에요. 그런데 2026년 초 기준으로 이 기능이 다시 주목받는 데는 이유가 있어요.

Claude API 사용량이 폭발적으로 늘었거든요. 특히 Claude 3.5 Sonnet과 Claude 3.7 Sonnet이 코딩 보조 도구로 자리잡으면서, 긴 시스템 프롬프트를 반복해서 전송하는 패턴이 급증했어요. 코드베이스 전체를 컨텍스트로 넣어두고 매번 질문하는 방식이죠. 이런 워크플로에서 캐싱 없이 쓰면 입력 토큰 비용이 눈덩이처럼 불어나요.

2026년 3월 현재, Anthropic 공식 요금표 기준 Claude 3.5 Sonnet의 토큰 단가는 세 가지예요:

• 일반 입력: 백만 토큰당 $3.00
• 캐시 쓰기: 백만 토큰당 $3.75 (+25%)
• 캐시 읽기: 백만 토큰당 $0.30 (-90%)

숫자만 보면 단순해 보이는데, 실제 청구서에서 어떻게 차이가 나는지는 좀 더 뜯어봐야 해요.

실제 청구서는 어떻게 달라지나요

시나리오 1: 코드 리뷰 봇

5,000 토큰짜리 시스템 프롬프트(코딩 스타일 가이드, 프로젝트 규칙 등)를 하루 500번 보내는 팀을 생각해 볼게요.

캐싱 없이:

• 입력 토큰 = 5,000 × 500 = 2,500,000 토큰
• 비용 = 2.5M × $3.00 / 1M = $7.50/일

캐싱 적용 후:

• 첫 요청 캐시 쓰기 = 5,000 × $3.75 / 1M = $0.019
• 나머지 499번 캐시 읽기 = 5,000 × 499 × $0.30 / 1M = $0.748
• 하루 총비용 ≈ $0.77/일

하루에 $6.73 절감. 한 달이면 약 $202 차이예요. 연간으로 따지면 $2,400 이상을 아낄 수 있는 셈이에요.

시나리오 2: RAG 파이프라인

20,000 토큰짜리 문서를 하루 200번 조회하는 경우예요.

절감률 약 90%예요. 이 정도면 캐싱 적용 여부가 서비스 수익성을 가를 수도 있어요.

언제 캐싱이 오히려 손해일까요

캐싱이 역효과를 내는 경우도 있어요. 짧은 시스템 프롬프트(1,024 토큰 미만)는 캐싱 대상 자체가 안 돼요. Anthropic 공식 문서 기준 캐싱 최소 블록 크기가 Claude 3.5 Sonnet 기준 1,024 토큰이거든요.

요청 빈도가 낮은 경우도 마찬가지예요. 캐시 쓰기 비용이 25% 더 비싸기 때문에, 캐시를 딱 한 번 쓰고 두 번 다시 읽지 않는다면 그냥 일반 입력이 나아요.

캐싱 효과 체크리스트:

• 시스템 프롬프트 또는 컨텍스트가 1,024 토큰 이상인가요?
• 같은 프롬프트를 하루 10번 이상 반복 사용하나요?
• 캐시 유효 기간(5분) 내에 반복 요청이 일어나나요?

두 개 이상 해당하면 캐싱이 확실히 도움이 돼요.

캐싱 설정, 실제로 어떻게 하나요

생각보다 간단해요. 시스템 프롬프트 블록에 "cache_control": {"type": "ephemeral"} 플래그 하나 추가하면 끝이에요.

response = anthropic.messages.create(
    model="claude-3-5-sonnet-20241022",
    system=[{
        "type": "text",
        "text": "당신의 긴 시스템 프롬프트...",
        "cache_control": {"type": "ephemeral"}
    }],
    messages=[{"role": "user", "content": "질문"}]
)

캐시 적중 여부는 응답 헤더의 cache_read_input_tokens와 cache_creation_input_tokens 필드로 확인할 수 있어요. 이 수치를 모니터링하면 캐싱이 실제로 작동하는지 바로 알 수 있죠.

규모별 전략

스타트업, 월 $50 미만 캐싱의 절대적 절감액은 작아요. 하지만 설정 자체가 한 줄 코드 변경이라 부담 없이 적용하면 돼요.

중간 규모 SaaS, 월 $500~$5,000 효과가 가장 극적으로 나타나는 구간이에요. 시스템 프롬프트 길이를 1,024 토큰 이상으로 늘리는 것도 방법이에요. 더 구체적인 지침을 넣을수록 응답 품질도 올라가거든요. 캐싱 적중률 80% 이상을 목표로 잡는 게 현실적이에요.

엔터프라이즈, 월 $10,000+ 캐시 포인트 위치 설계가 중요해요. 문서를 컨텍스트 앞쪽에, 사용자 입력을 뒤쪽에 배치하는 구조가 표준이에요. 캐시 유효 기간(5분)을 의식해서 요청을 배치하는 스케줄링 전략도 고려할 만해요.

참고로, Anthropic이 2026년 하반기에 캐시 유효 기간 설정 옵션(5분 이상)을 추가할 가능성이 있어요. 현재 베타 기능으로 일부 팀에서 테스트 중이라는 얘기가 개발자 포럼에 나돌고 있어요. 공식 발표가 나오면 장기 세션 기반 서비스의 비용 구조가 또 한 번 바뀔 수 있어요.

정리하면

• 프롬프트 캐싱 실제 비용 절감은 시스템 프롬프트 길이와 반복 횟수에 정비례해요.
• 캐시 읽기 단가가 일반 입력의 10분의 1이라는 점이 핵심이에요.
• RAG나 코드 리뷰 봇처럼 긴 컨텍스트를 반복하는 워크플로에서 월 수백 달러 절감이 현실적이에요.
• 캐시 쓰기 비용이 더 비싸다는 점을 감안해서, 반복 횟수가 충분한지 먼저 따져보세요.

지금 당장 청구서를 열어서 입력 토큰 비용이 얼마인지 확인해 보세요. 그리고 시스템 프롬프트 길이가 1,024 토큰을 넘는지 체크하는 것부터 시작하면 돼요. 막상 해보면 “왜 이걸 진작 안 했지?” 싶을 거예요.

참고자료

1. Claude Code 요금제 완벽 정리 : Pro 구독 vs API 종량제, 개발자의 선택은?
2. Claude Code Pricing Guide 2026: Every Plan, Real Costs, and How to Choose | LaoZhang AI Blog

Photo by Vitaly Gariev on Unsplash