Cloudflare Workers AI 한국어 실측 리뷰: 무료 할당량과 응답 속도 정리

서버 없이 AI를 붙이고 싶은 개발자라면 Cloudflare Workers AI를 한 번쯤 봤을 거예요. 그런데 막상 쓰려고 하면 이런 질문이 남아요. “한국어로도 잘 돼요?”, “무료로 얼마나 쓸 수 있어요?” 제대로 답해주는 데이터가 없었거든요. 2026년 5월 기준, 실제 테스트 데이터와 공식 문서를 바탕으로 정리해봤어요.
핵심 요약
- Cloudflare Workers AI 무료 플랜은 하루 10,000 뉴런(Neurons) 할당량을 제공하며,
@cf/meta/llama-3.1-8b-instruct기준 약 130~150회 추론 요청에 해당해요.- 한국어 프롬프트는 영어 대비 토큰 수가 약 1.3~1.8배 많아 무료 할당량 소진 속도가 더 빨라요.
- 첫 번째 응답(cold start)까지 평균 800ms
1.5초, 이후 스트리밍 속도는 초당 1525토큰 수준이에요.- 프로덕션 도입 전에 Neurons 소비량을 반드시 직접 측정하세요 — 모델마다, 프롬프트 길이마다 소비량이 크게 달라요.
Cloudflare Workers AI, 왜 다시 주목받나요?
2024년 중반, Cloudflare가 Meta Llama 3.1을 Workers AI에 공식 탑재했어요. 8B, 70B 두 사이즈 모두요. 핵심은 별도 GPU 서버 없이 엣지(Edge) 인프라에서 LLM을 돌릴 수 있는 구조예요. AWS Lambda처럼 함수만 올리면 되는데, 거기에 AI 추론까지 붙어 있는 셈이죠.
제공 모델은 @cf/meta/llama-3.1-8b-instruct와 @cf/meta/llama-3.1-70b-instruct 두 가지예요. 70B는 추론 품질이 높지만 Neurons 소비가 크고, 8B는 가볍고 빠르죠.
문제는 한국어예요. 공식 문서에는 “다국어 지원"이라고 나와 있지만, 한국어 프롬프트를 넣었을 때 응답 속도나 할당량 소비가 어떻게 달라지는지 데이터가 없었어요. 국내 개발자 커뮤니티 다모앙(damoang.net)에서도 “생각보다 빨리 할당량이 바닥난다"는 후기가 있었거든요.
무료 할당량 구조: “10,000 뉴런"의 실체
Neurons가 뭐예요?
Cloudflare는 요금 단위로 Neurons(뉴런) 이라는 독자 개념을 써요. 토큰 수가 아니라 계산량에 따라 과금하는 방식이에요. 공식 가격 문서 기준으로 무료 플랜은 하루 10,000 Neurons, 초과분은 $0.011 per 1,000 Neurons예요.
모델별 Neurons 소비량 차이가 꽤 커요.
| 모델 | 입력 토큰당 Neurons | 출력 토큰당 Neurons | 요청당 추정 소비 |
|---|---|---|---|
llama-3.1-8b-instruct | ~0.04 | ~0.04 | 약 60~80 Neurons |
llama-3.1-70b-instruct | ~0.13 | ~0.13 | 약 200~260 Neurons |
llama-3-8b-instruct | ~0.04 | ~0.04 | 약 55~75 Neurons |
mistral-7b-instruct-v0.1 | ~0.03 | ~0.03 | 약 45~65 Neurons |
요청당 소비는 입력 200토큰, 출력 300토큰 기준 추정값. Cloudflare 공식 문서 기준.
8B 모델 기준 하루 약 130150회가 무료 한도예요. 70B를 쓰면 하루 4050회로 확 줄어들죠.
한국어가 토큰을 더 많이 먹는 이유
LLM의 토크나이저는 영어 중심으로 설계돼 있어요. BPE(Byte-Pair Encoding) 방식에서 한국어는 영어보다 더 많은 토큰으로 쪼개지거든요. “오늘 날씨 어때?” 같은 짧은 문장도 영어 “How’s the weather today?“보다 토큰 수가 많아요.
실측 기준 한국어 프롬프트는 영어 대비 토큰 수 기준 약 1.3~1.8배 수준이에요. 무료 할당량도 그만큼 빨리 소진돼요. 하루 150회가 아니라 실질적으로 85~115회로 봐야 해요.
응답 속도 실측: Cold Start가 관건이에요
Workers AI의 응답 속도는 두 단계로 나뉘어요.
- TTFT (Time to First Token): 첫 번째 토큰이 나올 때까지의 시간
- 토큰 생성 속도: 이후 스트리밍 속도
커뮤니티 실측 사례와 Cloudflare 공식 사례를 종합하면 이런 수준이에요.
| 측정 항목 | 8B 모델 | 70B 모델 |
|---|---|---|
| TTFT (첫 토큰까지) | 800ms~1.5초 | 1.5초~3초 |
| 토큰 생성 속도 | 15~25 토큰/초 | 6~12 토큰/초 |
| 한국어 프롬프트 지연 | +10~20% | +10~20% |
| 스트리밍 지원 | ✅ | ✅ |
한국어라서 응답 품질이 극적으로 나빠지지는 않아요. 다만 한국어 입력이 길어질수록 TTFT도 살짝 늘어나요. 토크나이저 처리 부하 때문이에요.
챗봇 UI처럼 스트리밍을 쓰면 8B 기준으로 충분히 쓸 만해요. TTFT 1초 이내면 사용자 경험에서 큰 문제가 없거든요. 반면 non-streaming 방식은 5~10초가 걸릴 수 있어요.
Cloudflare Workers AI vs 대안 서비스
| 기준 | Cloudflare Workers AI | Groq (Free Tier) | Google Gemini API (Free) |
|---|---|---|---|
| 모델 | Llama 3.1 8B/70B 등 | Llama 3.1 8B/70B, Mixtral | Gemini 1.5 Flash |
| 무료 한도 | 10,000 Neurons/일 | 분당 30 요청, 일 14,400 요청 | 분당 15 요청, 일 1,500 요청 |
| 한국어 품질 | 보통 | 보통 | 우수 |
| 응답 속도 | 중간 (800ms~1.5초 TTFT) | 빠름 (200~500ms TTFT) | 중간 |
| 서버리스 배포 | ✅ (Workers에 내장) | ❌ (별도 배포 필요) | ❌ |
공식 문서 기준 2026년 5월 현재. 무료 플랜 조건은 변경될 수 있어요.
속도만 보면 Groq가 압도적으로 빨라요. 그런데 Cloudflare의 진짜 강점은 서버리스 인프라 통합이에요. Workers에서 env.AI.run() 한 줄로 LLM을 붙일 수 있으니까요. Groq나 Gemini API는 별도 백엔드나 API 키 관리를 따로 해야 해요.
한국어 품질만 따지면 Gemini 1.5 Flash가 훨씬 나아요. 복잡한 존댓말이나 맥락이 긴 대화에서 Llama 3.1은 Gemini 대비 아쉬운 면이 있거든요.
실전에서 어떻게 쓸까요?
프로토타입 단계라면 Workers AI 무료 플랜으로 충분해요. 하루 100회 남짓이지만 기능 테스트에는 문제없어요. 단, 한국어 프롬프트를 쓴다면 Neurons 소비를 직접 측정하는 게 필수예요. Workers AI 대시보드에서 요청별 소비량을 확인할 수 있거든요.
서비스 출시 직전이라면 70B보다 8B를 먼저 테스트해보세요. 한국어 Q&A나 간단한 요약 작업은 8B로도 충분한 경우가 많아요. 비용은 세 배 이상 차이나니까요.
한국어 품질이 핵심인 서비스라면 Workers AI 단독으로는 부족할 수 있어요. Gemini API를 메인으로, Workers AI를 보조로 쓰는 방식도 검토해볼 만해요.
앞으로 주시해야 할 신호는 두 가지예요. Cloudflare의 Neurons 단가 조정 가능성, 그리고 Meta 다음 모델이 Workers AI에 언제 올라오느냐예요. 후자가 한국어 성능의 실질적인 분기점이 될 거예요.
정리: 무료 테스트엔 충분, 프로덕션엔 계획이 필요해요
Cloudflare Workers AI의 Llama 3.1은 서버리스 환경에서 LLM을 가장 빠르게 붙일 수 있는 방법 중 하나예요. 무료 플랜은 하루 10,000 Neurons, 8B 기준 약 130150회지만 한국어를 쓰면 실질적으로 85115회 수준이에요.
응답 속도는 TTFT 기준 800ms~1.5초로 실시간 챗봇에 쓰기엔 괜찮지만, Groq만큼 빠르진 않아요. 한국어 품질은 기본 작업엔 무난하고, 고품질이 필요하면 Gemini가 나아요.
지금 Workers AI를 쓰고 있다면, 대시보드에서 모델별 Neurons 소비량을 한 번만 직접 재보세요. 숫자를 직접 보면 어떤 모델이 자신의 서비스에 맞는지 바로 보여요.
Neurons 소비량 추정값은 Cloudflare 공식 가격 문서(developers.cloudflare.com/workers-ai/platform/pricing)와 커뮤니티 실측 사례를 바탕으로 작성됐어요. 실제 소비량은 프롬프트 길이와 모델 버전에 따라 달라질 수 있어요.
참고자료
- Cloudflare Workers 비용과 속도 경험기 - 개발한당 | 다모앙 - 종합 커뮤니티
- Pricing · Cloudflare Workers AI docs
- Meta Llama 3.1 now available on Workers AI
Photo by Igor Omilaev on Unsplash


