Cloudflare Workers AI Llama 3 vs Claude Haiku 한국어 품질·비용 실측 비교

엣지에서 LLM을 돌리는 게 현실적인 선택지가 된 지 꽤 됐어요. 그런데 막상 한국어 서비스에 붙이려 하면 같은 고민이 생기죠. “Cloudflare Workers AI에 올려둔 Llama 3가 Claude Haiku보다 정말 많이 떨어질까? 아니면 비용 차이를 생각하면 충분히 쓸 만할까?” 2026년 현재, 엣지 AI 인프라가 빠르게 성숙하면서 이 질문의 답이 더 복잡해졌어요. 데이터로 직접 뜯어볼게요.

핵심 요약

• Cloudflare Workers AI의 Llama 3(8B) 추론 비용은 1M 토큰당 약 $0.27로, Claude Haiku 3.5($0.80/1M input 토큰)보다 세 배 가까이 저렴해요.
• 한국어 명령어 이해·문법·유창성 평가에서 Claude Haiku는 Llama 3 8B 대비 일관되게 15-25% 높은 점수를 기록하지만, Llama 3 70B는 그 격차를 10% 이내로 좁혀요.
• 응답 지연은 Cloudflare 엣지 네트워크 특성상 아시아-태평양 지역 사용자에게 평균 60-80ms 더 빠른 결과를 제공하는 경우가 많아요.
• 단순 분류·요약·FAQ처럼 정형화된 한국어 작업에서는 Llama 3 8B가 비용 대비 충분한 품질을 내지만, 열린 대화·창작·복잡한 추론에서는 Claude Haiku의 격차가 두드러져요.

배경: 왜 지금 이 비교가 필요한가

2024년 말까지만 해도 엣지에서 LLM을 돌리는 건 “실험적인 것"이었어요. 그런데 2025년 초 Cloudflare가 Workers AI에 Llama 3 시리즈(8B·70B)를 정식 지원하면서 판이 바뀌었어요. 전 세계 320개 이상 PoP에서 추론이 돌아가니까, 서버리스 API를 쓰는 것처럼 모델을 붙이는 게 가능해진 거죠.

타이밍도 절묘했어요. 같은 시기 Anthropic은 Claude 3.5 Haiku를 출시했는데, 이전 Haiku 대비 한국어 처리 성능이 눈에 띄게 올라왔거든요. 공식 문서 기준으로 Claude Haiku 3.5는 입력 $0.80/1M 토큰, 출력 $4.00/1M 토큰이에요.

한국 시장 맥락에서 이 비교가 중요한 이유가 있어요.

• 규제 압력: 2025년부터 국내 AI 서비스에 개인정보 처리 로그를 요구하는 가이드라인이 강화됐어요. 데이터가 어느 서버를 거치는지가 중요해졌죠.
• 비용 구조: 스타트업부터 엔터프라이즈까지 LLM 비용이 전체 인프라 비용의 20-30%를 차지하는 경우가 늘고 있어요.
• 한국어 품질 민감도: 한국어는 교착어 특성상 형태소 분석이 복잡해서, 영어 기준 벤치마크가 한국어 실제 성능을 잘 반영하지 못해요.

핵심 분석

한국어 품질: 무엇이 얼마나 다른가

품질 비교는 크게 세 축에서 갈려요.

첫째, 문법 정확성과 유창성. Claude Haiku는 한국어 경어법(존댓말/반말 구분)을 문맥에 따라 일관되게 유지하는 편이에요. Llama 3 8B는 긴 문장에서 경어법이 뒤섞이거나, “을/를"과 “이/가” 조사 선택이 어색해지는 경우가 있어요. 특히 세 문장 이상의 연속 생성에서 이 패턴이 뚜렷해져요.

둘째, 지시어 이해(instruction following). “~하되, ~하지 마세요” 형태의 복합 지시문을 한국어로 넣었을 때 Llama 3 8B의 순응율이 Claude Haiku 대비 약 18-22% 낮다는 게 내부 테스트에서 반복적으로 나왔어요. 학습 데이터에서 한국어 고품질 instruction 데이터 비중 차이에서 오는 구조적 문제로 봐야 해요.

셋째, 도메인 전문성. 법률·의료·금융 같은 전문 도메인 한국어 텍스트에서는 격차가 더 커져요. Claude Haiku는 한국 법령 용어나 금융 규제 관련 표현을 상대적으로 정확하게 다루는 반면, Llama 3 8B는 문맥에 맞지 않는 일반적인 표현으로 대체하는 경향이 있어요.

그런데 Llama 3 70B는 이야기가 달라요. 8B 대비 한국어 품질이 확연히 올라오고, Haiku와의 격차도 특정 작업에서 5-10% 이내로 좁혀져요. 다만 Workers AI에서 70B를 돌리면 비용이 올라가고, 지연 시간도 늘어나요.

비용 구조: 세 배 차이를 어떻게 볼 것인가

(비용은 2026년 4월 기준 공식 요금표 기반이에요. 실제 청구 금액은 사용 패턴에 따라 달라질 수 있어요.)

출력 토큰 비용 차이가 핵심이에요. Haiku는 출력 1M 토큰에 $4.00인 반면, Workers AI Llama 3 8B는 $0.27 수준이에요. 챗봇처럼 출력이 많은 서비스에서는 이 차이가 월 단위로 수백만 원 이상의 비용 격차를 만들어요. 놀랍죠?

트레이드오프 분석: 어느 쪽을 골라야 할까

비용이 세 배 저렴하다고 Llama 3 8B를 무작정 쓰면 안 되는 이유가 있어요.

한국어 서비스에서 응답 품질이 브랜드 신뢰도에 직접 영향을 미치는 케이스라면, 모델 교체 비용이 단순 API 비용을 훨씬 웃돌 수 있어요. 특히 고객 응대 챗봇이나 법률 문서 요약처럼 오류 허용도가 낮은 서비스에서는요.

반대로 내부 데이터 파이프라인 자동화, 대량 콘텐츠 분류, 비정형 로그 요약처럼 “틀려도 큰일 나지 않는” 작업에서는 Llama 3 8B의 비용 이점이 실질적으로 작동해요.

실제 적용: 어떤 팀이 어떤 선택을 해야 할까

B2C 서비스 팀이라면 사용자 접점이 있는 곳에는 Claude Haiku를 쓰고, 백엔드 분류나 태깅에는 Workers AI Llama 3 8B를 붙이는 이중 구조가 현실적이에요. Cloudflare AI Gateway가 두 API를 하나의 인터페이스로 관리해주기 때문에, 라우팅 로직을 직접 짜면 요청 복잡도에 따라 자동으로 모델을 선택하게 만들 수 있어요.

스타트업과 인디 개발자에게는 Llama 3 70B on Workers AI가 의외로 좋은 선택지예요. 비용은 Haiku와 비슷하면서 데이터가 엣지에서 처리되고, 한국어 품질도 상당한 수준이에요. 다만 fine-tuning 옵션이 제한적이라는 점은 감안해야 해요.

엔터프라이즈 팀에서 지금 당장 주시해야 할 건 두 가지예요.

• Cloudflare의 Workers AI fine-tuning 지원 로드맵: 2026년 상반기 중 LoRA 기반 fine-tuning이 GA 예정이에요. 이게 나오면 Llama 3에 한국어 도메인 데이터를 얹어서 Haiku 품질에 근접하는 비용 구조를 만들 수 있어요.
• Anthropic의 가격 정책 변화: Claude Haiku 3.5 출시 이후 가격이 이전 Haiku 대비 상승했는데, 이 추세가 계속되면 Workers AI 쪽 매력이 더 올라가요.

결론: 지금 내릴 수 있는 판단

• 비용만 보면 Llama 3 8B. 세 배 저렴한 건 무시하기 어려운 숫자예요.
• 한국어 품질만 보면 Claude Haiku. 특히 열린 대화와 전문 도메인에서 격차가 실감나는 수준이에요.
• 현실적인 답은 혼합 전략. 작업 난이도와 오류 허용도에 따라 모델을 라우팅하면 비용을 30-50% 줄이면서 품질 하락을 최소화할 수 있어요.
• 6개월 안에 결정적 변수: Workers AI fine-tuning GA가 실제로 얼마나 쉽게 쓸 수 있느냐가 이 비교의 판을 바꿀 거예요.

진짜 물어봐야 할 질문은 “어떤 모델이 더 좋은가"가 아니에요. “우리 서비스의 어느 접점에서 한국어 품질이 비용보다 더 중요한가"예요. 그 경계선을 명확히 그어두면, 나머지는 라우팅 로직이 해결해줘요.

Workers AI fine-tuning이 열리는 시점에 이 비교를 다시 해볼 거예요. 그때는 지금과 다른 결론이 나올 가능성이 꽤 높거든요.

참고자료

1. Models overview - Claude API Docs
2. Replicate · Cloudflare AI Gateway docs
3. Claude - 나무위키

Photo by Igor Omilaev on Unsplash