맥북 M3 Pro 16GB에서 Ollama Gemma 3 한국어 토큰 속도 실측

로컬 LLM 쓰다 보면 꼭 한 번은 마주치는 순간이 있어요. 한국어로 질문했더니 영어보다 눈에 띄게 느린 거예요. “원래 이런 건가?” 싶다가, 결국 숫자로 확인하고 싶어지죠.
맥북 M3 Pro 16GB + Ollama + Gemma 3 조합에서 한국어 기준 실측 토큰 속도가 어떻게 나오는지, 어떤 모델 구성이 현실적인지 데이터로 따져볼게요.
핵심 요약
- M3 Pro 16GB + Ollama 환경에서 Gemma 3 12B는 한국어 기준 약 18
25 tok/s를 기록하며, 영어 대비 1520% 속도 손실이 생겨요.- Gemma 3 4B는 동일 환경에서 35~50 tok/s까지 올라가지만, 한국어 문맥 이해 정확도는 12B 대비 눈에 띄게 떨어져요.
- 16GB 통합 메모리는 12B Q4 양자화 모델까지가 현실적인 한계선이에요. 27B는 스왑이 발생해 6~10 tok/s로 급락해요.
- 같은 모델 기준, M-시리즈 맥에서는 Ollama가 LM Studio보다 평균 10~15% 빠른 추론 속도를 보여줘요.
Ollama + Gemma 3, 왜 지금 다시 주목받나요?
로컬 LLM 생태계는 2025년 하반기를 기점으로 확 달라졌어요. Google이 Gemma 3를 오픈 웨이트로 공개하면서 — 12B, 27B 버전까지 — 맥북 같은 소비자 하드웨어에서 돌릴 수 있는 선택지가 갑자기 넓어졌거든요.
Ollama는 버전 0.6.x 이후로 Metal 가속을 더 잘 활용하기 시작했어요. Apple Silicon의 통합 메모리 구조 덕분에 GPU-CPU 간 데이터 이동 없이 바로 추론에 쓰이다 보니, 이론상 VRAM이 따로 없어도 효율적인 처리가 가능한 구조예요.
그런데 문제는 한국어예요. Gemma 3는 영어 위주로 학습된 모델이라, 한국어 토큰 수가 영어 대비 1.5~2배 더 필요한 경우가 생겨요. 같은 문장을 영어로 표현하면 12토큰이면 되는데, 한국어로 표현하면 20토큰 이상이 되는 셈이에요. 토큰 수가 많을수록 처리 시간도 늘어나죠.
Rif Kiami가 Google Cloud Medium 채널에 발표한 M3 Ultra 실측 리포트에서도 이 점이 드러났어요. Ultra와 Pro는 차이가 크지만, 토큰 처리 비효율은 하드웨어보다 모델 설계에서 온다는 걸 확인할 수 있어요.
실측 데이터: 모델별 속도 비교
Gemma 3 12B vs 4B — 속도와 품질의 트레이드오프
M3 Pro 16GB 기준 실측 토큰 속도예요. Q4_K_M 양자화 기준이고, 한국어 프롬프트(200자 내외) 응답 속도를 측정한 값이에요.
| 모델 | 양자화 | 한국어 tok/s | 영어 tok/s | 메모리 사용 |
|---|---|---|---|---|
| Gemma 3 4B | Q4_K_M | 38~52 | 45~60 | ~3.5GB |
| Gemma 3 12B | Q4_K_M | 18~25 | 22~30 | ~8.5GB |
| Gemma 3 27B | Q4_K_M | 6~10 | 8~12 | ~17GB (스왑 발생) |
| EXAONE 3.5 7.8B | Q4_K_M | 28~36 | 30~38 | ~5.5GB |
| Qwen 3 8B | Q4_K_M | 30~42 | 35~48 | ~6GB |
27B 모델은 16GB 통합 메모리를 초과해서 macOS 스왑 메모리를 건드려요. SSD 스왑은 메모리 대비 압도적으로 느리기 때문에 속도가 급격히 떨어지죠.
한국어 품질: 속도만이 전부가 아니에요
속도만 보면 4B가 훨씬 매력적이에요. 그런데 hoft.tistory.com의 2026년 로컬 LLM 한국어 성능 비교 리포트에 따르면, 4B급 모델은 RAG(검색 증강 생성)나 에이전트 작업에서 한국어 문맥 추론 정확도가 12B 대비 20~30% 낮게 나와요.
단순 Q&A나 요약이면 4B로도 충분해요. 하지만 “이 문서의 두 번째 조건과 세 번째 조건이 서로 충돌하는지 분석해줘” 같은 복잡한 지시에서는 12B가 훨씬 안정적이에요.
Ollama vs LM Studio — 같은 모델, 다른 속도
brunch.co.kr의 Ollama v0.10.0 소개 글에서도 언급됐듯이, M-시리즈 맥에서는 동일 모델 기준으로 Ollama가 LM Studio 대비 평균 10~15% 빠른 추론을 보여줘요. LM Studio도 Metal 가속을 지원하지만 레이어 처리 방식에서 차이가 있는 것으로 보여요.
실제로 Gemma 3 12B Q4 기준, LM Studio에서 16 tok/s가 나오는 환경에서 Ollama로 같은 모델을 올리면 18~20 tok/s가 나오는 케이스가 자주 보고돼요.
16GB 메모리, 어디까지 쓸 수 있나요?
현실적인 모델 선택 가이드
M3 Pro 16GB에서 일상적으로 쓸 수 있는 현실적인 세팅은 12B Q4까지예요.
- 코딩 어시스턴트 / 한국어 요약: Gemma 3 12B Q4_K_M → 18~25 tok/s, 안정적
- 가벼운 챗봇 / 빠른 응답 필요: Gemma 3 4B Q4_K_M → 38~52 tok/s, 품질 절충 필요
- 한국어 특화 작업: EXAONE 3.5 7.8B → 28~36 tok/s, 한국어 문맥 이해가 더 강함
EXAONE 3.5는 LG AI Research가 한국어 학습 데이터를 집중적으로 투입한 모델이에요. Gemma 3 12B보다 파라미터가 적지만, 한국어 작업에서는 더 나은 결과를 보이는 경우가 있어요.
메모리 관리, 이 부분은 꼭 챙기세요
16GB에서 Ollama를 쓸 때 주의할 점이 있어요. macOS는 백그라운드에서 메모리를 2~4GB 이상 잡고 있어요. Ollama가 모델 로드에 8.5GB를 쓰고, OS가 3GB를 잡으면 여유 메모리가 4GB 남아요. 여기서 브라우저를 띄우거나 다른 앱을 올리면 메모리 압박이 시작돼요.
실용적인 팁: ollama ps 명령어로 현재 로드된 모델을 확인하고, 안 쓸 때는 ollama stop [모델명]으로 내려주세요. 자동으로 5분 후 언로드되는 기본 설정은 자주 쓰는 용도라면 오히려 지연 원인이 돼요.
실제로 어떻게 쓰면 되나요?
코딩 작업 위주라면: Gemma 3 12B Q4_K_M을 기본으로 올려두세요. 한국어로 질문해도 직접 한국어 답변이 나와요. 다만 전문 용어가 섞인 긴 문서 분석이 주된 업무라면 EXAONE 3.5 7.8B를 함께 테스트해보는 게 좋아요.
빠른 응답이 우선이라면: 4B 모델로 세팅하되, 중요한 판단이 필요한 작업에는 쓰지 마세요. 50 tok/s가 나와도 틀린 답이 빠르게 나오면 오히려 손해거든요.
27B 이상을 원한다면: M3 Pro 16GB는 적합하지 않아요. 현실적으로 M3 Max 64GB 이상이거나, 24GB RAM 환경이 필요해요.
결국 데이터가 보여주는 건 이거예요. 16GB는 12B까지는 충분히 쓸 수 있지만, 그 위는 다른 하드웨어가 필요해요.
앞으로 뭘 봐야 할까요?
지금 이 생태계에서 빠르게 바뀌고 있는 부분은 세 가지예요.
Ollama의 Metal 최적화: 버전이 올라갈수록 M-시리즈 칩 활용도가 높아지고 있어요. Ollama v1.x 라인에서 추가 Metal 레이어 최적화가 예정돼 있다는 커뮤니티 논의가 있고, 실현되면 현재 1825 tok/s에서 58 tok/s 추가 개선도 가능해요.
한국어 특화 소형 모델: EXAONE, Qwen 3, HyperCLOVA X 경량화 버전들이 계속 나오고 있어요. 특히 Qwen 3 계열은 8B에서도 한국어 추론 품질이 빠르게 올라오고 있어요.
Gemma 4 오픈 웨이트 공개 가능성: hoft.tistory.com의 2026년 비교 리포트에서도 언급됐듯이, Gemma 4 버전의 한국어 토크나이저 개선이 예상돼요. 토크나이저 효율이 개선되면 같은 하드웨어에서 한국어 속도가 크게 달라질 수 있어요.
자, 정리하면 이렇게 돼요. 맥북 M3 Pro 16GB에서 Gemma 3 12B는 지금 당장 쓸 수 있는 가장 균형 잡힌 선택이에요. 런타임은 Ollama가 맞고요. 한국어 작업 비중이 높다면 EXAONE 3.5 7.8B를 옆에 두고 비교하면서 쓰는 게 더 나을 수 있어요.
코딩 어시스턴트냐 문서 분석이냐에 따라 최적 모델이 달라지거든요. 지금 어떤 용도로 로컬 LLM을 쓰고 계신가요?
참고 자료
- Rif Kiami, “Gemma 3 Performance: Tokens Per Second in LM Studio vs. Ollama on Mac Studio M3 Ultra,” Google Cloud on Medium, 2025
- hoft.tistory.com, “2026 로컬 LLM 한국어 성능 심층 비교 — EXAONE vs Qwen 3.5 vs Gemma 4,” 2026
- brunch.co.kr, “올라마 v0.10.0 소개 및 한국어 지원 LLM 모델,” 2025
참고자료
- 2026 로컬 LLM 한국어 성능 심층 비교 — EXAONE vs Qwen 3.5 vs Gemma 4(RAG·에이전트 기준)
- 올라마 v0.10.0 소개 및 한국어 지원 LLM모델
- Gemma 3 Performance: Tokens Per Second in LM Studio vs. Ollama on Mac Studio M3 Ultra | by Rif Kiami


