맥북 M3 16GB vs M1, Ollama 한국어 토큰 생성 속도 비교
M1에서 Ollama를 돌려본 적 있으시죠? 처음엔 괜찮다가, 대화가 길어지면 슬슬 답답해지는 그 느낌. 특히 한국어로 쓰면 더 심하게 느껴지고요. M3로 업그레이드하면 달라질까 싶어서 벤치마크를 찾아봤는데, 숫자가 꽤 명확하게 나와요.
핵심 요약
- M3(16GB)는 llama3.2:3b 기준 약 45-55 토큰/초, M1(16GB)은 25-30 토큰/초 — 약 1.7-1.8배 차이예요.
- 한국어는 동일 내용 영어 대비 1.5-2배 더 많은 토큰을 소비해서, 체감 지연이 더 크게 느껴져요.
- M3 메모리 대역폭(100GB/s)이 M1(68.25GB/s)보다 약 46% 넓어, 메모리 바운드인 LLM에서 직접 속도 이점으로 이어져요.
- 16GB 환경에서는 llama3.2:3b이 현실적인 스위트 스팟이고, 7B 이상은 두 칩 모두 느려요.
- Reddit r/ollama 피드백 기준, M1 사용자 상당수가 한국어 다중 턴 대화에서 버벅임을 보고하는 반면, M3 사용자는 비교적 자연스러운 흐름을 유지해요.
M1에서 M3까지: 메모리 대역폭이 전부예요
LLM은 GPU 바운드 워크로드가 아니에요. 이게 핵심이에요.
딥러닝 학습은 연산량(FLOPS)이 병목이지만, 추론 단계에서는 모델 가중치를 얼마나 빠르게 메모리에서 꺼내오느냐가 속도를 결정해요. 이걸 “메모리 바운드” 특성이라고 하는데, Apple Silicon의 통합 메모리 구조가 여기서 강점을 발휘하는 이유가 바로 이거예요.
CraftRigs 벤치마크 데이터 기준으로 칩별 스펙을 비교하면:
| 칩 | 메모리 대역폭 | Neural Engine | GPU 코어 | llama3.2:3b 속도(추정) |
|---|---|---|---|---|
| M1 | 68.25 GB/s | 11 TOPS | 7/8코어 | ~25-30 토큰/초 |
| M2 | 100 GB/s | 15.8 TOPS | 8/10코어 | ~35-40 토큰/초 |
| M3 | 100 GB/s | 18 TOPS | 10코어 | ~45-55 토큰/초 |
| M4 | 120 GB/s | 38 TOPS | 10코어 | ~60-70 토큰/초 |
출처: CraftRigs Apple Silicon LLM Benchmarks, LocalAI Master 가이드 (2026년 4월 기준)
M2와 M3가 같은 100GB/s 대역폭인데 M3가 더 빠른 건, Neural Engine 개선과 GPU 아키텍처 효율 덕분이에요. 대역폭만 보면 안 된다는 거죠.
M1 대비 M3의 속도 이점은 약 70-80% 향상으로 정리돼요. 숫자로는 작아 보여도, 50 토큰/초와 28 토큰/초는 실사용에서 완전히 다른 경험이에요.
한국어 토큰 비효율: 왜 더 느리게 느껴지나요?
llama3.2의 토크나이저는 기본적으로 영어에 최적화된 tiktoken 계열이에요. 한국어는 이 토크나이저에서 음절 단위로 분리되는 경우가 많아요.
예를 들면, “안녕하세요, 오늘 날씨가 좋네요"는 영어 “Hello, the weather is nice today"보다 약 1.4-1.8배 더 많은 토큰을 소비해요. LocalAI Master 가이드에서도 한국어·일본어·중국어 같은 비라틴 계열 언어는 동일 의미 대비 토큰 수가 증가한다고 명시하고 있어요.
실제 체감 차이는 이렇게 나타나요:
- 짧은 한국어 질문 답변: 약 2-4초 (M3) vs 4-7초 (M1)
- 다중 턴 대화 (컨텍스트 누적): 토큰이 쌓일수록 M1은 급격히 느려짐
- 긴 한국어 문서 요약: 128 토큰이 넘는 컨텍스트 처리 시 M1은 스왑 발생 가능
Reddit r/ollama에서 M1 사용자들이 자주 언급하는 패턴이 있어요. “처음 몇 번은 괜찮은데, 대화가 길어질수록 버벅인다"는 거예요. 컨텍스트 길이가 늘어나면서 매 토큰 생성마다 더 많은 KV 캐시를 메모리에서 읽어와야 하기 때문이에요.
16GB 메모리 한계선: 무엇을 돌릴 수 있나요?
16GB 통합 메모리에서 돌릴 수 있는 모델은 생각보다 제한적이에요.
| 모델 | VRAM 사용량 | M1 16GB 속도 | M3 16GB 속도 | 실사용 가능성 |
|---|---|---|---|---|
| llama3.2:1b | ~1.5GB | ~50-60 t/s | ~80-90 t/s | ✅ 빠름 |
| llama3.2:3b | ~3.5GB | ~25-30 t/s | ~45-55 t/s | ✅ 적합 |
| llama3.1:8b | ~7-8GB | ~10-15 t/s | ~20-25 t/s | ⚠️ 느림 |
| llama3.1:70b (Q4) | ~42GB+ | ❌ 불가 | ❌ 불가 | ❌ |
추정치 기반, CraftRigs 데이터 참조
실무에서 llama3.2:3b가 16GB 맥북의 스위트 스팟이에요. 8B로 올라가면 M1에서는 대화가 답답할 정도로 느려지고, M3에서도 20-25 토큰/초는 멀티턴 대화에서 버벅임이 느껴지는 수준이에요.
자, 그럼 업그레이드가 실제로 의미 있는 경우는 언제일까요?
가치가 높은 경우:
- 하루에 한국어 LLM을 2시간 이상 쓰는 개발자
- llama3.2:3b보다 큰 모델을 써야 하는 경우
- 코딩 어시스턴트를 로컬에서 실시간으로 돌리고 싶은 경우
M1으로도 충분한 경우:
- 하루 30분-1시간 가벼운 텍스트 처리
- llama3.2:1b 수준으로 해결 가능한 작업
- 비용이 성능보다 중요한 상황
실제 셋업에서 뭘 챙겨야 하나요?
시나리오 1: 한국어 코딩 어시스턴트
M3라면 ollama run llama3.2:3b로 시작하되, 시스템 프롬프트에 한국어 지시를 명확히 넣는 게 좋아요. 토큰을 아끼는 게 속도에 직결되니까요. M1이라면 1b 모델부터 테스트하고 품질이 부족할 때만 3b로 올리는 방식이 현실적이에요.
시나리오 2: 문서 요약 / RAG 파이프라인
긴 한국어 문서를 처리한다면 M1의 컨텍스트 누적 문제가 직접 와닿아요. M3는 이 구간에서 체감 차이가 가장 크게 나타나요. Ollama의 OLLAMA_NUM_CTX 환경변수를 2048로 제한하면 M1에서도 속도 저하를 어느 정도 줄일 수 있어요.
시나리오 3: 비용 없이 ChatGPT 대체 이 목적이라면 M1도 llama3.2:3b로 충분히 쓸 수 있어요. 단, 응답 지연이 5초를 넘어가는 순간부터 집중력이 흐트러지는 경험을 하게 될 거예요. M3의 45-55 토큰/초는 이 임계점을 넘지 않아요.
앞으로 주시할 신호:
- llama3.2 한국어 특화 파인튜닝 버전(EEVE, EXAONE 계열) Ollama 지원 확대
- M4 Pro 16GB가 로컬 LLM의 새 기준이 될지 여부
- Ollama Metal 백엔드 업데이트로 M3 이하 칩 속도 개선 가능성
정리: 숫자가 말해주는 것
- M3 16GB는 M1 대비 약 70-80% 빠른 토큰 생성 속도예요 (llama3.2:3b 기준)
- 한국어는 토크나이저 비효율로 체감 속도가 영어보다 더 느려요
- 16GB 환경에서 llama3.2:3b이 현실적인 최대 선택지고, 8B부터는 두 칩 모두 느려요
- 메모리 대역폭 차이(68.25 vs 100 GB/s)가 이 모든 차이의 근원이에요
앞으로 6-12개월 안에 한국어 특화 소형 모델들이 Ollama에서 더 쉽게 돌아가는 환경이 만들어질 거예요. EXAONE 3.5나 HyperCLOVA 계열 경량 모델이 Metal 백엔드에서 최적화된다면, M1에서도 체감 속도는 지금보다 훨씬 나아질 수 있어요.
그런데 M3 업그레이드를 고민 중이라면, 딱 하나만 물어볼게요. 로컬 LLM을 하루에 얼마나 쓰고 있나요? 그 대답이 업그레이드 여부를 결정해줄 거예요.
참고자료
- Apple Silicon LLM Benchmarks: Every M-Series Chip Tested | CraftRigs
- Run Llama 3 on Mac M1/M2/M3/M4: 2026 Step-by-Step Guide | Local AI Master
- r/ollama on Reddit: Hows your experience running Ollama on Apple Sillicon M1, M2, M3 or M4
Photo by Jakub Pabis on Unsplash
