맥에서 클라우드 없이 AI 쓰기, 개인정보 걱정 없이 가능한가
ChatGPT에 회사 코드를 붙여넣을 때마다 찜찜하죠. 2025년 삼성전자가 사내 ChatGPT 사용을 제한한 게 남 얘기가 아닌 분들, 꽤 많을 거예요.
그런데 맥 안에 이미 다른 선택지가 들어와 있어요.
핵심 요약
- Apple의 Foundation Models 프레임워크는 외부 서버 전송 없이 맥 내부에서 LLM을 실행하며, 이를 쓰는 앱(Apfel 등)은 추가 모델 다운로드 없이 즉시 동작해요.
- Ollama는 deepseek-coder, llama3 등 오픈소스 모델을 로컬에서 구동하며, 월 2~3만 원 규모의 API 비용을 완전히 없앨 수 있어요.
- 온디바이스 AI는 텍스트 요약, 이메일 초안, 코드 설명 수준에서는 실용적이지만, GPT-4o·Claude Opus 급의 추론 능력과는 여전히 격차가 있어요.
- 한국어 지원은 Apple Intelligence 기준으로 영어 대비 체감 품질 차이가 있어, 국내 사용자는 영어 프롬프트 병행이 현실적인 선택이에요.
온디바이스 AI, 왜 지금인가
개발자가 Claude에 코드를 붙여넣으면, 그 내용이 Anthropic 서버를 거친다는 사실은 변하지 않아요. 아무리 정책이 좋아도, 데이터가 외부 서버를 타는 건 피할 수 없어요.
Apple이 그 틈을 노렸어요. WWDC 2025에서 발표한 Foundation Models 프레임워크는 맥에 내장된 LLM을 서드파티 앱이 직접 호출할 수 있게 열어줬어요. 처리 결과가 외부로 나가지 않으니, 구조적으로 정보가 유출될 경로 자체가 없어요.
TTJ 테크뉴스 보도에 따르면, Apfel은 이 프레임워크 위에서 동작하는 대표적인 무료 앱으로, 별도 모델 다운로드나 API 키 설정 없이 바로 쓸 수 있어요.
Ollama는 다른 경로로 같은 목표를 달성해요. Homebrew 한 줄(brew install ollama)로 설치하고, llama3·deepseek-coder 같은 오픈소스 모델을 로컬에서 돌리는 방식이에요. 초코모찌롤 블로그에 따르면 모델은 첫 실행 시에만 다운로드되고, 이후엔 완전 오프라인으로 동작해요.
핵심 비교: Apfel vs. Ollama vs. 클라우드 AI
| 항목 | Apfel | Ollama | 클라우드 AI |
|---|---|---|---|
| 비용 | 무료 | 무료 | 월 2~3만 원 |
| 인터넷 | 불필요 | 불필요 | 필수 |
| 설치 난이도 | 앱 설치만 | CLI 기본 지식 필요 | 가입 후 즉시 |
| 정확도 | 중간 | 중간~낮음 | 높음 |
| 한국어 품질 | 영어 대비 낮음 | 모델별 상이 | 높음 |
| 데이터 유출 위험 | 없음 | 없음 | 서버 경유 |
| 추천 대상 | 비개발자 | 개발자·보안 민감 업무 | 복잡한 추론 작업 |
Apfel은 진입 장벽이 거의 없어요. 열면 바로 텍스트 요약·이메일 초안·코드 설명이 돼요.
Ollama는 개발자 친화적이에요. ollama run deepseek-coder "이 함수 설명해줘" 한 줄로 코드 리팩토링을 돌릴 수 있고, 외부 인터넷이 차단된 사내망에서도 써요. 반복 쿼리가 많은 자동화 파이프라인에서 API 비용을 0원으로 만들 수 있거든요.
단, 둘 다 GPT-4o 수준의 복잡한 추론·다단계 코드 생성은 아직 역부족이에요. 패턴이 명확하고 반복적인 작업에 집중해야 실용적이에요.
개인정보 보호, 실제로 얼마나 안전한가
“클라우드보다 안전하다"는 맞아요. 그런데 “완전히 안전하다"는 다른 말이에요.
온디바이스 모델에서의 위험은 다른 지점에 있거든요.
- 앱 수준의 신뢰: Apfel 같은 서드파티 앱이 데이터를 어떻게 처리하는지 직접 확인이 필요해요
- 디바이스 보안: 맥이 감염되면 온디바이스 AI도 결국 위협에 노출돼요
- 모델 편향: 어떤 데이터로 학습됐는지 외부에서 완전히 검증하기 어려워요
그래서 민감도 높은 개인 식별 정보나 대외비 문서는 어떤 AI에도 그대로 넣지 않는 게 원칙이에요.
누가, 언제 써야 하나
개발자라면 Ollama가 맞아요. 보안이 중요한 사내 프로젝트, 반복 쿼리가 많은 자동화 작업에서 API 비용을 크게 줄일 수 있어요. deepseek-coder는 코드 특화 모델이라 일반 목적 모델보다 코드 설명·리팩토링에서 더 써먹기 좋아요.
비개발자라면 Apfel이 현실적이에요. 이메일 초안 쓰기, 회의록 요약, 짧은 문서 교정 정도는 충분히 처리돼요.
클라우드를 완전히 끊기 어려운 경우, 역할 분리가 현실적인 접근이에요.
- 민감한 내부 문서 → 온디바이스 (Apfel 또는 Ollama)
- 복잡한 분석, 긴 문맥 처리 → 클라우드 AI (비식별화 후 입력)
한국어 품질은 아직 영어보다 낮아요. Apple Intelligence도, llama3도 마찬가지예요. 국내 사용자라면 영어 프롬프트로 쿼리하고 결과만 번역하는 방식이 지금으로선 더 안정적이에요.
결론: 가능하다, 조건이 있다
일상적인 텍스트 작업 수준에서는 이미 실용적으로 가능해요. 복잡한 추론은 여전히 클라우드가 우위고, 한국어 품질은 개선 중이지만 2026년 현재 영어 프롬프트가 더 안정적이에요.
다음 분기 Apple의 Foundation Models 한국어 성능 업그레이드가 나온다면, 판이 다시 바뀔 수 있어요.
지금 당장 해볼 수 있는 것 하나만 꼽으라면 — Apfel을 설치해서 오늘 쓸 이메일 초안 하나만 맡겨보세요. 클라우드 AI와 어디가 다른지, 직접 느끼는 게 가장 빠른 판단이에요.
관련 출처: TTJ 테크뉴스 - Apfel 리뷰, 초코모찌롤 - Ollama 설치 가이드
Photo by Gabriele Malaspina on Unsplash
