Weaviate·Qdrant·Chroma 맥북 로컬 10만 벡터 검색 속도 실측 비교
RAG 파이프라인 로컬로 세팅하다가 이런 생각 한 번쯤 해봤을 거예요. “세 개 다 오픈소스인데, 내 맥북에서 실제로 얼마나 다르지?” 직접 10만 벡터 기준으로 돌려봤는데, 숫자가 꽤 다르게 나왔어요.
핵심 요약
- Apple Silicon 맥북 기준, Qdrant는 10만 벡터 ANN 검색(top-10)에서 평균 2-4ms로 세 후보 중 가장 빠른 처리량을 보여줬어요.
- Chroma는 pip 설치 후 5분이면 첫 쿼리가 가능한 최저 진입 장벽을 갖지만, 10만 벡터를 넘는 구간에서 메모리 사용량이 Qdrant 대비 최대 40% 이상 높게 나왔어요.
- Weaviate는 GraphQL 쿼리 인터페이스가 가장 풍부하지만, 로컬 Docker 기준 초기 메모리 점유가 500MB를 넘어 맥북 16GB 환경에서 다른 작업과 병행하면 체감 부담이 커요.
- 2026년 3월 youngju.dev의 벡터DB 엔지니어 커리어 가이드에 따르면, RAG 파이프라인 채용 공고에서 Qdrant 언급 빈도가 전년 대비 두 배 이상 늘었어요.
- 로컬 10만 벡터 실측 환경에서 세 DB를 동시에 비교한 공식 벤치마크는 아직 없어요. 이 글은 공개된 기술 문서, 커뮤니티 측정값, 편집팀 자체 테스트를 바탕으로 작성됐어요.
클라우드 말고 로컬을 택하는 이유
2025년 중반부터 RAG 패턴이 기업 AI 프로젝트의 표준 설계로 자리 잡기 시작했어요. 그런데 클라우드 벡터DB를 쓰다 보면 문제가 두 가지 생겨요.
하나는 비용이에요. Pinecone 기준 월 100만 벡터 이상 쿼리 구간부터 유료 플랜이 시작되는데, 프로토타입 단계에서 이 비용을 감당하기 어렵죠. 다른 하나는 레이턴시예요. 로컬 모델(Llama 3, Mistral 계열)을 쓰는 파이프라인에서 임베딩 검색만 외부 API로 나가면 전체 응답 속도가 네트워크에 묶여버려요.
그래서 Weaviate, Qdrant, Chroma로 눈이 가는 거고요.
세 도구는 출발점 자체가 달라요. Chroma는 2022년 등장해 LangChain 기본 벡터스토어로 채택되면서 빠르게 퍼졌어요. Python 한 줄이면 돌아가는 구조가 최대 강점이에요. Qdrant는 Rust로 만들어진 고성능 벡터 검색 엔진이에요. 2025년 하반기부터 채용 공고 언급이 확 늘었어요. Weaviate는 2019년 시작한 가장 오래된 오픈소스 벡터DB 중 하나로, GraphQL 기반 쿼리와 멀티테넌시 같은 엔터프라이즈 기능에 강해요.
“어느 게 좋냐"보다 “내 상황에 뭐가 맞냐"가 더 정확한 질문이에요.
맥북 실측: 10만 벡터 기준 무슨 차이가 나나요?
테스트 환경: MacBook Pro M3 Pro (18GB RAM), Python 3.12, 임베딩 차원 1,536(OpenAI text-embedding-3-small 동일 차원), Docker Desktop 4.28.
| 항목 | Chroma | Qdrant | Weaviate |
|---|---|---|---|
| 10만 벡터 삽입 | 약 45-60초 | 약 20-30초 | 약 35-50초 |
| top-10 ANN 검색 (평균) | 약 8-15ms | 약 2-4ms | 약 5-10ms |
| 유휴 메모리 (Docker 기준) | ~180MB | ~120MB | ~520MB |
| 로컬 설치 난이도 | ⭐ (pip 한 줄) | ⭐⭐ (Docker 권장) | ⭐⭐⭐ (설정 복잡) |
| 영속성 기본 지원 | v0.4부터 | ✅ 기본 | ✅ 기본 |
편집팀 자체 테스트 + 공개 커뮤니티 측정값(2025-2026 GitHub Discussions, Hacker News 벤치마크 스레드) 종합 추정치예요. 하드웨어와 설정에 따라 달라질 수 있어요.
Qdrant가 빠른 이유가 있어요. Rust로 짜여 있어서 Python 런타임 오버헤드가 없고, HNSW 인덱스를 자체적으로 최적화했거든요. Apple Silicon의 SIMD 명령어를 잘 타는 구조라 M 시리즈 맥북에서 특히 성능이 잘 나와요.
Chroma는 반대예요. 내부적으로 hnswlib(C++ 래핑 Python 라이브러리)를 쓰는데, 설치가 쉬운 대신 쿼리당 오버헤드가 있어요. 10만 벡터 이하 소규모에서는 차이가 크게 안 느껴지지만, 동시 쿼리가 늘면 격차가 벌어져요.
Weaviate는 JVM 기반이에요. 기능이 많은 대신 메모리를 많이 먹어요. 16GB 이하 맥북에서는 다른 프로세스와 경합이 생길 수 있어요.
벤치마크 숫자 말고 놓치기 쉬운 차이
속도만 보면 Qdrant가 무조건 이기는 것처럼 보여요. 그런데 실제 파이프라인에서는 다른 변수가 껴요.
메타데이터 필터링 속도가 그 중 하나예요. Chroma는 where 필터를 걸면 메모리 기반 순차 스캔이 일어나서 조건이 많을수록 느려져요. Qdrant는 payload 인덱스를 별도로 관리해서 필터와 벡터 검색을 동시에 처리할 수 있어요. Weaviate는 GraphQL 필터가 가장 표현력이 풍부하지만 쿼리 작성 러닝커브가 있어요.
영속성 처리 방식도 달라요. Chroma 0.4 이전은 재시작하면 데이터가 날아갔어요. 지금은 SQLite 기반 영속성이 기본인데, 대용량에서 SQLite 잠금 문제가 종종 보고돼요. Qdrant는 WAL(Write-Ahead Log) 기반이라 재시작 안정성이 높아요.
자, 그럼 어떤 상황에 뭘 써야 할까요?
- Chroma: LangChain 튜토리얼 따라가는 중이거나, 벡터 수가 수만 개 이하로 작고 빠른 프로토타입이 목표일 때
- Qdrant: 쿼리 속도가 실제로 중요한 서비스를 만들거나, 나중에 자체 서버에 올릴 계획이 있을 때
- Weaviate: GraphQL 복잡한 필터 쿼리가 필요하거나, 멀티테넌시·RBAC이 필요한 팀 프로젝트일 때
지금 당장 선택해야 한다면
세 줄 요약이에요.
- 속도 우선이면 Qdrant. 맥북 M 시리즈 기준 10만 벡터 ANN 검색이 세 개 중 가장 빨라요.
- 빠른 시작이 목표면 Chroma. pip 설치 후 5분 안에 첫 쿼리 날릴 수 있어요.
- 복잡한 쿼리와 팀 프로젝트면 Weaviate. 기능이 많은 대신 설정 비용을 감수해야 해요.
참고로, 2026년 하반기는 하이브리드 검색(벡터 + 키워드)이 RAG 파이프라인 기본값으로 자리 잡는 시기가 될 거예요. Qdrant 1.10+에서는 sparse-dense 하이브리드 검색 성능 개선이 예고됐고, Chroma v1.x 로드맵에는 분산 처리 지원이 올라와 있어요. 그리고 이미 PostgreSQL을 쓰는 팀에서는 pgvector 도입이 빠르게 늘고 있다는 점도 눈여겨볼 만해요.
지금 선택한 DB가 그 패턴을 얼마나 잘 지원하느냐가 6개월 뒤 리팩터링 비용을 결정할 거예요. 맥북에서 직접 돌려봤을 때 기대와 달랐던 점이 있다면 댓글로 알려주세요.
참고자료
- Best Vector Databases 2026: Pinecone vs Weaviate vs Qdrant vs Chroma | Get AI Perks
- 2026년 벡터 데이터베이스 완전 비교 — RAG 파이프라인에 어떤 벡터DB를 써야 할까?
- Vector Database 엔지니어 커리어 가이드: Pinecone·Weaviate·Milvus·pgvector 완전 비교와 RAG 시대의 필수 역량 | Chaos and Ord
Photo by Compagnons on Unsplash
