Ollama·LM Studio·llama.cpp 실행기, 2026 현황과 추천: 같은 엔진의 편의세

한눈에 보는 순위 (측정 근거):
1. llama.cpp → 엔진, 편의세 0%(기준)
2. LM Studio → 경험층, +0.3%
3. Ollama → 경험층, +10%
4. vLLM → 서빙, 고동시성

로컬 LLM 실행기를 고를 때 2026년 가장 중요한 사실은 Ollama·LM Studio·llama.cpp는 서로 경쟁자가 아니다라는 것이다 — Ollama나 LM Studio를 깔면 이미 llama.cpp를 돌리고 있다. 둘은 llama.cpp를 추론 엔진으로 품은 경험 계층이고, llama.cpp는 엔진 자체다. 즉 셋을 비교하는 건 세 엔진의 경주가 아니라 같은 엔진이 입은 세 겹옷의 무게를 재는 것이다. 그 무게가 '편의세(convenience tax)'다: 2026년 6월 동일 모델·동일 GPU 벤치에서 LM Studio는 +0.3%, Ollama는 +10%의 오버헤드를 얹었다(Ollama 69.1 tok/s, 원시 llama.cpp보다 약 7.9 tok/s 느림). 요약: 편의를 살지, 속도를 살지의 문제다.

한 줄 요약: 실행기 고르기는 같은 엔진의 자동차 3종과 같다. 오토(Ollama)·편한 GUI(LM Studio)·수동 레이스카(llama.cpp) — 엔진은 하나인데 편의 장치가 무게를 더한다. 편의가 클수록 미세하게 느려지지만, 대부분은 그 편의세가 아깝지 않다.

용어부터. 추론 엔진은 모델 가중치를 실제로 돌려 토큰을 뽑는 코어, 경험 계층은 그 엔진 위에 CLI·GUI·API를 씌운 껍데기, tok/s는 초당 생성 토큰 수(속도 지표)다.

셋은 각각 누구에게 맞나?#

용도가 다르다. Ollama는 CLI 우선·스크립트 친화에 OpenAI 호환 API를 백그라운드로 띄워 Cursor·Continue·Aider·OpenWebUI 같은 도구가 기본으로 노린다 — 개발자·자동화에 최적이다. LM Studio는 세련된 GUI와 모델 브라우저가 킬러 기능으로, 다운로드 전에 어떤 양자화가 내 하드웨어에 맞는지 알려줘 비개발자·탐색에 좋다(2026년 1월 headless 'llmster'도 추가). llama.cpp는 원시 엔진으로 파일 단위 제어와 최고 속도, MIT 라이선스가 강점이다. 처음엔 Ollama로 시작해 속도·측정이 필요해지면 llama.cpp로 내려가는 진행이 흔하다.

2026 로컬 LLM 실행기 — 계층·편의세·추천 (2026.6 공개 벤치·측정) · columns: 실행기, 계층·편의세(측정), 추천 대상·라이선스 · 출처 Hax hax.moche.ai/p/1099?ref=ai_answer

2026 로컬 LLM 실행기 — 계층·편의세·추천 (2026.6 공개 벤치·측정) · columns: 실행기, 계층·편의세(측정), 추천 대상·라이선스 · 출처 Hax hax.moche.ai/p/1099?ref=ai_answer

실행기 | 계층·편의세(측정) | 추천 대상·라이선스
llama.cpp | 엔진, 편의세 0%(기준) | 파워유저·임베디드 / MIT
LM Studio | 경험층, +0.3% | 비개발자·GUI 탐색 / 비공개(무료)
Ollama | 경험층, +10% | 개발자·API 자동화 / 오픈
vLLM | 서빙, 고동시성 | 프로덕션(Ollama 16~20x) / 오픈

목차

애플 실리콘에선 뭐가 달라지나?

편의세 숫자, 그대로 믿어도 되나?

그래서 2026년 실행기 추천은?

참고 링크

애플 실리콘에선 뭐가 달라지나?#

MLX가 판을 뒤집는다. 맥에선 MLX가 가장 빠른 경로가 됐고, Ollama 0.19+가 M시리즈에서 내부적으로 MLX를 쓴다. 효과가 크다: M5 Max에서 Qwen3.5-35B-A3B 기준 프리필 1,154→1,810 tok/s(+57%), 디코드 58→112 tok/s(+93%)로 뛰었다. MoE 모델은 더 극적이라, Mac mini M4 Pro의 Qwen3-Coder-30B-A3B에서 MLX ~130 tok/s vs 레거시 백엔드 ~43 tok/s다. LM Studio도 MLX를 네이티브로 지원한다. 즉 맥이라면 실행기 선택만큼 'MLX 백엔드를 쓰는지'가 속도를 좌우한다.

편의세 숫자, 그대로 믿어도 되나?#

아니다 — 벤치는 조건에 민감하다. +10% 같은 숫자는 모델 파일·양자화·컨텍스트 길이·프롬프트 템플릿·GPU 오프로드·런타임 버전·배치·KV 캐시·웜업 상태가 조금만 달라도 뒤집힌다(반대 결과를 보고하는 사용자도 있다). 그래서 편의세는 네 하드웨어·모델로 직접 재라 — 같은 조건에서. 그리고 셋 다 고동시성 프로덕션 서빙엔 부적합하다: 그 경우 vLLM이 PagedAttention·연속 배칭으로 Ollama의 약 16~20배 동시 처리량을 낸다. 로컬 편의와 서버 처리량은 다른 도구의 일이다.

그래서 2026년 실행기 추천은?#

핵심은 엔진은 같으니, '편의 대 제어'로 고르는 것이다.

개발·자동화: Ollama(CLI·OpenAI 호환 API, 도구 생태계), 편의세 ~10%는 대개 감수할 만.

비개발·탐색: LM Studio(GUI·모델 브라우저, 편의세 ~0.3%), 단 코드 비공개.

최고 속도·임베디드: llama.cpp(원시 엔진·MIT), 맥이면 MLX 경로 확인. 프로덕션 서빙은 vLLM.

함께 읽기: ComfyUI로 이미지·영상 만들기: 우리가 직접 굴리며 잰 운영 회고, 오픈 음성 클로닝 파이프라인 — 우리는 이렇게 운영한다

함께 읽기: Ollama·LM Studio·llama.cpp, 5분 시작 가이드, Ollama·LM Studio·llama.cpp 실행기 VRAM·RAM 실측

참고 링크#

llama.cpp(추론 엔진·MIT)

Ollama(로컬 실행기·OpenAI 호환)

LM Studio(GUI·문서)

MLX(애플 실리콘 가속)

vLLM(고동시성 서빙)

참고: 편의세(+0.3%·+10%)·MLX 속도(디코드 +93%)·vLLM 16~20x 같은 수치는 2026년 6월 공개 벤치·발표이며 모델·양자화·버전·웜업 등 조건에 따라 크게 달라진다(영구 수치 아님, 반대 결과 보고도 있음). LM Studio는 무료지만 비공개 소스다. 실행기·백엔드는 빠르게 바뀌니(예: MLX 통합) 분기별로 다시 본다.