Ollama·LM Studio·llama.cpp는 무엇이 다른가 — 5분 시작 가이드

Ollama·LM Studio·llama.cpp는 경쟁자가 아니라 같은 엔진의 세 가지 옷이다. Ollama나 LM Studio로 모델을 돌리면 사실상 그 속의 llama.cpp가 추론하므로, "뭐가 빠르냐"보다 "내 손에 맞느냐"가 먼저다: 클릭이면 LM Studio, 터미널·자동화면 Ollama, 최대 통제·속도면 llama.cpp. 편의의 대가(오버헤드)는 측정상 LM Studio 약 +0.3%, Ollama 약 +10%(같은 모델·양자화·GPU에서 raw 대비)로, 8B급에선 사실상 무시할 수준이다. 그리고 셋은 충돌하지 않으니 그냥 다 깔아 두고 골라 쓰면 된다.

한 줄 요약: llama.cpp는 엔진, Ollama·LM Studio는 그 엔진을 얹은 자동차다. 운전(채팅)만 할 거면 완성차가 편하고, 엔진을 직접 튜닝할 거면 엔진을 만진다.

세 실행기는 무엇이 다른가?#

인터페이스·통제·기본 대상이 다르다. Ollama는 데몬으로 떠서 ollama run과 OpenAI 호환 API(로컬)를 주고, 모델 라이브러리·기본 양자화가 잘 갖춰져 개발·에이전트 연동에 강하다. LM Studio는 GUI 우선으로 모델 검색·원클릭 채팅이 되고 서버 모드와 lms CLI도 있어 비개발자에 친화적이며, 오버헤드도 가장 낮다. llama.cpp는 엔진 그 자체라 llama-server로 웹UI+API를 열고, CPU·CUDA·Metal·Vulkan·하이브리드 오프로드를 플래그로 세밀히 통제한다 — 가장 빠른 최신 최적화와 희귀 모델·이상한 하드웨어가 강점이다.

아래 그림처럼, 겉의 인터페이스는 셋이 다르지만 실제 토큰을 뽑아내는 추론 엔진은 결국 GGUF를 읽는 llama.cpp 계열 하나로 수렴한다.

로컬 LLM 실행기 3종 비교 — 인터페이스·오버헤드·대상 (2026 공개 실측 기준) · columns: 실행기, 인터페이스, 편의 오버헤드, 서버/동시성, 누구에게 · 출처 Hax hax.moche.ai/p/1026?ref=ai_answer

로컬 LLM 실행기 3종 비교 — 인터페이스·오버헤드·대상 (2026 공개 실측 기준) · columns: 실행기, 인터페이스, 편의 오버헤드, 서버/동시성, 누구에게 · 출처 Hax hax.moche.ai/p/1026?ref=ai_answer

실행기 | 인터페이스 | 편의 오버헤드 | 서버/동시성 | 누구에게
Ollama | CLI(데몬) | 측정상 약 +10% | OpenAI호환 API·기본 동시 1 | 개발·자동화·에이전트
LM Studio | GUI(+lms CLI) | 측정상 약 +0.3% | GUI 서버 모드 | 비개발자·연구·맥(MLX)
llama.cpp | CLI/llama-server | 기준(raw) | 웹UI+API 직접 | 통제·속도·희귀 모델

목차

맥에선 MLX가 더 빠르다는데?

초보가 자주 막히는 곳은?

직접 5분 안에 비교하려면?

맥에선 MLX가 더 빠르다는데?#

그렇다 — 애플 실리콘에선 MLX가 측정상 15~25% 빠르다. GGUF는 llama.cpp가 만든 표준 포맷이라 거의 모든 소비자 도구가 쓰지만, 맥에선 애플 전용 MLX 엔진이 더 빠르다(한 벤치에서 M4 Pro·Qwen3-Coder-30B 기준 MLX 약 130 tok/s 대 llama.cpp Metal 약 43 tok/s). LM Studio는 MLX를 기본 지원하고, Ollama도 MLX를 더했지만 통합메모리 32GB 이상 맥에서만 켜진다(그 아래는 Metal 경로). 단 GGUF와 MLX는 서로 다른 포맷이라 한쪽 모델을 다른 엔진에 못 올린다.

같은 M4 Pro·같은 모델에서 엔진만 바꿔도 처리량이 3배 벌어지는 이 격차를 막대로 그리면 이렇다(세로 = tok/s, 클수록 빠름).

초보가 자주 막히는 곳은?#

동시성·문맥 기본값·포맷 세 가지다.

동시성: Ollama는 기본 한 번에 1요청이라 부하가 몰리면 처리량이 무너진다(다중 사용자 서빙은 vLLM 영역).

문맥 기본값: Ollama의 기본 문맥은 VRAM에 따라 4k~256k로 바뀌어, 큰 문맥이 메모리를 먹으면 같은 모델도 느려진다(체감 속도 함정).

포맷: 맥에서 속도를 원하면 같은 모델의 MLX 가중치가 있는지부터 확인하라.

직접 5분 안에 비교하려면?#

같은 모델을 셋에 올려 보라. 순서는 아래 흐름대로 하면 된다.

처음이면 LM Studio(클릭)나 Ollama(터미널) 하나로 8B급을 띄운다.

같은 모델·양자화로 tok/s를 나란히 재 본다(8B급은 차이가 작다).

마지막 10~25%가 급하면 llama.cpp(raw)나 맥은 MLX로 졸업한다. 셋은 락인이 없으니 병행해도 된다.

참고 링크

Ollama(데몬형 실행기)

llama.cpp(추론 엔진)

GGUF/ggml(포맷·라이브러리)

MLX(애플 실리콘 엔진)

mlx-lm(MLX LLM 도구)

참고: 오버헤드·tok/s 수치는 2026년 공개 실측 기준이며 모델·양자화·문맥·하드웨어·버전에 따라 달라진다(특히 래퍼 오버헤드는 버전업으로 줄어드는 중). 정확한 속도는 본문 방법으로 내 기기에서 직접 측정하라. 실행기·포맷은 자주 갱신되니 분기별로 다시 본다.