KO
FrançaisEnglishEspañolItalianoDeutschPortuguês日本語

실전 가이드

Ollama로 코딩 모델을 로컬에서 실행하는 방법

공식 문서에 따라 macOS, Linux, Windows에 Ollama를 설치하고 코드에 맞는 모델을 고른 뒤 컨텍스트 윈도우를 설정하고 OpenCode나 Cline을 연결한다.

작성: ·

Ollama는 언어 모델을 내 컴퓨터에 내려받아 실행하고, http://localhost:11434의 로컬 API로 제공한다. 코딩 에이전트가 여기에 연결하면 코드를 API 제공업체에 보내지 않고도 작업할 수 있다. 이 가이드는 2026년 10월 20일에 확인한 Ollama 문서를 따르며, 하드웨어 제약은 마지막에 다룬다.

Ollama 설치

macOS: macOS Sonoma(v14) 이상이 필요하다. Apple M 시리즈 칩은 CPU와 GPU를, Intel Mac은 CPU만 지원한다(Ollama). 권장 방법은 ollama.dmg를 마운트해 앱을 Applications 폴더로 끌어다 놓는 것이며, 처음 실행하면 ollama 명령을 /usr/local/bin에 연결할지 묻는다. 다운로드 페이지에서는 Linux와 같은 명령줄 설치도 제공한다.

Linux(Ollama):

curl -fsSL https://ollama.com/install.sh | sh

Windows: Windows 10 22H2 이상, Home 또는 Pro 에디션이다. 설치에는 관리자 권한이 필요 없고 홈 디렉터리에 설치되며 최소 4GB가 필요하다(Ollama). 다운로드 페이지에 따르면 PowerShell에서 다음을 실행한다.

irm https://ollama.com/install.ps1 | iex

그런 다음 명령이 응답하는지 확인한다.

ollama -v

디스크 공간을 계획해 두라. Ollama에 따르면 모델의 크기는 수십 GB에서 수백 GB에 이른다. Windows에서는 OLLAMA_MODELS 변수로 모델을 홈 디렉터리 밖에 저장할 수 있다.

코드에 맞는 모델 고르기

Ollama 라이브러리에는 코드에 특화된 모델 계열이 있다. 공식 페이지의 수치로 두 가지 예를 든다.

qwen3-coder 30B를 내려받아 실행하는 공식 페이지의 명령은 다음과 같다.

ollama run qwen3-coder:30b

에이전트에 필요한 도구 호출이 가능한 모델은 라이브러리에서 필터링할 수 있다. 모델 페이지에 필요한 메모리가 항상 적혀 있는 것은 아니므로, 파일 크기를 그래픽 카드의 메모리나 Mac의 통합 메모리와 비교하라.

컨텍스트 윈도우 설정

에이전트에게 가장 중요한 설정이다. 기본적으로 Ollama는 사용 가능한 비디오 메모리(VRAM)에 따라 컨텍스트 윈도우를 정한다(Ollama).

Ollama는 에이전트와 코딩 도구에 최소 64,000토큰을 권장한다. 앱 설정의 슬라이더로 지정하거나 서버를 시작할 때 설정한다.

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

컨텍스트가 커지면 메모리를 더 쓴다. 모델이 어디에서 실행되는지 확인하라. PROCESSOR 열이 100% GPU여야 한다. 48%/52% CPU/GPU 같은 값은 모델의 일부가 시스템 메모리로 넘어갔다는 뜻이며, Ollama는 최상의 성능을 위해 이를 피하라고 조언한다.

ollama ps

코딩 에이전트 연결

**가장 간단한 방법: ollama launch.** 프로젝트 디렉터리에서 실행하면 Ollama가 선택한 에이전트를 설정하고 시작하며, 필요하면 설치를 제안한다(Ollama).

ollama launch opencode

같은 명령이 Claude Code(ollama launch claude)와 Codex CLI(ollama launch codex, Codex CLI를 설치한 뒤)에도 있다. 이어서 목록에서 모델을 고른다.

OpenCode 수동 설정(Ollama). OpenCode는 64,000토큰 이상의 컨텍스트 윈도우를 요구하므로, qwen2.5-coder처럼 32,000토큰으로 제한된 모델로는 부족하다. 설치:

curl -fsSL https://opencode.ai/install | bash
npm install -g opencode-ai

그런 다음 opencode.json에 Ollama를 제공자로 선언한다(qwen3.5 모델을 쓴 공식 예시).

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "ollama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Ollama",
      "options": {
        "baseURL": "http://localhost:11434/v1"
      },
      "models": {
        "qwen3.5": {
          "name": "qwen3.5"
        }
      }
    }
  }
}

그다음 opencode를 실행한다. 참고로 ollama launch opencode는 ~/.config/opencode/opencode.json을 덮어쓰지 않는다.

IDE의 Cline(Ollama):

  1. Cline 설정의 API Configuration 섹션을 열고 API Provider를 Ollama로 지정한다.
  2. Model에서 모델을 선택하거나 이름을 입력한다.
  3. Context Window에서 컨텍스트 윈도우를 최소 32,000토큰으로 올린다.

Continue는 어떨까? GitHub 리포지토리는 더 이상 유지 관리되지 않으며 읽기 전용으로 전환된다고 밝힌다(GitHub의 오픈소스 코딩 에이전트 기사 참고). 또 다른 오픈소스 에이전트인 Aider도 도구 페이지에 따르면 로컬 모델을 지원한다.

하드웨어 제약

로컬 모델은 사용할 때마다 드는 비용이 없지만, 결과를 최첨단 모델과 곧바로 비교할 수는 없다. 업체가 발표한 점수는 모델 비교를 참고하라.

더 알아보기

출처

핵심 요약: Ollama는 명령 하나로 설치되지만, Ollama에 따르면 코딩 에이전트에는 최소 64,000토큰의 컨텍스트가 필요하며, 기본 설정은 비디오 메모리가 48GiB 이상일 때만 이를 제공한다.

이 기사에서 오류를 발견하셨나요? 제보하기 · 정정 정책

Rekha 아이콘: 한 번의 획으로 그린 집

같은 저자의 작품 자체 홍보

손가락으로 그리는 오일러 경로

OrigoTech 저자가 만든 iPhone 게임 Rekha: 같은 선을 두 번 지나지 않고 한 번의 획으로 모든 점을 잇는다. 모두 풀 수 있는 500개의 도형이 준비되어 있다.

App Store에서 보기 → 이것이 그래프 문제인 이유

OrigoTech 뉴스레터

AI 도구 소식을 출처와 함께 정리한 주간 다이제스트.

다음 읽을거리