Praxisleitfäden

So führen Sie ein Coding-Modell lokal mit Ollama aus

Ollama unter macOS, Linux oder Windows installieren, ein für Code geeignetes Modell wählen, das Kontextfenster einstellen und OpenCode oder Cline anbinden, laut offizieller Dokumentation.

Von ·

Ollama lädt Sprachmodelle auf Ihren Rechner herunter, führt sie aus und stellt sie über eine lokale API unter http://localhost:11434 bereit. Ein Coding-Agent kann sich damit verbinden und arbeiten, ohne Ihren Code an einen API-Anbieter zu senden. Dieser Leitfaden folgt der Dokumentation von Ollama, geprüft am 20.10.2026; die Hardware-Grenzen werden am Ende behandelt.

Ollama installieren

macOS: macOS Sonoma (v14) oder neuer. Chips der Apple-M-Serie werden auf CPU und GPU unterstützt, Intel-Macs nur auf der CPU (Ollama). Die bevorzugte Methode ist, ollama.dmg zu mounten und die App in den Ordner „Programme“ zu ziehen; beim Start bietet sie an, den Befehl ollama in /usr/local/bin zu verlinken. Die Download-Seite bietet auch die Installation über die Kommandozeile an, wie unter Linux.

Linux (Ollama):

curl -fsSL https://ollama.com/install.sh | sh

Windows: Windows 10 22H2 oder neuer, Home oder Pro. Die Installation benötigt keine Administratorrechte, landet in Ihrem Benutzerverzeichnis und belegt mindestens 4 GB (Ollama). Über PowerShell, laut Download-Seite:

irm https://ollama.com/install.ps1 | iex

Prüfen Sie dann, ob der Befehl antwortet:

ollama -v

Planen Sie Speicherplatz ein: Modelle belegen laut Ollama zwischen mehreren zehn und mehreren hundert Gigabyte. Unter Windows lassen sie sich mit der Variable OLLAMA_MODELS außerhalb Ihres Benutzerverzeichnisses speichern.

Ein für Code geeignetes Modell wählen

Die Bibliothek von Ollama enthält auf Code spezialisierte Familien. Zwei gängige Beispiele, mit Zahlen von ihren offiziellen Seiten:

Um qwen3-coder 30B herunterzuladen und auszuführen, lautet der Befehl von der offiziellen Seite:

ollama run qwen3-coder:30b

Modelle, die Tools aufrufen können, was ein Agent braucht, lassen sich in der Bibliothek filtern. Eine Modellseite nennt den benötigten Speicher nicht immer: Vergleichen Sie die Dateigröße mit dem Speicher Ihrer Grafikkarte oder dem Unified Memory eines Macs.

Das Kontextfenster einstellen

Das ist die wichtigste Einstellung für einen Agenten. Standardmäßig wählt Ollama das Kontextfenster anhand des verfügbaren Videospeichers (VRAM) (Ollama):

Ollama empfiehlt für Agenten und Coding-Tools mindestens 64.000 Token. Stellen Sie es mit dem Schieberegler in den Einstellungen der App ein oder beim Start des Servers:

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Ein größerer Kontext belegt mehr Speicher. Prüfen Sie, wo das Modell läuft: Die Spalte PROCESSOR sollte 100% GPU anzeigen; ein Wert wie 48%/52% CPU/GPU bedeutet, dass ein Teil des Modells in den Arbeitsspeicher ausgelagert wurde, was Ollama für beste Leistung zu vermeiden rät.

ollama ps

Einen Coding-Agenten anbinden

**Der einfachste Weg: ollama launch.** Aus Ihrem Projektverzeichnis konfiguriert und startet Ollama den gewählten Agenten und bietet bei Bedarf an, ihn zu installieren (Ollama):

ollama launch opencode

Derselbe Befehl existiert für Claude Code (ollama launch claude) und für Codex CLI (ollama launch codex, sobald Codex CLI installiert ist). Wählen Sie dann ein Modell aus der Liste.

OpenCode, manuelle Einrichtung (Ollama). OpenCode verlangt ein Kontextfenster von mindestens 64.000 Token, daher genügen auf 32.000 Token begrenzte Modelle wie qwen2.5-coder nicht. Installation:

curl -fsSL https://opencode.ai/install | bash
npm install -g opencode-ai

Deklarieren Sie dann Ollama als Provider in opencode.json (offizielles Beispiel, mit dem Modell qwen3.5):

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "ollama": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Ollama",
      "options": {
        "baseURL": "http://localhost:11434/v1"
      },
      "models": {
        "qwen3.5": {
          "name": "qwen3.5"
        }
      }
    }
  }
}

Führen Sie dann opencode aus. Hinweis: ollama launch opencode überschreibt ~/.config/opencode/opencode.json nicht.

Cline, in Ihrer IDE (Ollama):

  1. Öffnen Sie die Einstellungen von Cline, Abschnitt API Configuration, und setzen Sie API Provider auf Ollama.
  2. Wählen Sie unter Model ein Modell aus oder tippen Sie seinen Namen ein.
  3. Erhöhen Sie das Kontextfenster unter Context Window auf mindestens 32.000 Token.

Und Continue? Laut seinem GitHub-Repository wird es nicht mehr gepflegt und geht in den Nur-Lese-Modus über (siehe unseren Artikel zu Open-Source-Coding-Agenten auf GitHub). Aider, ein weiterer Open-Source-Agent, akzeptiert laut seiner Tool-Seite ebenfalls ein lokales Modell.

Hardware-Grenzen

Ein lokales Modell kostet pro Nutzung nichts, doch seine Ergebnisse sind nicht direkt mit denen von Frontier-Modellen vergleichbar: Die von Herstellern veröffentlichten Scores finden Sie im Modellvergleich.

Weiterführend

Quellen

Fazit: Ollama lässt sich mit einem Befehl installieren, doch ein Coding-Agent braucht laut Ollama mindestens 64.000 Token Kontext, die die Standardeinstellungen erst ab 48 GiB Videospeicher bieten.

Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie

Rekha-Symbol: ein in einem Strich gezeichnetes Haus

Vom selben Autor Eigenwerbung

Ein Eulerpfad, mit dem Finger gezeichnet

Rekha, das iPhone-Spiel des Autors von OrigoTech: Verbinden Sie alle Punkte in einem einzigen Strich, ohne dieselbe Verbindung zweimal zu ziehen, in 500 Zeichnungen, die alle lösbar sind.

Der OrigoTech-Newsletter

Ein wöchentlicher, mit Quellen belegter Überblick über die Neuigkeiten zu KI-Werkzeugen.

Weiterlesen