Praxisleitfäden
So führen Sie ein Coding-Modell lokal mit Ollama aus
Ollama unter macOS, Linux oder Windows installieren, ein für Code geeignetes Modell wählen, das Kontextfenster einstellen und OpenCode oder Cline anbinden, laut offizieller Dokumentation.
Ollama lädt Sprachmodelle auf Ihren Rechner herunter, führt sie aus und stellt sie über eine lokale API unter http://localhost:11434 bereit. Ein Coding-Agent kann sich damit verbinden und arbeiten, ohne Ihren Code an einen API-Anbieter zu senden. Dieser Leitfaden folgt der Dokumentation von Ollama, geprüft am 20.10.2026; die Hardware-Grenzen werden am Ende behandelt.
Ollama installieren
macOS: macOS Sonoma (v14) oder neuer. Chips der Apple-M-Serie werden auf CPU und GPU unterstützt, Intel-Macs nur auf der CPU (Ollama). Die bevorzugte Methode ist, ollama.dmg zu mounten und die App in den Ordner „Programme“ zu ziehen; beim Start bietet sie an, den Befehl ollama in /usr/local/bin zu verlinken. Die Download-Seite bietet auch die Installation über die Kommandozeile an, wie unter Linux.
Linux (Ollama):
curl -fsSL https://ollama.com/install.sh | sh
Windows: Windows 10 22H2 oder neuer, Home oder Pro. Die Installation benötigt keine Administratorrechte, landet in Ihrem Benutzerverzeichnis und belegt mindestens 4 GB (Ollama). Über PowerShell, laut Download-Seite:
irm https://ollama.com/install.ps1 | iex
Prüfen Sie dann, ob der Befehl antwortet:
ollama -v
Planen Sie Speicherplatz ein: Modelle belegen laut Ollama zwischen mehreren zehn und mehreren hundert Gigabyte. Unter Windows lassen sie sich mit der Variable OLLAMA_MODELS außerhalb Ihres Benutzerverzeichnisses speichern.
Ein für Code geeignetes Modell wählen
Die Bibliothek von Ollama enthält auf Code spezialisierte Familien. Zwei gängige Beispiele, mit Zahlen von ihren offiziellen Seiten:
- qwen3-coder (Alibaba): Die Version
30bwiegt 19 GB, hat 30 Milliarden Parameter, von denen 3,3 Milliarden aktiv sind (eine Mixture-of-Experts-Architektur), und akzeptiert 256.000 Token Kontext. Die Version480bwiegt 290 GB und braucht für den lokalen Betrieb mindestens 250 GB Arbeitsspeicher oder Unified Memory (Ollama). - qwen2.5-coder: sechs Größen, von
0.5b(398 MB) bis32b(20 GB), alle mit einem Kontextfenster von 32.000 Token (Ollama).
Um qwen3-coder 30B herunterzuladen und auszuführen, lautet der Befehl von der offiziellen Seite:
ollama run qwen3-coder:30b
Modelle, die Tools aufrufen können, was ein Agent braucht, lassen sich in der Bibliothek filtern. Eine Modellseite nennt den benötigten Speicher nicht immer: Vergleichen Sie die Dateigröße mit dem Speicher Ihrer Grafikkarte oder dem Unified Memory eines Macs.
Das Kontextfenster einstellen
Das ist die wichtigste Einstellung für einen Agenten. Standardmäßig wählt Ollama das Kontextfenster anhand des verfügbaren Videospeichers (VRAM) (Ollama):
- unter 24 GiB VRAM: 4.000 Token;
- 24 bis 48 GiB: 32.000 Token;
- 48 GiB oder mehr: 256.000 Token.
Ollama empfiehlt für Agenten und Coding-Tools mindestens 64.000 Token. Stellen Sie es mit dem Schieberegler in den Einstellungen der App ein oder beim Start des Servers:
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
Ein größerer Kontext belegt mehr Speicher. Prüfen Sie, wo das Modell läuft: Die Spalte PROCESSOR sollte 100% GPU anzeigen; ein Wert wie 48%/52% CPU/GPU bedeutet, dass ein Teil des Modells in den Arbeitsspeicher ausgelagert wurde, was Ollama für beste Leistung zu vermeiden rät.
ollama ps
Einen Coding-Agenten anbinden
**Der einfachste Weg: ollama launch.** Aus Ihrem Projektverzeichnis konfiguriert und startet Ollama den gewählten Agenten und bietet bei Bedarf an, ihn zu installieren (Ollama):
ollama launch opencode
Derselbe Befehl existiert für Claude Code (ollama launch claude) und für Codex CLI (ollama launch codex, sobald Codex CLI installiert ist). Wählen Sie dann ein Modell aus der Liste.
OpenCode, manuelle Einrichtung (Ollama). OpenCode verlangt ein Kontextfenster von mindestens 64.000 Token, daher genügen auf 32.000 Token begrenzte Modelle wie qwen2.5-coder nicht. Installation:
curl -fsSL https://opencode.ai/install | bash
npm install -g opencode-ai
Deklarieren Sie dann Ollama als Provider in opencode.json (offizielles Beispiel, mit dem Modell qwen3.5):
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"ollama": {
"npm": "@ai-sdk/openai-compatible",
"name": "Ollama",
"options": {
"baseURL": "http://localhost:11434/v1"
},
"models": {
"qwen3.5": {
"name": "qwen3.5"
}
}
}
}
}
Führen Sie dann opencode aus. Hinweis: ollama launch opencode überschreibt ~/.config/opencode/opencode.json nicht.
Cline, in Ihrer IDE (Ollama):
- Öffnen Sie die Einstellungen von Cline, Abschnitt
API Configuration, und setzen SieAPI ProvideraufOllama. - Wählen Sie unter
Modelein Modell aus oder tippen Sie seinen Namen ein. - Erhöhen Sie das Kontextfenster unter
Context Windowauf mindestens 32.000 Token.
Und Continue? Laut seinem GitHub-Repository wird es nicht mehr gepflegt und geht in den Nur-Lese-Modus über (siehe unseren Artikel zu Open-Source-Coding-Agenten auf GitHub). Aider, ein weiterer Open-Source-Agent, akzeptiert laut seiner Tool-Seite ebenfalls ein lokales Modell.
Hardware-Grenzen
- NVIDIA-Karten: Compute Capability 5.0 oder höher und Treiber 550 oder neuer; Karten mit Compute Capability 5.0 bis 6.2 benötigen Treiber 570 (Ollama). Unter Windows NVIDIA-Treiber 551.61 oder neuer.
- AMD-Karten unter Windows: ROCm-v7-/HIP7-Stack oder ein Vulkan-fähiger Radeon-Treiber; Vulkan ist der empfohlene Ausweg für einige RX-6000-Karten.
- Mac: GPU-Beschleunigung nur auf Chips der Apple-M-Serie; ein Intel-Mac läuft auf der CPU.
- Speicher: Für beste Leistung rät Ollama, das Modell samt Kontext nicht aus dem Grafikspeicher auf die CPU auslaufen zu lassen. Unter 24 GiB VRAM ist das Standardfenster (4.000 Token) für einen Agenten zu kurz: Sie müssen es erhöhen, auf Kosten von mehr Speicher.
- Festplatte: Rechnen Sie mit mehreren zehn Gigabyte pro mittelgroßem Modell (19 GB für qwen3-coder 30B).
Ein lokales Modell kostet pro Nutzung nichts, doch seine Ergebnisse sind nicht direkt mit denen von Frontier-Modellen vergleichbar: Die von Herstellern veröffentlichten Scores finden Sie im Modellvergleich.
Weiterführend
- Kompatible Agenten: OpenCode, Cline, Aider; der Vergleich OpenCode, Aider und Cline und der Direktvergleich Cline vs. OpenCode.
- Modelle mit offenen Gewichten: Tool-Seite Open-Source-Modelle und Open Weights vs. Open Source im Glossar.
- Die Kosten der anderen Optionen: Einen Coding-Agenten nach Budget wählen.
Quellen
- Ollama Docs: Quickstart, geprüft am 20.10.2026
- Ollama Docs: Linux, macOS und Windows, geprüft am 20.10.2026
- Ollama: Download (Installationsbefehle), geprüft am 20.10.2026
- Ollama Docs: Context length, geprüft am 20.10.2026
- Ollama Docs: Hardware support, geprüft am 20.10.2026
- Ollama Docs: OpenCode und Cline, geprüft am 20.10.2026
- Ollama: qwen3-coder und qwen2.5-coder, geprüft am 20.10.2026
Fazit: Ollama lässt sich mit einem Befehl installieren, doch ein Coding-Agent braucht laut Ollama mindestens 64.000 Token Kontext, die die Standardeinstellungen erst ab 48 GiB Videospeicher bieten.
Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie