Coding-Agenten
Scope, DeepInfer, Humming: Tooling für Agenten und Inferenz wird Open Source
Vom 19. bis 21. Oktober haben Microsoft, Vercel, DeepSeek und vLLM Bausteine als Open Source veröffentlicht, um Coding-Agenten zu testen, nach einem Absturz fortzusetzen und Modelle bereitzustellen.
Zwischen dem 19. und 21. Oktober 2026 sind vier Open-Source-Projekte rund um Coding-Agenten und Inferenz erschienen. Keines davon ist ein neuer Agent: Es sind Werkzeuge, um die bereits existierenden Agenten zu messen, zu härten und günstig zu betreiben.
Microsoft Scope: testen, was Agenten mit Ihrem Produkt anstellen (19. Okt.)
Microsoft hat Scope veröffentlicht, eine unter MIT-Lizenz stehende Evaluationsplattform für Coding-Agenten auf Basis von Kubernetes (Microsoft Open Source).
- So funktioniert es: Sie liefern eine Aufgabe, eine Ausgangs-Codebasis und ein Agenten-Setup; Scope steuert GitHub Copilot, Claude Code oder VS Code mit Copilot, und ein LLM-basierter „Judge“-Dienst bewertet dann das Ergebnis anhand von Kriterien, die als Graph angeordnet sind (ein Laufzeittest kann von einem erfolgreichen Build abhängen).
- Nachvollziehbarkeit: Tool-Aufrufe, erzeugte Dateien und Snapshots des Arbeitsbereichs werden aufbewahrt, sodass sich ein Fehler bis zu dem Schritt zurückverfolgen lässt, der ihn verursacht hat.
- Genanntes Beispiel: Das Team von Azure Cosmos DB gibt an, 20 Probleme beim Agent Kit und 27 Dokumentationsprobleme gelöst zu haben; nach einer gezielten Aktualisierung stieg die Nutzung hierarchischer Partitionsschlüssel durch Agenten von 47 % auf 100 %.
- Grenzen: Es gibt keine gehostete Version, Sie betreiben Scope selbst, und Microsoft warnt, dass der automatische Judge Fehler machen kann. Codex und OpenCode sind „geplant“; Cursor ist nicht integriert (Projektseite).
Vercel durable-harness: ein Agent, der nach einem Absturz weitermacht
Vercel Labs hat durable-harness veröffentlicht (Apache 2.0, Version 0.0.1-beta.6 vom 19. Oktober auf npm), das Pi, OpenCode, fx, Claude Code und Codex als dauerhafte Workflows ausführt (GitHub). Jeder Modell- und Tool-Aufruf wird im Protokoll der Sitzung festgehalten: Nach einem Absturz wird der laufende Durchgang auf einer anderen Maschine fortgesetzt, und ein Tool-Aufruf, der sich nicht gefahrlos wiederholen lässt, wird nie zweimal ausgeführt. Claude Code und Codex laufen nur in der eigenen Vercel Sandbox der Sitzung. Das Projekt ist als experimentell gekennzeichnet: Seine API kann sich ändern.
DeepSeek DeepInfer: der Produktions-Stack unter Apache 2.0 (20. Okt.)
DeepSeek hat DeepInfer als Open Source veröffentlicht, das Inferenz-Framework hinter seinem Modell V4.1 Flash (GitHub). Laut DeepSeek bedient ein einzelner Cluster derzeit 155 Billionen Token pro Tag, bei einem Gesamtumsatz von 38 Dollar pro GPU-Stunde zum Preis außerhalb der Spitzenzeiten (Valley Pricing) (Q&A zum Deployment).
- Hardware: NVIDIA-SM100-GPUs und Huawei-Ascend-950-NPUs.
- Was fehlt: Verwaltung des KV-Caches, Disaggregation von Prefill und Decode sowie Lastverteilung bleiben intern; die veröffentlichte Version leistet nur Offline-Inferenz.
- Siehe die Tool-Seite zu DeepSeek V4.1-Flash-1017.
vLLM Humming: Kernels für quantisierte Modelle (21. Okt.)
Ant Group und die vLLM-Community haben Humming als Open Source veröffentlicht, eine CUDA-Kernel-Bibliothek für quantisierte Inferenz, die ab Version 0.29.0 in vLLM enthalten ist (vLLM-Blog). Bei DeepSeek-V4.1-Flash mit acht H20-GPUs steigerte der Wechsel der MoE-Schichten von Marlin W4A16 auf Humming W4A8 den End-to-End-Durchsatz je nach Parallelität um etwa 14 % bis 43 %, laut den von vLLM veröffentlichten Messungen.
Was sich ändert
- Agenten werden zu vollwertigen Nutzern: Mit Scope kann ein SDK- oder MCP-Team prüfen, ob Agenten sein Produkt finden und korrekt nutzen, so wie es seine Dokumentation mit Menschen testen würde.
- Zuverlässigkeit rückt nach vorn: Eine lange Aufgabe nach einem Absturz fortzusetzen, erspart es, bereits getätigte Modellaufrufe erneut zu bezahlen.
- Software senkt die Inferenzkosten: DeepInfer und Humming verfolgen dasselbe Ziel wie die „Flash“-Modelle (siehe unseren Artikel): mehr Token auf derselben Hardware bereitzustellen.
Alle Zahlen in diesem Artikel werden von den Anbietern selbst angekündigt und wurden nicht unabhängig gemessen.
Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie
