Sicherheit
KI-generierter Code: ein bekannter Fehler in 45 % der Aufgaben
Der GenAI Code Security Report 2025 von Veracode und eine Studie von METR zeigen: Tempo allein genügt nicht, wenn sich die Methode nicht ändert.
Laut dem GenAI Code Security Report 2025 von Veracode hat das Modell bei 45 % der getesteten Code-Generierungsaufgaben (80 Aufgaben, mehr als 100 Modelle) eine bekannte Sicherheitslücke aus den OWASP Top 10 eingebaut. Der Code lässt sich fast immer kompilieren; sicher ist er nur in etwas mehr als der Hälfte der Fälle.
Ein Jahr später hat sich nichts bewegt
Die am 28. Juli veröffentlichte Ausgabe 2026 bestätigt die Obergrenze (Veracode). Über alle Modelle hinweg, die seit Beginn der Reihe erfasst werden, liegt die Quote bestandener Sicherheitstests bei 56 %, gegenüber 55 % im ersten Bericht: Etwa 44 % der Aufgaben erzeugen weiterhin eine bekannte Schwachstelle. Das beste Modell der Stichprobe, GPT-5.5, erreicht 68 %, und sechs der elf neu getesteten Modelle liegen zwischen 50 % und 53 %.
Drei verbreitete Annahmen halten den Daten nicht stand:
- Auf Code spezialisierte Modelle sind nicht sicherer: 51 % bestandene Tests, gegenüber 52 % bei Allzweckmodellen.
- Die Größe spielt kaum eine Rolle: 53 % bei Modellen mit mehr als 100 Milliarden Parametern, 51 % bei den übrigen.
- Reasoning hilft ein wenig: 56 % bei Reasoning-Modellen, 51 % ohne.
Wo es scheitert
Die Unterschiede hängen vor allem von der Art der Schwachstelle ab. Modelle bewältigen SQL-Injection gut (83 % bestanden) und wählen solide kryptografische Algorithmen (87 %). Sie scheitern bei Cross-Site-Scripting (15 %) und Log-Injection (12 %), zwei Schwachstellen, bei denen verfolgt werden muss, wie Daten durch die Anwendung fließen. Java bleibt mit einer durchschnittlichen Bestehensquote von 30 % in der Ausgabe 2026 mit Abstand die riskanteste Sprache, obwohl sie als einzige sich deutlich verbessert.
Tempo, der andere blinde Fleck
Eine von METR Anfang 2025 durchgeführte randomisierte kontrollierte Studie ergab bei 16 erfahrenen Open-Source-Entwicklern, die KI bei 246 realen Aufgaben einsetzten, eine Verlangsamung um 19 % (METR). Vor der Studie erwarteten sie eine Beschleunigung um 24 %; danach glaubten sie weiterhin, 20 % gewonnen zu haben.
Im Februar 2026 veröffentlichte METR die Ergebnisse einer zweiten Studie mit 57 Entwicklern und mehr als 800 Aufgaben (METR). Aufgaben, bei denen KI erlaubt war, dauerten bei den Entwicklern, die aus 2025 zurückkehrten, geschätzt 18 % weniger lang, bei neuen Teilnehmern 4 % weniger, mit Konfidenzintervallen, die weiterhin eine Verlangsamung einschließen. METR selbst hält das Ergebnis für unzuverlässig: Viele Entwickler weigerten sich, ohne KI zu arbeiten, was den tatsächlichen Gewinn wahrscheinlich unterschätzt.
Was das für Entwickler ändert
- Generierten Code zu prüfen und zu testen bleibt unerlässlich, angefangen bei Benutzereingaben, HTML-Ausgaben und Logs.
- Analyse in die Agentenschleife integrieren: Tools wie Sonar mit Gitar prüfen den Code, während der Agent ihn schreibt, nicht erst am Ende der Pipeline (siehe unseren Artikel).
- Modelle auch nach Sicherheit auswählen: Der Abstand zwischen 50 % und 68 % bestandenen Tests schlägt sich unmittelbar in Nacharbeit nieder.
- Vor dem Rollout messen: Die Gewinne kommen aus der Organisation der Arbeit, nicht nur aus dem Tool.
Die Grenzen
Veracode testet rohe Modelle, ohne Agenten, Leitplanken oder menschliche Prüfung (Pressemitteilung): In der Produktion senken diese Schichten das Risiko. Veracode verkauft außerdem Tools zur Codeanalyse. Die Studien von METR betreffen erfahrene Open-Source-Entwickler, die an ihren eigenen Repositories arbeiten – ein Umfeld, das nicht für den gesamten Berufsstand repräsentativ ist.
Quellen: Veracode, 2025 GenAI Code Security Report; Veracode, 2026 GenAI Code Security Report, 28. Juli 2026; METR, Juli 2025; METR, Februar 2026.
Einen Fehler in diesem Artikel entdeckt? Melden Sie ihn · Unsere Korrekturrichtlinie
