Vertiefung · Folio IV
Destillieren heißt meist, einem kleinen Modell beizubringen, ein großes nachzuahmen. Es gibt einen anderen Weg: Das große Modell schreibt ein Programm, das das Problem löst, und man führt das Programm aus. Ein Programm kostet fast nichts beim Ausführen, und man kann es lesen und prüfen.
Viele Aufgaben wiederholen sich mit anderen Werten: ein Datum umrechnen, ein Treffen planen, eine Liste nach einer Regel sortieren. Jedes Mal mit einem großen Modell zu antworten heißt, immer wieder für dieselbe Überlegung zu bezahlen.
Die Alternative: Intelligenz einmal einsetzen, um ein Werkzeug zu bauen, ein kurzes Programm, und es dann wiederverwenden. Es ist der Unterschied, ob man einen Mathematiker jede Summe ausrechnen lässt oder ihn einmal bittet, einem das Addieren beizubringen.
Bei LATM (Large Language Models as Tool Makers, Google DeepMind und Princeton, 2023) spielt ein starkes Modell den Werkzeugmacher: Aus wenigen Beispielen schreibt es eine Python-Funktion, testet sie und legt eine Anleitung bei. Ein leichteres Modell spielt den Nutzer: Es erkennt die Art des Problems und ruft die Funktion auf.
Die Werkzeuge liegen in einem Funktions-Cache: Statt Antworten in Worten zu speichern, speichert das System die Art, sie zu erzeugen, für eine ganze Familie von Fragen.
Quelle: Cai et al., Large Language Models as Tool Makers (ICLR 2024)
Abb. H — Einmal zahlen, dann fast nichts
Das große Modell antwortet jedes MalWerkzeug einmal geschrieben, dann wiederverwendetKosten für das Schreiben des Werkzeugs
Schematische Darstellung: Sie zeigt die Idee, keine Messwerte.
Vielversprechend
Bei schwierigen Denkaufgaben (Big-Bench) liefern von GPT-4 geschriebene und von GPT-3.5 Turbo genutzte Werkzeuge dieselben Ergebnisse wie GPT-4, das alles selbst macht, obwohl GPT-4 damals pro Aufruf mehr als 15-mal so viel kostete. Die einmaligen Kosten des Werkzeugs verteilen sich auf jede Nutzung.
Quelle: Cai et al., Large Language Models as Tool Makers (ICLR 2024)
Belegt
Google DeepMind koppelt Gemini-Modelle mit automatischen Bewertern, um ganze Programme weiterzuentwickeln. Eine dabei gefundene Planungsregel für Googles Rechenzentren läuft seit über einem Jahr und gewinnt im Schnitt 0,7 % der weltweiten Rechenressourcen von Google zurück. Außerdem beschleunigte sie eine Schlüsseloperation von Gemini um 23 %, 1 % weniger Trainingszeit.
Belegt
Zwei 4×4-Matrizen komplexer Zahlen zu multiplizieren, brauchte seit Strassens Verfahren von 1969 49 Multiplikationen. AlphaEvolve fand einen Weg mit 48. Ein kleiner Schritt, aber bei einer Operation, die in der KI milliardenfach wiederholt wird. Hier ist das Programm das destillierte Wissen: exakt, lesbar, überprüfbar.
Nicht alles passt in ein Programm. Ein Gedicht zu übersetzen oder Ironie zu erkennen, lässt sich nicht auf eine Regel reduzieren, und genau dort glänzen große Modelle. Ein Werkzeug muss auch geprüft werden: Ein falsches Werkzeug irrt bei jeder Nutzung lautlos. Deshalb funktioniert AlphaEvolve nur dort, wo ein automatischer Bewerter jeden Versuch benoten kann.
Dieser Ansatz spricht H3 an: „Regeln + Ausnahmen = Kompression“. Ein Programm ist die kompakteste Form einer Regel: Wenige Zeilen ersetzen Tausende Beispiele. Was das Programm nicht behandeln kann, wird zur Ausnahme und bleibt dem Modell.
Die Fragen finden, die auf OrigoTech oft wiederkehren (Währungsumrechnungen, Prozente, Daten), ein großes Modell jede Funktion einmal schreiben lassen und dann zählen, wie viele Fragen die Funktion ganz ohne Modell richtig beantwortet.