Vertiefung · Folio III
Um einen Satz in einer Bibliothek zu finden, liest man nicht alle Bücher: Man folgt den Schildern. KI-Agenten beginnen, ihr Gedächtnis genauso zu ordnen. Wie viel bringt das wirklich?
Ein KI-Agent, der lange arbeitet, sammelt Erinnerungen an: Gespräche, Dokumente, vergangene Handlungen. Am einfachsten ist es, alles flach zu speichern und den ganzen Stapel zu durchsuchen. Doch je größer der Stapel, desto teurer jede Suche.
Die Alternative: Erinnerungen in einem Baum ordnen, mit Zusammenfassungen auf jeder Ebene. Für 1.000 Erinnerungen genügen etwa zehn Ebenen, für eine Million etwa zwanzig. Das nennt man logarithmische Kosten: Sie wachsen um einen Schritt, wenn sich das Gedächtnis verdoppelt.
Eine Theorie von 2026 zeigt, dass diese Systeme, so verschieden sie aussehen, alle drei Operationen aneinanderreihen. Extrahieren: Rohdaten in Informationseinheiten zerlegen. Gruppieren: Gruppen bilden und jeder einen Vertreter geben, oft eine Zusammenfassung. Durchlaufen: für eine Frage und ein Wortbudget auswählen, was gelesen wird.
Der Schlüsselbegriff ist die Selbstgenügsamkeit des Vertreters: Genügt die Zusammenfassung für die Antwort, hört man dort auf; sonst muss man zu den Details hinabsteigen. Die Autoren zeigen, dass 11 bestehende Systeme in diesen Rahmen passen.
Quelle: Talebirad et al., Toward a Theory of Hierarchical Memory (2026)
Abb. E — Alles lesen oder den Baum hinabsteigen
Alles lesen: 16 Schritte
Den Baum hinabsteigen: 4 Schritte
16 Dokumente · der Baum ist schneller um den Faktor 4
Schematische Darstellung: Sie zeigt die Idee, keine Messwerte.
Belegt
Vorbild sind Betriebssysteme: ein kleiner, schneller Speicher (der Kontext des Modells) und ein großer, langsamer Speicher (eine externe Datenbank). Das Modell verschiebt Informationen selbst zwischen beiden, per Funktionsaufruf, wie ein Computer, der Seiten zwischen Arbeitsspeicher und Festplatte austauscht.
Quelle: Packer et al., MemGPT: Towards LLMs as Operating Systems (2023)
Vielversprechend
Jeder Knoten fasst zusammen, was unter ihm liegt, mit je nach Tiefe unterschiedlichem Abstraktionsgrad. Jede neue Information tritt an der Wurzel ein und wandert hinab an ihren Platz. In langen Gesprächen übertrifft es MemGPT; bei Fragen über mehrere Dokumente nähert es sich Methoden, die alles im Voraus aufbereiten, und schlägt GraphRAG.
Quelle: Rezazadeh et al., MemTree: Dynamic Tree Memory (2024)
Vielversprechend
Erinnerungen werden wie Ordner und Unterordner abgelegt; jede Zusammenfassung behält einen Verweis auf die Roherinnerung. Ein kleiner Agent, mit bestärkendem Lernen trainiert, durchläuft den Baum und nimmt nur das Nötige. In langen Gesprächen verbraucht er höchstens 22 % der Wörter der Vergleichsmethoden.
Vielversprechend
Ein Gedächtnis, das sich ständig ändert, muss gepflegt werden. MemForest ordnet Erinnerungen in zeitlich geordneten Bäumen und aktualisiert nur die Pfade, die eine neue Information berührt, statt alle Zusammenfassungen neu zu schreiben. Die Pflegekosten richten sich dann nach der Größe der Änderung, nicht nach der des Gedächtnisses.
Quelle: MemForest: Hierarchical Temporal Indexing for Agent Memory (2026)
Die 2025–2026 am meisten genutzten Agenten-Gedächtnisse entfernen sich vom strengen Baum. Sie extrahieren Fakten und verknüpfen sie wie die Karteikarten eines Forschers. Die Kosten bleiben niedrig, weil nur die nützlichen Karten gelesen werden.
Deshalb heben wir H5 („ein Graph, kein Baum“) von 60 auf 65 % an. Ein Vorbehalt, den Kritiker vorbringen: Die Verknüpfungen von A-MEM sagen nur „diese beiden Notizen ähneln sich“, nicht warum. Eine echte Hierarchie des Wissens bräuchte Verknüpfungen, die die Beziehung benennen.
H5 · Ein Graph, kein Baum (65 %)
Vielversprechend
Statt das ganze Gespräch wiederzulesen, extrahiert Mem0 die wichtigen Informationen, führt sie mit dem bereits Bekannten zusammen und ruft sie bei Bedarf ab (eine Variante ordnet sie als Graph). Gegenüber dem Ansatz „alles wiederlesen“ senkt es die Antwortzeit um 91 % und die Token-Kosten um mehr als 90 % und antwortet dabei besser (+26 % relativ gegenüber dem Gedächtnis von OpenAI im LOCOMO-Test).
Quelle: Chhikara et al., Mem0: Scalable Long-Term Memory (2025)
Vielversprechend
Jede Erinnerung wird zu einer Karteikarte mit Schlagwörtern, Etiketten und Verweisen auf verwandte Karten. Kommt eine neue Karte hinzu, kann sie die alten weiterentwickeln: Das Gedächtnis ordnet sich selbst neu. Auf der NeurIPS 2025 vorgestellt, übertrifft es frühere Methoden mit sechs verschiedenen Modellen.
Quelle: Xu et al., A-MEM: Agentic Memory for LLM Agents (NeurIPS 2025)
Ehrlich gesagt sind logarithmische Kosten ein Ideal. Sie setzen einen gut ausbalancierten Baum und verlässliche Zusammenfassungen voraus. In der Praxis kostet der Aufbau des Baums Modellaufrufe für die Zusammenfassungen, und eine falsche Abzweigung oben im Baum lässt die Information unten verpassen. Viele Systeme lesen daher mehrere Zweige zugleich.
Die Arbeiten messen vor allem verbrauchte Wörter und Treffsicherheit der Antworten, selten die theoretischen Kosten. Wir behalten deshalb den Status „vielversprechend“: Der Gewinn ist echt und oft spektakulär, aber das Wort „logarithmisch“ beschreibt den Trend, keine Garantie.
Drei Schwachstellen tauchen immer wieder auf. Die Weichenstellung: Eine falsche Wahl früh im Abstieg ist schwer zu korrigieren. Der Detailverlust: Eine Zusammenfassung wirft immer etwas weg, und manchmal ist das die Antwort. Die Pflege: Ein lebendiges Gedächtnis ändert sich ständig, und den Baum umzubauen, ist teuer, wenn man es schlecht macht.
Diese Arbeiten verleihen H2 auf der Seite des externen Gedächtnisses Substanz: Das „Untere“ unserer Hierarchie lässt sich zu Kosten nachschlagen, die sehr langsam wachsen. Und sie bestätigen H5: MemTree, GraphRAG und HORMA verknüpfen am Ende alle Zweige miteinander (Roherinnerung, Entitäten, zeitliche Bezüge). Reine Bäume werden zu Graphen.
H2 · Das Obere lernen, das Untere nachschlagen (75 %) H5 · Ein Graph, kein Baum (65 %)
Die Artikel von OrigoTech selbst als Baum ordnen (Thema, Unterthema, Artikel, Absatz) und dann für eine Reihe von Fragen messen, wie viele Wörter flach und beim Abstieg gelesen werden müssen. Das bei jeder Verdopplung der Website wiederholen, um zu sehen, ob die Kurve wirklich dem Logarithmus folgt.