L'IA di domani
IT

← Torna al quaderno

Approfondimento · Folio III

Il costo diventa logaritmico

Per ritrovare una frase in una biblioteca non si leggono tutti i libri: si seguono i cartelli. Gli agenti di IA cominciano a ordinare la loro memoria allo stesso modo. Quanto si guadagna, davvero?

Promettente aggiornato il

I

L'idea, in breve

Un agente di IA che lavora a lungo accumula ricordi: conversazioni, documenti, azioni passate. La cosa più semplice è tenere tutto in piano e cercare nell'intera pila. Ma più la pila cresce, più ogni ricerca costa.

L'alternativa: ordinare i ricordi in un albero, con riassunti a ogni piano. Per 1.000 ricordi bastano una decina di piani; per un milione, una ventina. È quello che si chiama un costo logaritmico: cresce di un passo quando la memoria raddoppia.

II

Come funziona

Una teoria del 2026 mostra che questi sistemi, per quanto diversi sembrino, concatenano tutti tre operazioni. Estrarre: tagliare i dati grezzi in unità di informazione. Raggruppare: formare gruppi e dare a ciascuno un rappresentante, spesso un riassunto. Percorrere: per una domanda e un budget di parole dati, scegliere cosa leggere.

La nozione chiave è l'autosufficienza del rappresentante: se il riassunto basta per rispondere, ci si ferma lì; altrimenti bisogna scendere a vedere i dettagli. Gli autori mostrano che 11 sistemi esistenti rientrano in questo stesso quadro.

Fonte: Talebirad et al., Toward a Theory of Hierarchical Memory (2026)

Fig. E — Leggere tutto o scendere l'albero

Leggere tutto: 16 passi

Scendere l'albero: 4 passi

16 documenti · l'albero è più veloce di un fattore 4

Schema illustrativo: mostra l'idea, non misurazioni.

A parità di velocità, la ricerca piatta deve passare in rassegna ogni documento, mentre la discesa ne legge uno per piano. Raddoppiate la memoria quante volte volete: la prima riga raddoppia ogni volta, la seconda guadagna un solo passo.
III

Quattro modi di ordinare

Accertato

MemGPT: la memoria come un computer

Ispirato ai sistemi operativi: una memoria piccola e veloce (il contesto del modello) e una memoria grande e lenta (una base esterna). È il modello stesso a spostare l'informazione dall'una all'altra con chiamate di funzione, come un computer che scambia pagine fra RAM e disco.

Fonte: Packer et al., MemGPT: Towards LLMs as Operating Systems (2023)

Promettente

MemTree: un albero come i nostri schemi mentali

Ogni nodo riassume ciò che sta sotto, con livelli di astrazione diversi secondo la profondità. Ogni nuova informazione entra dalla radice e scende fino al suo posto. Nelle conversazioni lunghe supera MemGPT; nelle domande su più documenti si avvicina ai metodi che preparano tutto in anticipo e supera GraphRAG.

Fonte: Rezazadeh et al., MemTree: Dynamic Tree Memory (2024)

Promettente

HORMA: ordinare, poi navigare (2026)

I ricordi sono ordinati come cartelle e sottocartelle; ogni riassunto conserva un collegamento al ricordo grezzo. Un piccolo agente, addestrato per rinforzo, percorre l'albero per prendere solo il necessario. Nelle conversazioni lunghe usa al massimo il 22 % delle parole consumate dai metodi di riferimento.

Fonte: Hsu et al., HORMA, Organize then Retrieve (2026)

Promettente

MemForest: aggiornare senza riscrivere tutto (2026)

Una memoria che cambia di continuo va mantenuta. MemForest ordina i ricordi in alberi ordinati nel tempo e aggiorna solo i percorsi toccati da un'informazione nuova, invece di riscrivere tutti i riassunti. Il costo di manutenzione segue così la dimensione del cambiamento, non quella della memoria.

Fonte: MemForest: Hierarchical Temporal Indexing for Agent Memory (2026)

IV

Più avanti: schede collegate invece di un albero

Le memorie per agenti più usate nel 2025-2026 si allontanano dall'albero rigido. Estraggono fatti e li collegano come le schede di un ricercatore. Il costo resta basso perché si leggono solo le schede utili.

Per questo portiamo H5 («un grafo, non un albero») dal 60 al 65 %. Una riserva, sollevata da alcuni critici: i collegamenti di A-MEM dicono solo «queste due note si somigliano», non perché. Una vera gerarchia del sapere avrebbe bisogno di collegamenti che dicano la relazione.

Promettente

Mem0: tenere solo l'essenziale

Invece di rileggere l'intera conversazione, Mem0 estrae le informazioni salienti, le fonde con ciò che sa già e le ritrova su richiesta (una variante le ordina in un grafo). Rispetto all'approccio «rileggere tutto», riduce il tempo di risposta del 91 % e il costo in token di oltre il 90 %, rispondendo meglio (+26 % relativo rispetto alla memoria di OpenAI sul test LOCOMO).

Fonte: Chhikara et al., Mem0: Scalable Long-Term Memory (2025)

Promettente

A-MEM: il metodo delle schede (Zettelkasten)

Ogni ricordo diventa una scheda con parole chiave, etichette e collegamenti alle schede vicine. Quando arriva una scheda nuova, può far evolvere quelle vecchie: la memoria si riorganizza da sola. Presentato a NeurIPS 2025, supera i metodi precedenti con sei modelli diversi.

Fonte: Xu et al., A-MEM: Agentic Memory for LLM Agents (NeurIPS 2025)

V

Davvero logaritmico?

Bisogna essere onesti: il costo logaritmico è un ideale. Presuppone un albero ben bilanciato e riassunti affidabili. In pratica, costruire l'albero costa chiamate al modello per scrivere i riassunti, e un errore di direzione in cima all'albero fa perdere l'informazione in basso. Molti sistemi leggono quindi più rami alla volta.

Gli articoli misurano soprattutto le parole consumate e la correttezza delle risposte, raramente il costo teorico. Manteniamo dunque lo stato «promettente»: il guadagno è reale e spesso spettacolare, ma la parola «logaritmico» descrive la tendenza, non una garanzia.

VI

I limiti

Tornano tre punti deboli. L'instradamento: una scelta sbagliata all'inizio della discesa è difficile da recuperare. La perdita di dettaglio: un riassunto scarta sempre qualcosa, e a volte è proprio la risposta. La manutenzione: una memoria viva cambia continuamente, e riorganizzare l'albero costa caro se lo si fa male.

VIII

Cosa vorremmo provare

Ordinare gli stessi articoli di OrigoTech in un albero (tema, sottotema, articolo, paragrafo), poi misurare, per una serie di domande, quante parole bisogna leggere in piano e scendendo l'albero. Ripetere ogni volta che il sito raddoppia, per vedere se la curva segue davvero il logaritmo.

Torna su