Addestramento
La fase in cui il modello impara: legge testi, indovina il seguito e i suoi parametri vengono corretti a ogni errore. È lungo e costoso, ma si fa una volta sola.
Glossario · L'IA di domani
Glossario
Le parole tecniche del taccuino, spiegate in modo semplice. Nelle pagine, la prima comparsa di ogni termine è sottolineata a puntini e rimanda qui.
Apprendimento per rinforzo
Imparare per tentativi ed errori: il modello prova, un voto lo premia o no, e lui regola i parametri per ottenere voti migliori. Così si addestrano molti modelli di ragionamento.
Banco di prova (benchmark)
Una serie di domande di cui si conoscono le risposte, per confrontare modelli con le stesse regole. MMLU, GSM8K o AIME ne sono esempi.
Cascata (e smistatore)
Si chiede prima a un modello piccolo ed economico, e si sale a quello grande solo se la risposta non convince. Lo smistatore è il programma che decide dove mandare ogni domanda. In una miscela di esperti, uno smistatore sceglie allo stesso modo quali esperti accendere.
Collasso (model collapse)
Ciò che accade quando i modelli imparano soprattutto da testi scritti da altri modelli: prima spariscono i casi rari, poi la qualità peggiora di generazione in generazione.
Decodifica speculativa
Un modello piccolo propone in anticipo più parole, e quello grande le verifica tutte in un solo passaggio. Il testo finale è lo stesso del modello grande, ma esce più in fretta.
Distillazione
Trasmettere il sapere di un grande modello «maestro» a uno più piccolo, l'«allievo», addestrandolo sulle risposte del maestro. In questo taccuino parliamo anche di distillare il sapere in programmi.
Inferenza
L'uso del modello una volta addestrato: rispondere a una domanda. Questo costo si paga a ogni risposta, da qui l'interesse a ridurlo.
Legge di Amdahl
Accelerare una parte di un lavoro aiuta solo per quella parte. Se un passaggio vale metà del tempo, anche renderlo istantaneo fa guadagnare solo la metà.
Legge di scala
Una relazione misurata tra la taglia di un modello, la quantità di dati e la qualità ottenuta. Permette di prevedere il risultato di un grande addestramento a partire da piccoli.
Memoria esterna
Una base di testi o di schede che il modello consulta invece di trattenere tutto nei parametri, come si apre un dizionario invece di impararlo a memoria.
Miscela di esperti (MoE)
Un modello diviso in molte sottoreti, gli «esperti». Per ogni token, un piccolo smistatore ne accende solo alcuni: tanto sapere per poco calcolo.
Muro della memoria
In un computer, spostare un numero tra la memoria e l'unità di calcolo costa molta più energia e tempo del calcolo stesso. È uno dei principali freni dei grandi modelli.
Parametro (peso)
Un numero regolato durante l'addestramento. Un modello ne contiene miliardi, ed è il loro insieme a formare il suo sapere. Immagine: i miliardi di piccole manopole di un enorme mixer.
Perdita (loss)
Il voto d'errore del modello durante l'addestramento: più è basso, meglio indovina il seguito dei testi. Spesso si confrontano due metodi «a parità di perdita».
Quantizzazione (meno bit)
Scrivere ogni numero del modello con meno bit. A 16 bit un numero può assumere 65 536 valori; a 4 bit, solo 16. È come arrotondare i prezzi all'euro: più leggero, un po' meno preciso.
Token
Il pezzo di testo che un modello legge: spesso una parola corta o un pezzo di parola. «Incredibilmente» può valere tre token. Volumi di dati e prezzi si contano in token.
Verificatore (giudice)
Ciò che dice se una risposta è giusta: test per il codice, un calcolo per la matematica, o un altro modello. Verificare è spesso molto più facile che trovare.