Profundización · Folio IV
Destilar suele significar enseñar a un modelo pequeño a imitar a uno grande. Hay otra vía: pedir al modelo grande que escriba un programa que resuelva el problema y luego ejecutar el programa. Un programa no cuesta casi nada de ejecutar, y se puede leer y comprobar.
Muchas tareas se repiten con valores distintos: convertir una fecha, cuadrar una reunión, ordenar una lista según una regla. Responder cada vez con un modelo grande es pagar una y otra vez por el mismo razonamiento.
La alternativa: usar la inteligencia una vez para producir una herramienta, un programa corto, y luego reutilizarla. Es la diferencia entre pedir cada suma a un matemático y pedirle una vez que te enseñe a sumar.
En LATM (Large Language Models as Tool Makers, Google DeepMind y Princeton, 2023), un modelo potente hace de fabricante de herramientas: a partir de unos pocos ejemplos escribe una función de Python, la prueba y la acompaña de instrucciones. Un modelo más ligero hace de usuario: reconoce el tipo de problema y llama a la función.
Las herramientas se guardan en una caché de funciones: en lugar de guardar respuestas en palabras, el sistema guarda la manera de producirlas, para toda una familia de preguntas.
Fuente: Cai et al., Large Language Models as Tool Makers (ICLR 2024)
Fig. H — Pagar una vez, y luego casi nada
El modelo grande responde cada vezHerramienta escrita una vez y reutilizadacoste de escribir la herramienta
Esquema ilustrativo: muestra la idea, no mediciones.
Prometedor
En tareas de razonamiento difíciles (Big-Bench), las herramientas escritas por GPT-4 y usadas por GPT-3.5 Turbo dan los mismos resultados que GPT-4 haciéndolo todo, cuando GPT-4 costaba entonces más de 15 veces más por llamada. El coste único de fabricación se reparte entre todos los usos.
Fuente: Cai et al., Large Language Models as Tool Makers (ICLR 2024)
Establecido
Google DeepMind combina modelos Gemini con evaluadores automáticos para hacer evolucionar programas enteros. Una regla de reparto de tareas hallada para los centros de datos de Google lleva más de un año en marcha y recupera de media el 0,7 % de los recursos de cálculo mundiales de Google. También aceleró un 23 % una operación clave de Gemini, un 1 % menos de tiempo de entrenamiento.
Establecido
Multiplicar dos matrices 4×4 de números complejos requería 49 multiplicaciones desde el método de Strassen de 1969. AlphaEvolve encontró una forma con 48. Un paso pequeño, pero en una operación repetida miles de millones de veces en IA. Aquí el programa es el saber destilado: exacto, legible, verificable.
No todo cabe en un programa. Traducir un poema o captar la ironía no se reduce a una regla, y es justo ahí donde brillan los grandes modelos. Una herramienta también debe verificarse: una herramienta errónea falla en silencio en cada uso. Por eso AlphaEvolve solo funciona donde un evaluador automático puede puntuar cada intento.
Esta pista habla a H3, «reglas + excepciones = compresión». Un programa es la forma más compacta de una regla: unas pocas líneas sustituyen a miles de ejemplos. Lo que el programa no sabe tratar se convierte en la excepción, que queda para el modelo.
Detectar las preguntas que se repiten en OrigoTech (conversiones de divisas, porcentajes, fechas), pedir a un modelo grande que escriba cada función una vez y contar cuántas preguntas resuelve bien la función sin ningún modelo.