Aprofundamento · Folio IV
Destilar costuma significar ensinar um modelo pequeno a imitar um grande. Há outro caminho: pedir ao modelo grande que escreva um programa que resolva o problema e depois rodar o programa. Um programa não custa quase nada a executar, e pode ser lido e verificado.
Muitas tarefas se repetem com valores diferentes: converter uma data, marcar uma reunião, ordenar uma lista segundo uma regra. Responder de cada vez com um modelo grande é pagar de novo e de novo pelo mesmo raciocínio.
A alternativa: usar a inteligência uma vez para produzir uma ferramenta, um programa curto, e depois reutilizá-la. É a diferença entre pedir cada soma a um matemático e pedir-lhe uma vez que nos ensine a fazer somar.
No LATM (Large Language Models as Tool Makers, Google DeepMind e Princeton, 2023), um modelo potente faz de fabricante de ferramentas: a partir de alguns exemplos, escreve uma função em Python, testa e acrescenta instruções. Um modelo mais leve faz de utilizador: reconhece o tipo de problema e chama a função.
As ferramentas ficam guardadas numa cache de funções: em vez de guardar respostas em palavras, o sistema guarda a maneira de as produzir, para toda uma família de perguntas.
Fonte: Cai et al., Large Language Models as Tool Makers (ICLR 2024)
Fig. H — Pagar uma vez, depois quase nada
O modelo grande responde de cada vezFerramenta escrita uma vez e reutilizadacusto de escrever a ferramenta
Esquema ilustrativo: mostra a ideia, não medições.
Promissor
Em tarefas de raciocínio difíceis (Big-Bench), as ferramentas escritas pelo GPT-4 e usadas pelo GPT-3.5 Turbo dão os mesmos resultados do GPT-4 fazendo tudo, quando o GPT-4 custava então mais de 15 vezes mais por chamada. O custo único de fabrico se distribui por cada uso.
Fonte: Cai et al., Large Language Models as Tool Makers (ICLR 2024)
Comprovado
O Google DeepMind junta modelos Gemini a avaliadores automáticos para fazer evoluir programas inteiros. Uma regra de distribuição de tarefas encontrada para os centros de dados do Google funciona há mais de um ano e recupera em média 0,7 % dos recursos de cálculo mundiais do Google. Também acelerou em 23 % uma operação-chave do Gemini, menos 1 % de tempo de treinamento.
Comprovado
Multiplicar duas matrizes 4×4 de números complexos exigia 49 multiplicações desde o método de Strassen, de 1969. O AlphaEvolve encontrou uma forma com 48. Um pequeno passo, mas numa operação repetida bilhões de vezes em IA. Aqui o programa é o saber destilado: exato, legível, verificável.
Nem tudo cabe num programa. Traduzir um poema ou captar a ironia não se reduz a uma regra, e é precisamente aí que os grandes modelos brilham. Uma ferramenta também precisa ser verificada: uma ferramenta errada falha em silêncio em cada uso. É por isso que o AlphaEvolve só funciona onde um avaliador automático consegue pontuar cada tentativa.
Esta pista fala a H3, "regras + exceções = compressão". Um programa é a forma mais compacta de uma regra: algumas linhas substituem milhares de exemplos. O que o programa não sabe tratar se torna a exceção, deixada ao modelo.
Identificar as perguntas que voltam muitas vezes na OrigoTech (conversões de moeda, porcentagens, datas), pedir a um modelo grande que escreva cada função uma vez e contar quantas perguntas a função resolve corretamente sem nenhum modelo.