有望
LATM：GPT-4が書き、GPT-3.5が使う
難しい推論課題（Big-Bench）で、GPT-4が書きGPT-3.5 Turboが使った道具は、GPT-4がすべてを行った場合と同じ結果を出しました。当時GPT-4は1回の呼び出しで15倍以上の費用がかかっていました。道具を作る一度きりの費用は、利用のたびに分けて負担されます。
出典： Cai et al., Large Language Models as Tool Makers (ICLR 2024)
深掘り · 第IV章
モデルではなくプログラムに蒸留する
蒸留とはふつう、小さなモデルに大きなモデルのまねを教えることです。別の道もあります。大きなモデルに、問題を解くプログラムを書かせ、そのプログラムを動かすのです。プログラムは動かすのにほとんど費用がかからず、読むことも確かめることもできます。
考え方をひとことで
多くの作業は値だけ変えて繰り返されます。日付の変換、会議の日程調整、規則に従った並べ替えなどです。そのたびに大きなモデルで答えるのは、同じ推論に何度もお金を払うことです。
代わりに、知能を一度だけ使って道具、つまり短いプログラムを作り、それを使い回します。足し算のたびに数学者に頼むのと、一度だけ筆算のやり方を教わるのとの違いです。
どう動くのか
LATM（Large Language Models as Tool Makers、Google DeepMindとプリンストン大学、2023年）では、強力なモデルが道具の作り手になります。いくつかの例からPythonの関数を書き、試し、使い方を添えます。軽いモデルは道具の使い手です。問題の種類を見分けて、その関数を呼び出します。
道具は関数のキャッシュに保存されます。答えを言葉で保存する代わりに、答えの作り方を、質問のまとまり全体について保存するのです。
出典： Cai et al., Large Language Models as Tool Makers (ICLR 2024)
図H — 一度払えば、あとはほとんどゼロ
大きなモデルが毎回答える一度書いた道具を使い回す道具を書く費用
説明用の図です。考え方を示すもので、測定値ではありません。
道具からアルゴリズムへ
確立
AlphaEvolve：実際に動くアルゴリズム
Google DeepMindはGeminiモデルと自動評価器を組み合わせ、プログラム全体を進化させます。Googleのデータセンター向けに見つかった作業割り当ての規則は1年以上稼働し、Googleの世界中の計算資源の平均0.7%を取り戻しています。Geminiの重要な演算も23%速くなり、学習時間全体が1%縮みました。
確立
49回ではなく48回の掛け算
複素数の4×4行列どうしの掛け算には、1969年のシュトラッセンの方法以来、49回の掛け算が必要でした。AlphaEvolveは48回で済む方法を見つけました。小さな一歩ですが、AIの中で何十億回も繰り返される演算での一歩です。ここではプログラムこそが蒸留された知識で、正確で、読めて、検証できます。
限界
すべてがプログラムに収まるわけではありません。詩を訳すことや皮肉を読み取ることは規則に還元できず、そこにこそ大きなモデルの強みがあります。道具は検証も必要です。間違った道具は、使うたびに黙って間違えます。だからAlphaEvolveは、自動評価器が一回一回の試みに点をつけられる場面でしか働きません。
私たちの仮説にとっての意味
この道筋はH3「規則＋例外＝圧縮」に通じます。プログラムは規則の最も小さな形で、数行が何千もの例の代わりになります。プログラムで扱えないものが例外となり、モデルに任されます。
試してみたいこと
OrigoTechでよく繰り返される質問（通貨の換算、百分率、日付）を見つけ、大きなモデルにそれぞれの関数を一度だけ書かせ、モデルをまったく使わずに関数が正しく答えられる質問の数を数えたいと思います。