明日のAI 用語集
JA

← ノートに戻る

深掘り · 仮説

H2を検証:おもちゃ世界のパイロット実験

H2「上を学び、下は調べる」についてのおもちゃ世界の10のパイロット実験:事前登録した予測51件のうち34件が的中し、パイロット4〜7では外れたもののほとんどが学習の失敗で、反証ではありません。極小のモデル、作り物の規則、多くの場合は理想的なメモリであり、実際の言語モデルの証拠ではありません。

推測 更新日

I

問い

H2は、パラメータは乏しいので推論のために取っておき、事実は外部メモリに置くべきだと述べます。実際のモデルに手を付ける前に、おもちゃの世界を作りました。1024個のエンティティがそれぞれランダムな数字(その事実)を持ち、規則は2つのエンティティの数字を10で割った余りで足し合わせるものです(5つ目のパイロットでは3つ)。テスト用のペアは訓練に一切現れないので、モデルは規則を暗唱ではなく適用しなければなりません。

モデルは2層、幅64のトランスフォーマーで、2000回更新して訓練します。数値はすべてシード5つの平均で、偶然水準は0.1、判定するのは1024エンティティの設定です(256は報告のみで判定しません)。予測は各実行の前に書きました。ただし2つ目のパイロット以降は、先の結果を見たあとで書いたので、盲検ではありません。公開データは[ラボのページ](https://huggingface.co/spaces/Kyyzen01/OrigoTech-AI-Research-Lab)にもあります。パイロット6〜10は同じモデルと世界を使いますが、訓練の長さは変わります(2000〜4000回の更新、パイロット10ではさらに微調整)。詳しくは各手順に書いています。

II

パイロット1:事実は重みの中か、メモリの中か

エンティティが64個のとき、3つの条件はどれも除外したペアで少なくとも 0.9985 に達します。1024個では、事実を重みに持つモデルはそれを完全に思い出せる(事実の正確さ 1.0000)のに、除外したペアでは 0.0973 にとどまり、パラメータを約2.6倍にしても(幅128)0.1235 と、偶然に近い値です。理想的なメモリが2つの事実を文脈に入れると、同じモデルが 1.0000 になります。5件の予測はすべて的中しました。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 1: facts in the weights or in a memory (results, JSON; protocol alongside)

III

パイロット2:明示的なステップか、長い訓練か

モデルがまず2つの事実を書き出してから足すと(明示的なステップ、訓練で教師あり)、メモリなしでも1024エンティティで 1.0000 に達します。代わりに訓練を4000回に倍増しても、素のモデルは 0.1285 のまま(2000回では 0.1018)です。256エンティティでは、長く訓練すると2000回の 0.4710 から 0.9393 に上がり、シードごとの値は0.6965から1.0000まで幅があります。つまりこのおもちゃでは、組み合わせるのにメモリは要りません。ただしステップは教師ありなので、実際のモデルについては何も言えません。5件の予測はすべて的中しました。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 2: explicit steps or longer training (results, JSON; protocol alongside)

IV

パイロット3:事実の更新

事実が文脈にあると、修正した事実は 1.0000、訓練で見ていないエンティティも 1.0000 ですが、メモリのないモデルは 0.1066 と 0.1008 です。修正だけで重みを200回微調整すると、修正した事実は 0.2376 に届きますが、手を付けていない事実の正確さは1.0000から 0.1337 に落ちます。古い事実を再演習(リプレイ)すると、手を付けていない事実は 0.9975 を保ちますが、修正した事実は 0.3399 にとどまります。6件中5件の予測が的中し、外れたのは200回で修正が吸収されるという予測です。微調整の方法は1通りのみで、専用の知識編集器は使っていません。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 3: updating facts (results, JSON; protocol alongside)

V

パイロット4:不完全な検索

取り出した各項目は、確率 1 − r で別のエンティティの項目に置き換わります。r = 0.9、0.7、0.5 での正確さは 0.8366、0.5604、0.3306 で、r² + (1 − r²) × 0.1(0.829、0.541、0.325)に近い値です。両方の項目が正しくなければ答えは偶然になります。メモリなしのステップ型モデルは 0.9997 なので、メモリ付きモデルは r = 0.9 の時点でそれを0.10以上下回ります。妨害項目の検証は結論に至っていません。ランダムな妨害項目4個で訓練したモデルは規則を学べず(0.1163)、8個で何が起きるかは読み取れません。5件中3件の予測が的中し、外れた2件は学習の失敗です。ランダムな置き換えであり本物の検索エンジンではなく、検索のコストは測っていません。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 4: imperfect retrieval (results, JSON; protocol alongside)

VI

パイロット5:3つの事実

足す事実が3つのとき、一度の処理では 0.0989、素の明示的なステップでは 0.1215 です。3つの事実は 0.9999 で思い出せているのにです。途中の和を1つ加えると 0.9998 に上がります。外部メモリのモデルは平均 0.2659(シードごとに0.0985から0.9285)で、学習はとても遅く、この実行では5つのシードのうち1つしか規則を学べませんでした。5件中3件の予測が的中し、外れた2件は2000回の更新内での学習の失敗で、組み合わせに反する証拠ではありません。おもちゃの規則が1つ、モデルの大きさも1つです。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 5: three-fact composition (results, JSON; protocol alongside)

VII

パイロット6:妨害項目とカリキュラム

ここではメモリにランダムな妨害項目も入れます。妨害項目が4個のとき、4000回訓練したモデルは除外したペアで 0.2456(シードごとに0.0955から0.7690)、カリキュラム(妨害項目0個、次に2個、次に4個)で訓練したモデルは 0.3856(0.1275から0.7440)に達します。8個ではカリキュラムのモデルも 0.1052 にとどまり、偶然の水準です。妨害項目のない同じ形式では 0.9999 でした。取り出した事実の対照は複数のセルで失敗しており(例えば妨害項目8個で 0.1440 と 0.1666)、他の結果は読み取れないため、問いは未解決のままです。5件中1件の予測が的中し、外れた4件は学習の失敗です。比較用の基準は訓練が2000回で、他の4000回とは対になっていません。ランダムな妨害項目のみです。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 6: distractors and a curriculum (results, JSON; protocol alongside)

VIII

パイロット7:3つの事実、長い訓練

事実が3つで4000回更新すると、外部メモリのモデルは平均 0.3286(シードごとに0.0955から0.8415、0.90に届くものはなし)で、2000回では0.1046でした。まず2つの事実で1500回ウォームアップしてから3つにすると、平均は 0.6981(0.1230から0.9995、メモリのみより +0.3695)に上がりますが、シード間のばらつきは大きいです。途中の和を使わない素の明示的なステップは 0.1645(0.1030から0.2425)にとどまります。3つの事実はどの条件でも1.0000で思い出せています。5件中2件の予測が的中しました(カリキュラムはメモリのみと同等以上、事実は思い出せる)。外れたものは学習の失敗で、うち1つのセルは運の良いシードによるものです。ウォームアップの長さは1通り、規則もおもちゃのものが1つです。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 7: three facts, longer training (results, JSON; protocol alongside)

IX

パイロット8:頻出は重みに、まれなものはメモリに

エンティティをジップの法則で選ぶ(頻出が少数、まれなものが多数)と、メモリのないモデルは頻出エンティティのペアで 0.9520、まれなもののペアで 0.9260 となり、まれな事実も重みの中で学べています。ハイブリッド(頻出の事実は重み、まれなものはメモリ)は 0.9904 と 0.9926、すべてをメモリに置くモデルは 1.0000 と 0.9999 です。頻度で重みを付けると、ハイブリッドは完全なメモリより 0.0024 低くなります(0.9976対1.0000)。5件中3件の予測が的中し、外れた2件は、まれな事実は重みでは学べない、ハイブリッドは完全なメモリと同等以上、という予測です。ジップ分割は1通りで、頻出の事実は組み合わせたのではなく丸暗記した可能性があります。検索は理想的です。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 8: frequent facts in the weights, rare ones in memory (results, JSON; protocol alongside)

X

パイロット9:規則の例はいくつ必要か

ペアの2%または5%だけで訓練すると、外部メモリのモデルは除外したペアで 1.0000 に達します(20%で 0.9977、全ペアで 1.0000)。メモリなし(明示的なステップ)では2%で 0.9998 ですが、5%では 0.9132(シードごとに0.5960から1.0000)で、全ペアでは 0.9980 です。5件中4件の予測が的中し、外れた1件(ペアが増えて悪くなることはない)は、メモリなしで2%が100%より0.0018高いために外れました。規則が使う数字の組は100通りだけなので、ここでは少数の例で足ります。これはおもちゃ特有のことで、実際のモデルについては何も言えません。検索は理想的です。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 9: how many rule examples (results, JSON; protocol alongside)

XI

パイロット10:より長い、またはより強い更新

1000回の更新後、修正した事実を古い事実のリプレイと合わせて微調整すると、修正したペアで 0.5310、学習率を3倍にすると 0.8212(シードごとに0.6720から0.9665)に達し、手を付けていない事実は 0.9876 のままです。リプレイなしで学習率が小さいと、手を付けていない事実は 0.2092 に落ち、修正したペアも 0.2138 にしか届きません。リプレイ付きで修正行の割合を増やすと 0.4054 で、単純なリプレイ(差 −0.1256)より低くなります。微調整後も、訓練で見ていないエンティティは偶然の水準のまま(0.099から0.103)ですが、外部メモリは更新なしで修正したペアで 0.9998、新しいエンティティで1.0000です。5件中3件の予測が的中し、外れたのは、リプレイなしでも忘却は限られる(0.2092で、期待した0.50を下回る)という予測と、修正の割合を増やせば助けになるという予測です。微調整の方法は4通りで値は各1つ、探索はせず、専用の知識編集器も使っていません。詳細: 結果、手順。

出典: OrigoTech, H2 toy pilot 10: longer or stronger updates (results, JSON; protocol alongside)

XII

読み方:おもちゃの世界が示唆すること

このおもちゃの世界では、記憶した多くの事実を一度に組み合わせるのが難しい部分で、2つの方法がそれを解決します。理想的な外部メモリか、事実を一歩ずつ書き出すことです。メモリがはっきりもたらすのは更新で、メモリなら即座に、重みの中では遅く、古い事実のリプレイがなければ非常に忘れやすくなります(リプレイと大きめの学習率なら、1000回の更新で修正は0.8212に届きます)。検索が悪くなると、その利点は縮みます。事実が3つになると、書き出すだけでは足りず、途中の和が必要です。2つの事実でのウォームアップは平均では効きます(0.6981対0.3286)が、シードごとの差は大きいです。頻出の事実を重みに置くハイブリッドは、すべてをメモリに置く場合と区別できず、このおもちゃでは規則の例が少数で足りました。妨害項目の問いは未解決です。事前登録した予測51件のうち34件が的中し(5/5、5/5、5/6、3/5、3/5、1/5、2/5、3/5、4/5、3/5)、パイロット4〜7で外れたもののほとんどは学習の失敗で反証ではありませんが、パイロット8〜10で外れたものは測定された結果です。

XIII

数値から言えないこと

おもちゃの世界で、規則は1つ(10を法とする加算)、事実はランダムで独立、モデルは小さく、シードは5つです。検索は理想的で、例外はランダムな置き換えやランダムな妨害項目で壊したパイロット4と6だけであり、検索のコストは測っていません。明示的なステップは教師あり推論で、実際の言語モデルでは示していません。256のサイズは報告のみで判定せず、有意性検定は行わず、節約できたデータの割合も推定していません。最初のパイロット以降の予測は、それまでの結果を知ったうえで書いています。パイロット1は、3000回の最初の試行を時間の都合で止めたあと2000回で実行し、判定の前にCPUでの所要時間の確認を行いました(著者はその正確さを見ています)。パイロット6では、比較用の基準の訓練は2000回で、他は4000回です(対になっていません)。パイロット7と8は所要時間も頭部/尾部の分け方も1通りで、パイロット10は微調整の方法が4通りで値は各1つです。パイロット6〜10で的中した13件(25件中)の予測も、それ以前のパイロットの結果を知ったうえで書いています。これらのパイロットは、実際のモデルについてH2を裏付けも否定もしません。64%の確信度は変えていません。

ページの先頭へ