#次トークン予測
記事
分析
LeCunとBalestriero、JEPAがテキストと画像を42分の1のサンプル数で整列させたと報告
Balestriero氏とLeCun氏のarXivプレプリント(v1)は、JEPAのテキストエンコーダが画像との整列で次トークン予測に並ぶのに必要なサンプルが42分の1だと報告する。著者らの結果。
分析
Balestriero氏とLeCun氏のarXivプレプリント(v1)は、JEPAのテキストエンコーダが画像との整列で次トークン予測に並ぶのに必要なサンプルが42分の1だと報告する。著者らの結果。