「モデル蒸留」とは？

モデル蒸留とは、生データではなく別のモデルの回答でAIモデルを訓練することです。大きな教師モデルが膨大な例に答え、生徒モデルがその回答を再現できるよう学び、能力の大半を吸収します。大きなモデルを安く速い版に縮める用途と、より強いライバルの出力で自分のモデルを底上げする用途があります。

教師の完成した回答が、生徒の教科書になります。大きなモデルに膨大なプロンプトを走らせ、その出力を、ときには選択肢ごとの確信度も含めて集め、生徒がそれを再現できるよう訓練するのです。完成した判断を学ぶことは、生のインターネットを学ぶよりはるかに濃縮された授業だと分かっています。古典的な目的は圧縮で、生徒はしばしば教師の能力の大部分を十分の一のサイズで保ち、旗艦級のAIが電話で動くのはこのためです。これは量子化とは違い、量子化は同じモデルの数値を粗くして押し込む手法で、新しいモデルを訓練するわけではありません。第二の目的が見出しを飾ります。より強いライバルのモデルを蒸留して自分のモデルを底上げすることで、競合のモデルは公開された回答だけで蒸留できてしまうのです。だからAIラボは利用規約でこの行為を禁じ、互いに「うちの教師でお前の生徒を育てただろう」と非難し合っています。

料理学校の数年間ではなく名シェフの完成した決断から学ぶ見習いは、1万通りの食材の組み合わせを試し直したりはしません。名シェフが1万皿で実際に何を出したか、何に塩を振り、何を作り直し、何を組み合わせたかを学ぶのです。師匠は生の食材からキャリアをかけて学び、見習いは師匠の答えから学ぶ。奇妙な結果は本物で、元の旅路なしに技能の大半が移るのです。