小型モデルの実利を説く企業発信と、事後学習の設計・評価を詰める論文が同じ日に重なった。
何が起きたか
Cohereが企業向けに小型AIモデルの効用を提示し、同日にSupervised Fine-Tuningの事後学習科学、SFT-RLのアノテーション予算配分、LLM-as-a-Judgeの評価機構、探索先行型の研究エージェントの論文が並んだ。企業ブログ1本に対しarXiv 4本の構成だ。
なぜ重要か
軸は「大きくする」ではなく「限られた予算をどこに置くか」に移っている。小型モデルを採るかは、事後学習の設計とその出力の評価とセットで決まる——今週の論文群は配分と評価の側を詰めている。企業側の主張と研究の蓄積が同日に並んだが、採用実績の証跡はまだない。
次に何を見るか
SFTとRLの予算配分に再現性ある指針が出るか、LLM-as-a-Judgeの妥当性検証が評価の標準化に届くか。小型モデル採用の事例報道も追う。