NVIDIA が提供側でマルチモーダル推論の分割配置を整理した同じ週、研究側では見て読んで動く VLA 系の論文が相次いだ。
何が起きたか
NVIDIA の技術ブログが、マルチモーダルモデルを提供する際に Encode (符号化)・Prefill (先読み)・Decode (生成) の各段階を別々の資源に分けて置く「EPD 分割」の使いどころを解説した。狙いは待ち時間の短縮とスループットの改善にある。同じ週の arXiv には、乱雑な環境でヒューマノイドの全身を動かす TANGO をはじめ、視覚と言語に加えて行動 (Action) まで一つのモデルに担わせる VLA 系の投稿が続いた。
なぜ重要か
EPD 分割は、既にあるモデルをいかに速く安く配るかという実装側の設計であり、VLA 系の研究はモデルに何をさせるかを押し広げる側にある。二つは別の役割を持ち、互いに置き換えるものではない。片方だけを見ていると、実用化がどれだけ近いのかの見積もりを外す。提供の効率が上がることと、できることが増えることは、別々の速度で進む。※arXiv 段階の論文は査読前で、性能の主張はいずれも独立した検証待ちだ。
次に何を見るか
EPD 分割を実サービスで採用し、効果を数字で公表する事例が出るか。研究側は、VLA の成果が実機のロボットや出荷済みの製品に組み込まれるまでの時間が目安になる。