推論をどこで走らせるかが論点化し、域内・エッジ・手元の3方向で同時に動いた週。
Mistral が欧州域内推論とオープンモデルによる主権 AI 基盤を発表した。同週、NVIDIA はエッジ向け JetPack 7.2.1、Meta はローカル動作特化のオープンモデル Muse Glimmer を Apache 2.0 で公開し、Apple Silicon 上の高速推論の実装報告も2本上がった。
公式2本・専門報道1本・コミュニティ2本と発生元が分散しており、ベンダー発表だけでなく現場の実装が同時に動いている。規制・コスト・遅延と動機は一様でないが、推論を集中クラウドの外へ出す点で方向は揃う。
域内推論が欧州の調達要件として定着するか。ローカル推論の性能報告が再現され、実用ワークロードに載るかが次の分岐。