今週のストーリー
NVIDIA × 推論・効率化
遊休GPUと状態保持で推論を効率化
遊休GPUと状態保持で推論を効率化
z = 2.8
2社横断
2本
2026-10-13（±1日窓）
/ja/ai/story/nvidia-2026-10-13
✎ ストーリー本文
NVIDIAとAppleの研究が、推論の無駄を減らす別々の道筋を同日に示した。
何が起きたか
NVIDIAはハイブリッドモデルのデコードを速めるため状態保存を見直すReplaySSMを発表した。Apple機械学習研究は、遊休状態のApple Siliconを束ねる分散仮想GPUクラウド「Minions」を紹介した。
なぜ重要か
一方はモデル内部の状態管理、他方は使われていない計算資源の活用と、推論コストを下げる入口が異なる。同じ日に高い注目を集めたことで、「GPUを増やす」より「既存資源を使い切る」方向の関心が見える。ただし両者は直接関連する研究ではなく、性能は各報告の範囲にとどまる。
次に何を見るか
ReplaySSMの手法が主要な推論基盤に取り込まれるか、Minionsのような遊休資源活用が実サービスとして提供されるかを見たい。
▲ 公式・報道
公式
ReplaySSM: Rethinking State Storage for Faster Hybrid-Model Decoding
NVIDIA Developer Blog ・ 2026-10-12 ・ 📌
NVIDIA、ハイブリッドモデルの状態保存を見直すReplaySSMを解説
公式
Minions: A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices
Apple Machine Learning Research ・ 2026-10-12
Apple Siliconの遊休GPUを束ねる分散型仮想GPUクラウド「Minions」
← ストーリー アーカイブ