NVIDIA が開発者向けの更新を相次いで出した。ロボット、データセンター、機密推論と対象はばらばらだが、うち二つは「データの運び方」の話だ。
何が起きたか
一つ目はロボット向けだ。ロボット用ソフトの標準的な枠組み ROS 2 で、GPU 上のデータを CPU のメモリに写さずに部品間で受け渡せるようにした。既存のプログラムを直す作業は、AI のコーディングエージェントに任せる手順も示した。二つ目は、多数の GPU をつないだ計算機群で、ネットワークのつながり方を考えて仕事を配置する「Topograph」。三つ目は、機密データを扱う AI 推論を性能を落とさず秘匿する Confidential Computing の解説だ。
なぜ重要か
GPU の計算そのものが速くても、データの写しや遠回りの通信で待たされれば性能は出ない。ROS の件と Topograph は、どちらもこの「運ぶ」部分の無駄を削る話で、NVIDIA が GPU 単体だけでなく、その周りの使い方まで手当てしていることがうかがえる。機密推論は別の悩み、つまり規制の厳しい業界が外に出せないデータを扱う需要に応えるものだ。※後の二つは解説の冒頭しか確認できておらず、効果の数字は未確認。
次に何を見るか
ROS 2 の新しい受け渡し方式が、NVIDIA 以外のロボット開発者のプログラムにも広がるか。Topograph で配置を変えたときの効率の改善が、具体的な数字で示されるかどうか。