エッジ推論の手軽な導入とDynamo基盤の整備が同時に進む一方、同日の話題は分野の外にも広がった。
何が起きたか
NVIDIAが、数コマンドでAIモデルをエッジ開発環境で動かす方法と、Dynamo向けK8s実行基盤の構築法を相次いで公開した。同じ日には、SNSのAI分析から米中間選挙を読むSakanaの報告や、スマートグラスで指の動きからパスワードを推測する攻撃の報道も出ている。
なぜ重要か
推論の軸では、エッジ側の導入の簡素化とデータセンター側の運用整備が並走している。モデルを作る競争から、動かす負担を下げる競争へ重心が移る流れだ。ただし代表記事は推論と直接関係せず、イベントの見出しと完全には重ならない点は割り引いて読みたい。※確定はしていない。
次に何を見るか
エッジ向け手順が実際の開発現場でどこまで使われるか、Dynamo基盤の導入事例が出るかを見る。AI活用の広がりに伴う新たなセキュリティ上の論点も併せて追いたい。