Google Research が Pixel 端末上の Gemini Nano を Frozen Multi-Token Prediction(MTP)で高速化。エッジ推論の中核テクとして、追加学習なしに複数トークンを同時予測する「凍結」型 MTP を採用した点が要点。話題はほぼ公式の技術報告で、コミュニティ側は GPT2 の BASIC 移植など懐古的な小ネタが同居する程度。派手さはないが、「オンデバイス LLM をどう安く速く回すか」という長期テーマの解像度が上がった。次は Pixel 以外のハードへの移植と、実際の消費電力削減率の公開が焦点。
Gemini × インフラ・ハードウェア
Google、Pixel上Gemini NanoをMTPで高速化
Google、Pixel上Gemini NanoをMTPで高速化
✎ ストーリー本文
▲ 公式・報道
公式
Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
Google、凍結MTPでPixel上のGemini Nanoを高速化
コミュニティ
GPT2-BASIC: Portable Machine Intelligence in BASIC
GPT2-BASIC、BASIC 言語による可搬な GPT-2 実装が公開