推論・効率化
A
127 件中 1〜30 件目を表示
-
Build a Validated Kubernetes Runtime for NVIDIA DynamoNVIDIA、Dynamo向け検証済みKubernetes実行環境の構築手順を公開AIアプリを作るチームには、モデル設定から動作する推論エンドポイントまでを再現できる手順が必要になる。NVIDIAは、分散推論基盤「Dynamo」をKubernetes上で動かすための検証済みランタイムの構築方法を解説した。モデルの設定を決め、それを実際に使える推論サービスへ落とし込む流れを標準化し、運用の手間を減らすことを狙う内容である。
-
Run AI Models for Edge Application Development with Just a Few CommandsNVIDIA、数コマンドでエッジ向けAIモデルを実行する開発手法を紹介NVIDIAの開発者ブログが、エッジ向けアプリ開発でAIモデルを少ないコマンドで動かす方法を紹介。AIがデータセンターを越え、運転者の注意や車内環境の監視など、エッジで動くエージェントの開発が広がっている背景を示す。
-
Flide: Accelerating Decision Inference with Exact State Forking
-
Latent Sparse Attention: Towards Subquadratic Ultra-Long Context Attention
-
A Better Critic Matters for Distribution Matching Distillation
-
DecisionRank: On-Policy Distillation for Decision-Model Rerankers
-
ACCT: Asymmetric Cross-LLM Context Transfer
-
Subquadratic Attention with a Hierarchical Tree-Structured Indexer
-
RAMA: Retrieval-Augmented Multi-Agent Routing with Episodic Memory for LEO Satellite Networks
-
The Knowledge Layer Model (KLM): Evidence-Visible AI Output, Routing Diagnostics, and Negative Results
-
There Is No Free Loop: When Does Looping a Trained Model Pay for Its Inference Compute?
-
Asynchronous Flow Map Language Models
-
When Does Test-Time Search Help World Action Models? An Empirical Audit of Candidate Selection and Simulator Integrity
-
Prune Gradually, Adapt Sparsely: Efficient Pruning of Large Language Models at Extreme Sparsity
-
Completeness and Cost of Retrieval Structures for Multi-Tool Requests in LLM Agents
-
How Much Can Tool Calls Reveal About You? Privacy Leakage from Tool-Call Traces
-
Text as an Index for Zero-Shot Cross-Domain Knowledge Tracing
-
Dynamical Memory Transformer: Selective Recurrent Memories with Constant Cost Attention
-
Trainable Vector Quantization for Large Language Models
-
ElTab: Elastically Looped Tabular Transformers
-
Stepwise-Querying: Distilling Reasoning without Access to Teacher Chain-of-Thought
-
From Training Exposure to Membership Evidence: A Controlled Study of OLMo 2
-
Precision--Recall Trade-off on the Inference Level for LLMs in Grammatical Error Correction
-
When Steering Shifts Discourse: Identifying and Intervening on Discourse-Level Changes due to Activation Steering in LLMs
-
KV-Cache Patching: Tracing How and Where Fine-Tuned Behaviors Arise
-
What We Keep of What We Forget: Replacement Operators and Routing Semantics in Training-Free MoE Expert Pruning
-
Meta Ray-Banで向かいの席から撮影→指の動きからスマホのパスワードを解読する盗み見攻撃Meta Ray-Banで撮影した指の動きからスマホのパスワードを解読する攻撃を実証テルアビブ大学の研究者らが論文「Watch and Crack」で、スマートグラスで撮影した指の動きからパスワードを推測する手法を実証した。向かいの席からMeta Ray-Banで撮影し、スマホのパスワード入力を盗み見る攻撃が成立しうることを示した研究報告だ。
-
Rethinking Neural Thickets Without Weight Perturbations
-
An ODE-based Sampler for Discrete Diffusion Models
-
Difficulty Calibration Across Time for Membership Inference in Diffusion Models