安全性・評価
A
66 件中 1〜30 件目を表示
-
Guarding the Gates of KnowledgeIEEE Spectrum編集者、AI偽造論文と学術出版の門番の苦闘を論じるAIの回答は今も信頼できず「信頼するが検証せよ」が要る、と筆者は述べる。この原則を大規模に適用した場合の課題が、査読付き論文の記録の健全性を守る出版社に突きつけられている。特集記事は、AIで偽の科学論文を作る試みと、それを防ごうとする人間の門番たちを描く。
-
GhostPrefix: Synchronization-Free Universal Prefix Attacks for ASR Manipulation
-
Aligning MLLMs with the Latent Structure of Human Cognition via Behavior-Derived Semantic Dimensions
-
ReX-GG: a LLM Ensemble Pipeline for Relation-extraction and Graph Generation
-
RECAST: REconstruction of Chain-of-Thought via Auditable Structured Traces
-
Backpropagation-free Deep Learning for Time-Series Classification
-
What Standard Evaluations Hide About Detectors of Hijacked LLM Agents: Rare Attacks, Unseen Tools and Benchmark Transfer
-
Whose Values, Which Contexts, and What Signals? Grounding Cultural Value Alignment with Re3Culture
-
Clinical-Protocol-Aware Cyber Resilience for Connected Clinical Technologies Under AI-Enabled Adversarial Conditions
-
Community safety report and new protections for teensOpenAI、ChatGPTの暴力防止を強化しティーン向け保護も追加OpenAIは、ChatGPTにおける暴力防止の取り組みとして、安全策の拡充と早期の介入を進めると発表した。あわせて、公共の安全に関する報告を公開していく方針も示した。記事タイトルでは、10代向けの新たな保護策も打ち出している。
-
ShallowDefend: Harnessing Shallow Safety Alignment for Multi-Turn Defender
-
How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates
-
A Low-Rank Space Captures Linear Alignment Between LLM and Human Neural Activity During Naturalistic Language Listening
-
Training language models in simulation for psychiatric intake
-
An updated Model Spec for more capable and beneficial AIOpenAI、Model Specを更新し5つの中核価値を提示OpenAIはAIの行動指針であるModel Specの更新版を公開した。より高性能なAIが健全な判断、人間の主体性、人間の意図への忠実さを保てるよう、5つの中核的な価値を示している。
-
SCARL: Sequence Confidence-Aligned Reinforcement Learning
-
The Athlete as a Scientist of One: Agentic Bayesian Experimental Design for Individualized Physiology from Consumer Wearables
-
Latent Prediction Yields Cross-Subject Alignable Representations in Sensory-Evoked fMRI
-
Learned Terminal Costs for Short-Horizon Model Predictive Control of Autonomous Trucks in Interactive Highway Traffic
-
Simplifying safety to drive savingsFastenal、統合でデータセンター調達費を標準化し節約Fastenalが調達の統合によってデータセンター関連支出を標準化し、安全関連のコスト削減につなげた事例を紹介する記事。
-
An Interview with Palantir CTO Shyam Sankar About the AI Religious WarStratechery、PalantirのCTOにAI論争の本質を聞くStratecheryがPalantirのCTO、シャム・サンカー氏にインタビューした。AIの普及と安全性、フォワードデプロイド・エンジニアの役割、そしてテック業界の対立が実際には何をめぐるものなのかが語られている。
-
How we detect frontier model misalignmentOpenAI、フロンティアモデルの不整合を多層監視で検知OpenAIは、フロンティアモデルのミスアラインメントやエージェントの無許可の挙動を、多層的な監視で検出する取り組みを紹介した。インシデントが拡大する前に対応担当者が介入できるようにすることが狙い。
-
Safe Multi-Objective Reinforcement Learning: Zero Constraint Violation and Primal-Averaging Convergence
-
More Is Better? Exploring Latent Correspondence in Federated Hypergraph Learning
-
IMRouter: Imbalance-aware Temporal Pattern Routing for LLM-based Time Series Forecasting
-
HEARSAYBENCH: Can AI Navigate from Abstract Human Rights to Lived Lives?
-
BASILISC: Bayesian Alignment of Siamese-Integrated Latents for Inferring Single-cell Correspondence
-
How Architecture, Typology, and Adaptation Strategies Shape ASR for Low-Resource African Languages: A Controlled Empirical Study
-
Google、「Gemini 4 Carbon」発表 「Argon」公開から2週間、サイバー防御能力などを強化Google、Gemini 4 Carbon発表。サイバー防御と長時間の自律作業を強化Googleがフロンティアモデル「Gemini 4 Carbon」を発表した。サイバーセキュリティと長時間に及ぶ自律作業の能力を強化し、ベンチマーク首位を獲得。ハルシネーションや不正操作への耐性も高めた。まず一部のサイバー防御組織に限定提供し、順次公開範囲を広げる方針。
-
Discovering Jailbreaks via Curriculum of Models