生成 AI の事実誤りを知識不足でなく想起の失敗と捉え直す研究が、評価・解釈系の論文と並ぶ週。
Google Research が、モデルの事実性の限界は知識を持たないこと(空の棚)ではなく取り出せないこと(鍵の紛失)にあると分析した。横断5本のうち4本は arxiv で、解釈可能性から制御への6年の総括、生成文検出、QA 信頼性評価などが並んだ。
学習データを増やす方向でなく、内部にある知識へのアクセス精度を上げる方向へ論点が寄る。研究主導の段階であり、実装や製品への反映は※確定はしていない。
想起改善を狙った手法が推論時の工夫として実装されるか。事実性ベンチマークの設計がこの区別を取り込むかも見どころ。