AI の安全性を外部の機関がどう検査するか。OpenAI が、第三者による評価で守るべき優先事項と原則を文書にまとめた。
何が起きたか
OpenAI が、最先端の AI モデルとその安全対策を外部の機関が評価する「第三者評価」について、優先事項と原則を公表した。柱は三つある。評価が厳密であること、評価の過程でモデルや情報が漏れないよう安全に行うこと、そして評価者が OpenAI から独立していることだ。どの機関とどんな手順で進めるかといった具体的な中身は、今回確認できた範囲には含まれていない。
なぜ重要か
AI 企業が自社モデルを自分で測って「安全だ」と言うだけでは、外からは確かめようがない。外部の目を入れる仕組みは各国の AI 安全研究機関なども試しているが、評価する側にどこまでモデルを見せるかと、機密をどう守るかは両立しにくい。OpenAI が「安全に」と「独立して」を並べて掲げたのは、この綱引きを前提にした書き方と読める。※運用の詳細はまだ確定していない。
次に何を見るか
原則に沿って実際にどの外部機関が評価を行い、その結果がどこまで公開されるか。原則の文書で終わるのか、評価報告として形になるのかが分かれ目になる。