人間並みに何でもこなす知能をいつ作れるか。作っている当人が、その是非を論じる場を社外に開き、載る意見は自社の見解ではないと最初に断った。
何が起きたか
Google DeepMindは現地時間の9月16日、人間並みに何でもこなす知能——同社が「AGI」と呼ぶもの——が社会に与える影響を分野横断で論じる場「DeepMind Institute」を開いた。社内外の研究者がエッセイを出して議論する形をとる。執筆者の見解は必ずしも一致しておらず、掲載内容はGoogleの公式見解ではないと明記している。いまは5本が公開されており、AIが答えに至る途中の筋道を人が追える状態に保つべきだと論じる一本が含まれる。
なぜ重要か
設立を告知するエッセイで同社は、AIはいまも基本的な作業で失敗し、一貫性と創造性が足りないとしつつ、その差は間もなく埋まるとの見方を示した。同じ文章で、能力の高まったAIがサイバーセキュリティや生物学的なリスクに与える影響はすでに表れており、これから自分を改良していくシステムでは制御を失う可能性もあると書いている。開発を進める当事者が、危うさを自分の言葉で並べたうえで、議論の場のほうは自社の公式見解から切り離す。技術者だけが答えを出すべきでもない、という一文がその切り離しの理由にあたる。
次に何を見るか
社の方針と食い違うエッセイが実際に載るかどうかが、この場の性格を決める。載らなければ、外に開いた議論という建て付けは看板だけになる。