• 
• 
• 
• 
• 
• 
• 
• 
• 

Googleのリサーチ責任者、「説明可能なAI」の価値に疑問符

最先端の心理学

　かつて米航空宇宙局（NASA）に在籍し、宇宙船「Deep Space 1」に搭載するソフトウエアを開発した経歴を持つNorvig氏は2017年6月22日、シドニーのニューサウスウェールズ大学で行われたイベントの中で、次のように話した。「人間に尋ねることもできる。だが、認知心理学者が見いだしたのは、人間に尋ねても、実は意思決定のプロセスにはたどり着けないということだ。人はまず意思決定を行い、その後で尋ねられたら、その時に説明を編み出す。その説明は、本当の説明ではないかもしれない」

　人間が自分の行動を理解して事後説明するのと同じような方法をAIに取り入れることも不可能ではないとNorvig氏は言う。

　「結局は人間も機械学習も同じスタンスになるかもしれない。1つのシステムは答えを得るようにトレーニングさせ、別のシステムには、1つ目のシステムの入力を踏まえて、説明を編み出す任務を与えるようなやり方だ」

　この分野は、比較的新しい研究対象ながら、既に進展が見られる。米カリフォルニア大学バークレー校と独マックスプランク情報学研究所の研究者のチームは2016年12月、機械学習ベースの画像認識を人間向けの説明に使用するシステムについての論文を発表した。

　論文によると、このシステムによる説明は、「モデルの隠れた状態にアクセスできる」ことにより決定を理由づけるが、「システムの推論プロセスとは必ずしも合致しない」ものだという。

　また、Norvig氏は次のように話していた。「説明だけでは不十分だ。意思決定のプロセスをモニタリングする別の方法が必要である」

｜Computerworldについて｜Computerworldへのお問い合わせ・ご意見｜著作権・リンクについて｜個人情報の取り扱い｜