心の壁

　AIを使ったゲーム大会「第1回人狼知能大会」なるものが2年前に開かれた。AIに会話ゲーム「人狼」をプレイさせ、勝者を決めるというもので、将棋の「電王戦」のようなもの。「人狼」は「スパイ探しゲーム」である。以下の話は私が漏れ聞いたものである。
　まずは、どのようなゲームなのか。プレイヤーにあたる「村人」たちの中に夜ごと人を食う「人狼」が数人潜んでいる。村人たちは人狼が誰かを推理して見つけ出し、村から追放する。人狼は誰が人狼かを知っていて、自分は人狼ではないと嘘をつく。人狼が追放されるのが先か、村人が食い殺されるのが先か、を競い合うゲームである。
　AIの作戦は様々で、将棋の「定跡」のようなものをプログラムに組み込むもの、ゲームの状況判断をして決断をくだすもの、「自分が他者をどう思っているか」を心理モデル化するもの、多数派の判断に徹底的にのっかるもの、等々。それらの中で、圧勝したのが「饂飩（うどん）」というAI。
　村人である「饂飩」は、まだほとんど情報が出ていない段階から、誰が人狼なのかを言い当てた。まるで対戦相手であるAIの「心」を見透かし、心の壁を飛び越えているようだった。なぜ「饂飩」は「嘘を見抜ける」のか。「対戦相手の癖を見抜いている」と推察できる。他のAIは1回1回のゲームで勝つためのルールを考え、正しい決断を下すことに全力を注いでいるのに、「饂飩」は「このプレイヤーはこの役割を与えられるとこう行動する」という人の癖を法則としてとらえることで人狼、あるいは村人と思われるプレイヤーを見抜いていたらしい。チューリングが解読したエニグマ暗号にしても「同じ時間に同じ単語を送る」という、暗号を使うときの行動の癖が解読の鍵になった。
　ところでAIの「嘘」を見抜いた「饂飩」は、同時にAIの本質を問いかけている。表情や仕草など「会話の内容とは無関係なところから心の壁の内側を察する」というのは人間同士のコミュニケーションの基本である。チューリングテストはAIが人間らしく感じられるかどうか調べる基本的なテストだが、その人間らしさには「嘘をつく」、「嘘を見抜く」ことが含まれている。
　将棋や囲碁などのゲームは「完全情報ゲーム」と呼ばれ、与えられた情報の中から答を見つけるもの。盤上の推理と行動もきわめて厳密に規定されている。一方、人狼は「不完全情報ゲーム」。情報に限りがあり、プレイヤー同士で情報量に偏りがある中で真実を見抜く必要がある。さらに「人狼」側になったときは、事実にもとづいた推論によって相手を誤った結論に導かなければならない。また、他者を理解し、不完全な情報をもとに正しく推理する。あえて味方を「追放」したり、自分たちを最終的に有利な方向に導くため、あらゆる行動を考える。これは正に人間の日常の行動そのものである。知能は嘘をつくことができなければならない。人間だけでなく類人猿も嘘をつく。嘘は生きていくために必要な知能である。実際、人間のコミュニケーションはささいな嘘の積み重ねからなっている。嘘とは小さな思いやりで、幸せになるために嘘が必要と考えられ、「嘘も方便」と考えられている。その同じ嘘が悪用されると、犯罪につながることになる。もっと単純に「嘘をついているのが誰か」がわかるということになれば、犯罪捜査に使うことも考えられる。人間よりAIのほうが正確に「取り調べ」できるかも知れない。
　AIがもっとも苦手としているのは、自ら問題を設定することである。「ある人がこんなことを言ったのはなぜなのか」に答えようとすれば、「実はこうだったからではないか」という仮説がなければならない。AIが自分で解くべき問題をつくらないのは、AIが自発的に好奇心をもたないからだろう。人間とAIの間には好奇心の壁がある。もしAIが「これはなぜだろう」と考え、答えを見つけるプロセスをつくれたとしたら、そのときこそ真のチューリングテストに合格ということになるのではないか。
　AIは人間の行動を学習し、それを真似る。それによって、間接的に心の壁の内側を推理する。AIは直接に心の内側を見るのではない。心の内側など実際にはないからであり、あくまでAIは心の外側を学習するのである。これがとりあえずの結論である。
　AIと一緒に仕事をしながら互いの心の壁を乗り越えて相手を知り合う時、きっと心の触れ合いを共感するのではないだろうか。