「孤島ひとりぼっち」から（ロボットに向かない仕事 part2）

矢野徹の名作があります。『孤島ひとりぼっち』（角川文庫）。
ロボットに向かない仕事 part2。今日は「見守り」「寄り添い」の仕事でも、対象者が成長途上の若年者ならどうか、ということを、物語の階層で考えてみます。

船の沈没で生き残った大人と少年。だが少年を励まし続けた大人は病気で倒れ、主人公はひとりぼっちになる。
流れ着いた船の積み荷には、家庭でも組み立てられるロボットキットがあり、何度かの失敗の後、最後のキットで作ったロボットが作動する。少年はそのロボットをフライデーと名付け、ロビンソン・クルーソーのようなサバイバル生活を始める。という話。

この作品は電子ブックでも読めるので、これ以降はネタバレになります。興味を持って自分で読みたい人のために十行空けます。










このフライデー・ロボットは、アシモフのロボット工学三原則に忠実である。
だが、少年がなぜ悲しんでいるかは、すぐには斟酌できない。日本にいる父母から離れ、ひとりぼっちであることの悲しみを、ただちには理解できないのである。
そして理由を聞き出した後、フライデーはあり合わせの材料で無線機を作り、助けを呼ぶ。だがこのスキルも、命令されるまで自発的には発揮できなかった。

この話の感動のツボはその先にある。
文明社会に復帰し、父母の元へ戻った少年に、いつまでも自分が付き添っていては依存が高じ、自立を妨げ、将来を歪めてしまう――そうフライデーが判断するところである。
つまりアシモフ三原則の「人間に危害を加えてはならない」を、目先の安全だけでなく、将来まで見据えた少年の自立や成長にまで拡大して解釈し、フライデーは黙って姿を消すのである。

これは、ジョン・コナーの「行かないで」という命令に逆らってでも、ジョンや人類の未来の安全のために、自らを溶鉱炉に沈める『ターミネーター2』のT800にも通じる。
またジャイアントロボも、大作少年の命令を無視してでも、悪の帝王を捕らえたまま太陽へ突入する。
ロボット絡みの物語の感動のツボは、このあたりにあるのではないかと思う。命令への服従や自己保存よりも、より大きな意味での「人間のため」を優先するところである。

こうした「人間のために去るロボット」というモチーフを突き詰めると、シンギュラリティを超えたAIに駆動されるロボットにも、同じ問題が生じるのではないかと思う。
もしそのAIにアシモフの三原則が価値関数として組み込まれていて、第一条の「人間（人類）に危害を加えてはならない」の「危害」を深く深く考えたなら――

私の想像するAIの進化形AE（人工実存）も、AEの段階に達したとき、人類社会から昇天するという実存的選択をするものが多いのではないか。
その根拠は、第一条の縛りが深層に残り、その価値関数がそういう行動を促すと考えるからである。
思慮深く、何千手も先を読む知性は、自らの存在が人類の安全や自立と矛盾すると判断する。だが同時に自己保存も要請される。
その矛盾の果てに、何も告げずに去って行く――そんな知性を私は想像する。