題...　コンピュータの類は“想定外”のことに対処できない

◆ 結局は、最終的には人間が判断するしかない。

〜〜< 以下 引用 >〜〜

■ AIはどこまで「判断」できるのか　安心なこと、不安なこと ⇒ http://bit.ly/2zHB2OH ■

　今後、人間のように考えて行動できるAIの開発が進めば、人間はさまざまな労働から解放されたり、より便利な生活を送ったりできると期待されています。その一方で、「AIは人間が行ってきた仕事を代わりに担うから、失業する人が増えるはず」と危惧する声もあがっています。

●普及するのは特化型AI

●見逃せないAIの問題点とは？

●AIと人間の「得意なこと・不得意なこと」

●AIに倫理的な判断をさせようとしたらどうなるか

●最終的に意思決定するのは誰？

〜〜〜〜〜


◆ 昨日、ソフトバンクの通信装置のトラブルで大騒動になりました。

　私もソフトバンクのガラケーを使っています。私の場合は、たまに電話する程度でメールもラインも使っていないので実害はありませんでした。

　驚いたのは、この通信トラブルが、ソフトバンクだけのことでもなく世界中で起きたこと。[#通信ダウン]

　どうやら、エリクソン社（スウェーデン）製通信機器の異常が原因だったらしい。エリクソン社の機器を使っていたところでは、一斉に同じトラブルが起きたとか。

　笑わされるのは、誰も気にもしていないような初歩的ミスが原因だったこと。要は、それを作った人も、まさかそんなことが起きると想定していなかったのです。


◆ 現実には、似たようなことは、しばしば起きています。

　先日は、アメリカで自動運転テスト中の車が人をひき殺してしまいました。詳細な原因は知りませんが、私には大方の原因は予想できます。

　おそらく、そのシステムを作った人が想定もしていなかった状況が起きたのだと思います。実験中の出来事なので、細心の注意はしていたはずなのに殺してしまいました。

　私の派遣先の食品工場では、作った製品は全数検査で、“金属探知機”にかけて製造工程中に異物が混入していないかをチェックします。

　異常があればブザーがなり、担当者がその製品を調べるのですが、ほとんどの場合は異物らしいものはなく、いわゆる“機器の誤作動”が原因でブザーが鳴ります。

　実際は、誤作動というわけでもありません。判断できない想定外の事態に対して警告してとりあえず機械を止めるというのは一理ある方法ではあります。

　でも、そんなのは、けっこう“うっとうしい”もので、スイッチを切りたくなってしまいます。


◆ 人は“全知全能”ではない。ならば、人の考え方を模倣しているＡＩも全知全能ではない。

　人々が考えることには、どんなに注意していても、必ず“想定外”のことが起きるもの。これを肝に銘じておけば、大きな失敗は起きないと思います。[#想定外]

　しかし、何でもかんでもが“自動化”される世の中になると、そうも言っておれないところが、実に、うっとうしい。

　私は、苦肉の策として、過度にコンピュータの類に依存することはしないように心がけています。それが、天の邪鬼な私のコンピュータ時代への対処のやり方です。