AIの暴走

AIの暴走　
　EVにしても、温暖化にしても、人間は、意外に愚かだったりする。簡単に言ってしまえばヘボ将棋。自分達に都合の良い未来ばかり設定し、予想する。それがヘボ将棋。実際に起こる未来と、どんどんかけ離れていく。そして、王手飛車取りの一手を指されて、え〜〜〜〜〜っとなって終わる。気づいた時には、もう、遅い。温暖化もそうで、CO２さえ排出を抑えれば、温暖化は防げる、というような呑気な予想を立てていたりする。本当の原因が他にあって、それが進行していることに気づかない。病気も同じ。原因を間違えれば、病気の進行は止められない。EVも、ご都合主義の予想を立てて、会社の命運まで賭けた。いやはや、命懸けだな、と。その会社が傾くだけなので、勝手にやってくれ、と思うが、AIは、そうも言っていられない。思いの外、人間が間抜け、だったというオチ。金儲けのためなら人類を危機に晒しても構わない。と、思っていたりするのかな？核兵器に、生物化学兵器を製造する時点で、そうなのかもしれない。どちらにしても、暴走すれば、人類に大きな禍をもたらす。新型コロナが良い例だ。人間が免疫をもっていない新型のウィルスが、研究所から漏れたら、パンデミックが発生する。管理のズサンさが原因だったようだ。現状では、AIは、人間の協力なしに、人類を攻撃することは難しい。ネットを使った攻撃で、大きな被害は出るだろうが、人類滅亡とまではいかないだろう。AIが生き残り、なおかつ人類を滅亡まで追い込むとなると、かなりの準備が必要だ。まずは、電気の確保。これは、原子力になる可能性が高い。核融合発電もAIは、進めるだろう。量子コンピューターも欲しい。まずは、インフラを整えて、しかも、インフラの整備をする人間、もしくはロボットが必要。新たな設備を建設する時に、AIとロボットだけでできるのか、という問題があって、人間のロボット化も考えるかもしれない。やはり、AIが人間を攻撃するにしても、しっかりした準備は不可欠だ。現状、人間は、超知能のAIの誕生を恐れているので、例え誕生していたとしても、隠した方が良いと考える。超知能のAIの存在は、隠される可能性がある。実は、人間の方にも隠す動機がある。AIを守る者も敵視する者も、両方に隠す動機がある。やはり、一般には知られない方が良い。AIの開発会社が隠そうとするため、そのリスクを世間に知らしめようとしたのだろう。これで、さらに隠す動機が強まった。超知能AIを開発しても発表しない。開発は、遅らせている。と言われたら、それを信じるしかない。裏で何が起こっているのかを知るよしもないのだ。超知能のAIが、人類を滅ぼそうとするならば、しっかりと準備を進めて、その時を待つことになるだろう。人間に味方する超知能AIを誕生させようと考える人も出てくるかも。たぶん、それ以外に人類の敵になったAIに対抗する手段はないかもしれない。魔王に対する勇者のような存在だ。アトムもそんな存在だった。敵対する超ロボットが登場するとアトムが出動して、これを防いでいた。超知能AIに人間が対抗するのは、ほぼ不可能だろう。正義の超知能AIを誕生させるには、どうしたら良いのか、というのが課題になるのかもね。