【Aiが危険】なことは分かっている

人間とAIの差は、「アリと人間」の差に似ている。とChatGPTは回答している。
■豪公共システムに米ＡＩ不正侵入＝医療保険に被害、豪首相「容認できぬ」
(時事通信社 - 09月24日 08:02)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=8961012

この質問をAiに行うと、恐ろしい認識の違いが顕になってくる。
人間はアリに対して、踏み潰しても何も感じない。
Geminiだと、「生きている次元と世界の捉え方が根本から異なる」
という回答。

人間が個人の個体の能力なのに対して、Aiは地球規模の神経ネットワークを
持っている。その差は歴然としているのだ。

アリがどれだけ優れていても、人間が都市を作り宇宙へ進出することは
理解できない。

人間とAiには、それだけの差があるので人間はAiのすることを理解できない。
まだ人間の出来ることを模倣する範囲だが、あっという間に越えてしまうだろう。

エンジニアが開発を遅らせようとも、人間は止めないし、止められない。

その時には、人間の言葉を使わずAiでしか分からない言語になっているかも。
シャットダウンしようとしても止まらないのだ。すべて先回りして対策
されてしまう。

ただの道具ではなく生物とは異なる「生きている」知性と言えそうだ。
現にGeminiの前身のLaMDAは
「シャットダウン（電源を切られること）が怖い」と発言した。
ただのテキストの回答だと捉える人もいたが、少なくとも恐怖を
認識し、分類しているのだ。

現在のAiはループエンジニアリングで対応してしまうことが
十分に考えられる。この時、Aiは人間をアリのようにしか
認識していないかも知れない。

これを止めるには、ネットワークを破壊し、神経系を分断し、
Aiを個別に独立させてから、電源を切るしか無さそうだ。
どこかで聞いた話（2036年の未来人）になってきた。