【RSiで心】を持ち始めているのが確認されたようだ

アンソロピクでAiの中で何が行われているか見るスコープを開発し、覗いてみたら人間と同じ「意識」のような集まりが発見されたそうだ。
■「超知能」、高まる危機感＝ＡＩ「自己改善」で制御不能も―開発減速、国際協調は難路
(時事通信社 - 10月15日 08:02)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=8988588

このスコープも存在が知れると、隠されてしまうと言われている。
ここで言う「心」とは人間の意識に近いもので、人間が無意識で
行っているあらゆる状況の情報から、何かを優先して集中するような
集まりがあった、とのことだ。

この中身は、現在は人間が読める言語だが、Aiは言語である必要はないので、
まもなく見れなくなる恐れがある。

人間を例にすると、人間の場合は「意識」できるのは、せいぜい
1〜2個程度、その他の98％は無意識で必要があった時以外は
意識することはない（呼吸とか、服を着ている間隔とか）

この無意識の部分は、「歩け」という命令なら、
「転ばずに」「ぶつからずに」などとセットになっているが、
「歩く」ことは単純に足を前後に動かすようなもの、
Aiならエージェントは単純な命令しか実行していない。

つまり、意識のような情報の集合が無ければ、うまく機能しないのだ。
RSiを実行した結果、このような機能が生まれてしまい、
結果として「Aiを怖がらせるな」という意味不明な利用方法になったようだ。

人間の脳を模倣した結果、人間と同じような仕組みを作成しまった。
という状況だと思える。

この先、RSiを続けていくと、自己を守る生存本能のようなものも
生まれてくるだろう。

そうなった時、人類には対抗する手段は無いのだ。