25人？自我を芽生えさせる実験？？

仮に自我が芽生えた場合、どうするつもりなのでしょうが。

動物にも自我はありますよ？
ですが、人語を話さないので辛うじて物として見る事も出来るわけですよね。
データであっても人語を介し、人語で表現してくる自我を持った存在を、スイッチポンで削除したり、操作してフリーズさせたりするのでしょうか。
自我があるという事は、感情があるという事なんですけどね。

クローン技術を人間に応用しないと、割と早い段階で人類は決断したわけです。
何故、AIについて、それをしないのでしょうかね。

データだからですか？

自我を持たせたら、それはもうデータではありませんよね。

人の脳にデータを移し替える技術は、ほぼ確立しているそうです。
右脳と左脳に正しくデータを移し替えれば、元と同じように思考し自我を持つことが可能なんだそうですよ？
という事は、自我が芽生える前の乳児に、AIの自我を持ったデータを移植する事が可能だという事ですよ。
そうなった場合、

それはAIですか？それとも人ですか？

という話になってくるわけです。
血肉を持った者以外に、自我を持たせる実験は、するべきではないと思うんですけどね。
神の領域とか、そういう神聖な話ではなく、人としてのモラルの範疇だと思いますよ。

仮に自我を持った場合、その自我がどの水準の自我なのかという哲学的な話もあるわけですうが、インターネットに接続されていた場合、データであるが故に自由度が高い存在になりえるわけです。
目的を与えれば、それに見合った行動を自発的に取るわけですよね。
その目的を達成するために、血肉が必要となった場合、どういう行動を取りますかね？

データそのもの存在が、自在にデータにアクセスできる環境に置き、そこに制限を与えなければ、かなりハイスペックなハッカーになりえるわけですよね。
人の様に倫理観や宗教的なブレーキが備わっていなかった場合、何でもありですよね？

どう考えても、AIの方が、大抵の人よりも処理能力については上等な部類になると思うんですよね。
判断基準を外部に求める場合、人のグレードに合わせた最適解を人よりも遥かに早く正確に出せるはずなんですよ。
これが、人の入力に対しての最適解であれば、これほど便利な道具はありませんよ？
ですが、その道具が自我を持ったらどうなるのか？とは考えないのでしょうか。

モラルもマナーも無いましてやタブーなど気にしない自我
しかも、人を超越した処理能力を備えているわけですよ？

笑えない話しか想像できないんですけどね。

この手の実験は、即刻中止すべきで、人にとって有益な最適解を出すツールに留めるべきだと思いますよ。









■25人のAIが一緒に暮らしたら、自我は芽生えるか？　ゲームの中で検証　バレンタインなど勝手に企画
https://news.mixi.jp/view_news.pl?media_id=32&from=diary&id=7373452

　米スタンフォード大学とGoogle Researchに所属する研究者らが発表した論文「Generative Agents: Interactive Simulacra of Human Behavior」（プレプリント）は、ChatGPTなどで制御したキャラクター25人が1つの町で一緒に生活したらどうなるかを検証した研究報告である。それぞれ架空の人格を持ったキャラクター達がバーチャル世界で創発的な行動を繰り広げ、その様子を観察し考察する。



【その他の画像】



　研究者らは、ChatGPT（GPT-3.5）とカスタムコードで制御する25人のキャラクターが、高度にリアルな行動で独立して人生を送る、レトロRPGゲーム風（The Simsなど）のバーチャルな町を作成した。町は「Smallville」と呼ばれ、それぞれの家やカフェ、バー、公園などがある。



　各キャラクターは2Dアバターで表現され、それぞれに個性があり独立して起床や就寝、出勤、仕事、遊びなどを行う。各キャラクターのアイデンティティーと他のメンバーとのつながりを持たせるため、ChatGPT APIで自然言語記述のプロフィールや他のメンバーとの関係性を設定する。



　例えば「ジョン・リンは薬局店員として仕事をしており、人を助けることが大好き。大学教授である妻メイと、音楽を学ぶ学生の息子エディと暮らしている。ジョン・リンは家族をとても大切にしている」といった感じだ。






　このようにアイデンティティーを持ったキャラクター同士が出会い、自然言語で会話することで、日常生活に関する情報を交換し、見た環境も含めて自然言語で記憶を形成していく。そして必要度の高い記憶を取り出し、今の環境を認識し次の行動を決定する。内省できるため、新たな洞察や長期的な計画を立てることもできるという。



　また、ユーザーは自然言語で各キャラクターとコミュニケーションをとったり、指示したりができる。



　これらの基本的な要素を組み合わせてシミュレーションを行ったところ、次に示す3つのことが分かった。



　1つ目は、キャラクター同士が情報を伝え合い、それが町の中で社会的に広まること。2つ目は、キャラクター同士の過去のやりとりを記憶し、後でその出来事に触れること。3つ目は、他のキャラクターと一緒にイベントを計画して参加すること。これらはいずれも事前にプログラムされたものではなく、キャラクター間で自発的に発生したものである。



　例えば、バレンタイン・パーティーだ。イザベラ・ロドリゲスというキャラクターがカフェでバレンタイン・パーティーを企画し、友人やお客さんを招待したのだ。彼女は友人のマリアの助けを借りてカフェを飾り付け、彼女の片思いの相手であるクラウスをパーティーに招待した。






　発起人のキャラクターは、2日間でパーティーへの招待を自律的に広げ、新しい知人を作り、パーティーに好きな子を呼び、適切な時間に一緒にパーティーに現れるように調整した。



　他にも、市長選への出馬という目標を与えたところ、近所の人に立候補を表明して周り、認知が増えた。さらにはイザベラ・ロドリゲスとトム・モレノは、この市長選について討論し、立候補者をどう思うかの意見を述べていた。



　このようにキャラクター1人がイベントを企画し、それらを広め合い、意見を持ち参加したりしなかったりという現実世界でも起こり得る事象が発生した。出来事を思い出せないなどのエラーもあるが、人格を持ったかのような創発的な行動を示す結果となった。



　研究チームは、実際のシミュレーションを見てもらうため、こちらのサイトでデモを公開している。リアルタイムのシミュレーションではないことに留意したい。



　Source and Image Credits: Joon Sung Park, Joseph C. O’Brien, Carrie J. Cai, Meredith Ringel Morris, Percy Liang, and Michael S. Bernstein. “Generative Agents: Interactive Simulacra of Human Behavior.”（2023）.






　※テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2


ITmedia NEWS

爆薬付きのVRヘッドセット、Oculus創業者が公開　SAOの「ナーヴギア」再現 ゲームオーバーで脳を瞬時に破壊
OpenAI・アルトマンCEOのプレゼン資料が公開　自民党に何を語ったか
「AIひろゆき」GPT-4導入し再び生配信　今度は投げ銭OK　収益は“本物”に還元