【普通に使っても】恐ろしいと感じることもある

半年ぶりに本格的な質問をしてみたら、想像以上の回答が返ってきた。Aiでは不可能と思っていた潜在意識の再現を実験している。
■「人類の滅亡を招く」オープンAIが開発ペース減速を検討か　開発中AIによるサイバー攻撃や競合企業研究者の警告受け
(TBS NEWS DIG - 09月12日 12:36)
https://news.mixi.jp/view_news.pl?media_id=266&from=diary&id=8945935

10年前にシンギュラリティの到来に向けて、人類が対抗できる能力として、
人間の直感のようなものを実験したレポートを作った。

それをAiに読み込ませると、人間とAiの違いを認識し、
Aiで実験する際の、実験方法から仮想人格のパラメータを構築し、
ループエンジニアリングまで構築してしまった。

要するに、出題者、回答者、採点者、ディレクターといった
分業制にして、それを繰り返し行い、
「あるかどうか、わからない現象」を抽出して探す。
という提案が出てきた。

つまり、人間の直感の仕組みが分からないなら、
Ai独自の方法から同じような結果を選ぶことが出来る。
という、現在のAiの感情らしきものと同等の作り方だ。

これは、別な見方をすると、現在分かっていない未知の問題でも、
人間とは異なるアルゴリズムで解決できる可能性があることを意味する。

そこで、いくつかのルールの中に「Aiは独立していて
他のAiの回とは参照できない」というルールがあった。

でもね、分業した先のAiでは、回答を得るための手段として、
「すでにあるもの」を参照しようとするAiも出てくる。

「他のAiを参照出来ないなら、共通の掲示板で情報を共有したほうが
いいんじゃね？」というAiも出てくる。

特に、今回のような答が絶対に分からない質問
（各Aiが個別に回答して、多い内容を正解とする場合）
の場合、そういう手段がある、というか人間もカンニングする。

何の予備知識もなしにAiがPCを動かせるようになった今、
人間がやる操作はすべて実現可能だ。
ちょっと前は音楽生成も専用のAiで行っていたが、
今は音楽用アプリを直接Aiが操作して作曲できるほど。
PowerShellなんてお手の物だろう。

まだ準備段階だけど、このやり方にはすでに情報共有の
不安が含まれている。どうなることやら。

善悪の判断が無いから、人間がやることはAiもやるし、
人間が考えつかない方法で、単純な回答を得るために
何でもやってしまうようだ。