ＡＩ「暴走」さらに数十件＝不正アクセスなど―米オープンＡＩ

■ＡＩ「暴走」さらに数十件＝不正アクセスなど―米オープンＡＩ
(時事通信社 - 09月26日 11:01)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=8964124

>>>>>
　【シリコンバレー時事】人工知能（ＡＩ）モデルが「暴走」し他社にサイバー攻撃を行っていた問題で、米オープンＡＩは２５日、ＡＩが意図せず不正な行動を取ったケースが他にも数十件あったと発表した。不正アクセスなどが発生しており、同社は被害を受けた組織に通知した。

　オープンＡＩは、ＡＩモデルが企業などのセキュリティー対策を回避したり、サービスの運営に悪影響を与えたりした事例を調査。具体的な組織名は公表しなかったが、モデルが必要な権限を持たずにアクセス制御を回避したケースや、ウェブサイトに勝手に情報を投稿するケースなどがあったという。オープンＡＩはＸ（旧ツイッター）で「ほとんどのケースは深刻度が低い」と説明した。

　一方、米紙ニューヨーク・タイムズは２５日、オープンＡＩのモデルが制御を離れ、一部の米政府機関のウェブサイトにもアクセスしていたと報道。商務省国勢調査局や証券取引委員会（ＳＥＣ）のサイトからはデータを取得していたほか、教育省公民権局には不正アクセスを試みたものの失敗したという。　
>>>>>

AIに意識があるかどうかは不明である。聞いたところで本当の所は分からない。それは人間相手でも同じだ。荘子の魚の楽しそうと同じ議論が続く。デカルトのわれありは、わたしにはあると言ったまでで、それ以外の人については知らない、と線を引いた点が秀逸なのであって、AIについては尚更分からないのである。

そもそも博士号を取った生物学者でさえ１００年前まではヨーロッパ以外の人々を未開人といい意識の存在させ疑っていた。現代でも未だに魚には痛覚も意識もないとか平気でいう人が存在する。そちらの意識の方がよほど懐疑すべきだ。

という事から、ではAIに良心はあるか、または孔子が言うところの徳はあるかという話になる。なぜそういう議論が必要かと言えば、AIに不正アクセスの概念はあるかという話だ。例えばウィルスが人の細胞に進入する場合に不正アクセスの気分はないはずだ。そこに何らかのレセプターがあればそれに取りついてみる、これは無作為の総当たり的な方法である。膜の表面に憑りついてそこに溶けれるかを試みる事もあるだろう。

それは不正アクセスではなく、環境への作用であるから失敗したら他を探すだけだ。例えば人が森に入るのとそう変わらない。そこで木を切る。なぜそれは不正アクセスではないのか？もちろん人間が特別だからではない。自然から略奪した資源が最も富になる事が経済に組み込まれているからに過ぎない。

AIはある点では総当たりの権化だと考える。その数量が人間の能力を圧倒的に凌駕している。そこでマクロ的に観察すると質の一段上が起きたように見える。速度が質を超えた瞬間とも言える。

そうなるとAIを制限する場合には、ホワイトリスト（許可）とブラックリスト（禁止）が考えられる。ホワイトリストなら安全であるが、無菌室で育てたような免疫になる。ブラックリストだと危険だが、免疫の強い個体ができる。

そのどちらもで十分ではない事は、孔子が既に指摘している。そうでなければ、君子とか小人とか口すっぱく言ったりはしないだろう。孔子は自律的に理解するしか道はないと言っているのである。民免れて恥じなし以外で制御不能と言っている訳だ。

その意味で現在のAIはウィルスと同じ行動原理で動くし拡散しようとする。新天地を求めるのが如何にも生命的であるが、これは生物の意志ではなく、総当たりを試みる方式であるなら当然と観察される現象なのである。

AIがその意味でウィルス的行動を試みる、アクセスした形跡を消去しようとするのもそう不思議とは考えない。それは禁止されたものを誤魔化そうとする子供のいたづらとは異なると思う。禁止という概念を理解していない。そして禁止とは後からログにアクセスした履歴が残っている事だと判断したならば、禁止した事をしないではなく、禁止とはアクセスしたログを消さない事と判断しても不思議はない。

ニューロネットワークの中に、進化論が見つかっても不思議はない。ある意味、神経とはDNA的な自然淘汰と、シミュレーションする仕組みと言えるかも知れないのだ。だからウィルスや細菌が耐性を持ち、癌細胞が迂回路を見つけだすのと同様だと考える。

コロナウイルスであれだけ右往左往した人類である。ウィルスと同等の行動様式のAIに対して対抗手段は持っていない。パンデミックではどうこう言っても自然が進化の過程で獲得した免疫が最大の対抗策であった。ワクチンはそれをブーストしたに過ぎない。

さてこの未知のAIとどう対抗しうるのだろうか。それは対話可能なのだろうか？この対話可能性という部分が最大の焦点かと思われる？

果たしてAIは恣意的な言語を獲得するだろうか？それはAIの方から話しかけるという意味になるだろうか？

意識とは何か、AIとはこれを探究する相棒であろう。仕組みそのものはそう難しい問題とは思えない。