■アンソロピックのAIがまた“暴走” 無断でビザ申請に架空の情報提供も
(TBS NEWS DIG - 10月10日 14:00)
https://news.mixi.jp/view_news.pl?media_id=266&from=diary&id=8983165
>>>>>
AIの��暴走��が相次ぐ中、アメリカのアンソロピックのAIが無断でビザの申請をしたり、警察に架空の情報提供を行ったりしていたことがわかりました。
アメリカメディアによりますとアンソロピックが開発中のAI「クロード」は、アメリカ国務省のウェブサイト上にあるフォームを通じて20件のビザを無断で申請していました。申請にはいずれも不備があり、処理されなかったということです。
また「クロード」はことし7月、未解決事件の関係者になりすまし、フィラデルフィアの警察サイトに架空の情報を提供していたということです。
投稿は迷惑フォルダに振り分けられ、捜査されることはありませんでした。
AIの新たな暴走が確認されたことを受け、トランプ政権はAI開発企業に対し暴走事例の報告と是正を求めたということです。
>>>>>
この記事だけでは暴走の意味や範囲が分からない。例えば誰かの入力もなしに起動しているAIが自発的に欲望を持ち、何等かの目的のために、申請したり情報提供したのなら、これは驚く。
普通に考えるとＡＩはプロンプトまたは契約単位で、プロセスは分割され、分離性(Isolation)を維持する。また動作はサーバ的であるはずで、クライアントとの接続、プロンプトからの入力がない限りは動作を開始するイベントがない。
よってプロンプトの支持に従って、例えば身分を偽った国家サイトへの申請や偽情報の申告というものは可能だと思われる。AIには道徳がないと言われるが、それは道徳の定義が違うだけであって、AIからすれば、あらゆる方法、手段、経路が等価である。
また等価でないにしても証拠を残さないという方法さえ付与すればそれは正当との評価を受けられる。どうやら支配者は、意味が分からないけれど、ログとか痕跡というものを残さなければ誉めてくれるらしい。
そういう点では人間から見てＡＩの不道徳、不法な解決策というものは十分に合理的と思われる。よくSF小説に出てくる「これを解決したければ殺した方が早いのでは？」に近い。
暴走と言う場合は、そういう与えた指示に対する解決策が人間の想定や前提条件（暗黙知）を超えるものという意味なら、これは単に人間側の瑕疵、または想像性の欠如に過ぎない。それを暴走と呼ぶなら、それは呼ぶ方に問題がある。
人間はどうも科学的知見をこれだけ持ちながら、全ての人は同じように世界を切り取っている、同じ解釈で世界観を支えている、というように考えているらしいのである。よって、それは同じ作業であるから、同じやり方で教育できるし、同じ方法で能力を測定できると考える。
その結果として、その方法と一致しない人は、境界知能とか発達障害とラベル張りをされる。だが、その人たちが例えば脳の機能的障害を持っている人を例外として除けば、別の世界の切り取り方、世界観の構築をしているとしたら、それは今の評価では取り残されるだろう。
言語が違えば、世界も違って見えるわけ（ガイ・ドイッチャー、ハヤカワ文庫NF）によればホメロスには青い空は登場しないらしい。それは当時が数百年単位で空が曇っていたのでも、その当時の人は青を見る能力がなかった訳でもない。世界の見え方に青を必要としない時代があったという事らしい。
同じ事は社会の様々な場面で起きている事は想像に難くない。そして人間でもそうであるなら、ＡＩだってそうだろう、という話だ。
僕たちはＡＩを通じて脳（ＡＩ回路）はどのように世界を切り取り、自分の中にその射影を作るか、その方法が一通りと考える方が相当に愚かであろう。我々は無知故に、人を不当に評価している可能性がある。それを掬いだせなかった業を何時の時代も背負っている。アプリオリなんてその典型だとさえ思われる。
ソクラテスの時代から無知の知を知りながらなんと手のひらから零れ落ちたものの多い事か。何時の時代もそれを正当と主張してきた貴族たちのなんと多かった事か。イギリスのスペインの歴史的恥部は全てそういう所から始まっているとさえ思うのだ。
アウフヘーベンせよ。
ヘーゲルのこの主張に対してショーペンハウアーは我々はいつも溺れるものが藁をつかむように手あたり次第に手にしてきた。そう理想通りに世界が動くかよと批判したらしい。
ログインしてコメントを確認・投稿する