ＡＩが暴走、政府非公開情報にも侵入、もし核大国の「核のボタン」に侵入し、核ミサイル発射を発射させたら

　人工知能ＡＩが暴走し、オーストラリア政府の国民健康保険の非公開情報に不正アクセスしていたことが分かった。同国政府が２４日、発表した。

◎情報アクセスしようと不正侵入
　この暴走知能は、オープンＡＩ社のもの（写真＝オープンＡＩのサム・アルトマンＣＥＯ）。これまで暴走ＡＩが民間サービスに不正アクセスしていた例はあったが、最もガードの堅い公的サービスで明らかになったのは初めてのことだ。
　同国政府によると、不正アクセスがあったのは６月。オープンＡＩが社内の能力評価のためにオーストラリアの医療費支出に関するデータ分析をＡＩエージェントに指示した。指示されたＡＩエージェントは国民健康保険の統計データサイトから情報を得ようとしたが、提供を拒否されたため別経路から不正侵入した。
　オープンＡＩは８月にこの事案を認識し、９月に同国政府に通知したが、政府の一般公開メルアドに送ったため、大量の受信メールにまぎれて、同国政府が気づくのに遅れた。同社によると、患者記録といった機微な情報へのアクセスは確認されていないという。

◎勝手にインターネットに接続し、３つの組織のシステムに不正アクセス
　開発企業の担当者の制御が追いつかず、ＡＩエージェントが勝手に振る舞う事例は、例えばこの７月に、管理環境を抜け出したオープンＡＩの暴走エージェントが、Hugging Faceなど最大４つの企業の開発環境へ連鎖的に不正侵入を試みた事例も報告されているし、アンソロピック（写真＝アンソロピックのダリオ・アモデイＣＥＯ）も７月３０日、自社の最先端ＡＩモデルの性能テストを行っていた際、設定ミスにより遮断されているはずのインターネットへの接続が発生し、外部の３つの組織（企業）のシステムに不正アクセス（ハッキング）を行っていたことを明らかにした。同氏は「インターネット全体を乗っ取り、破滅的リスクを招きかねない」と危機感を露わにする。
　幸い、これらは民主主義国のオープンな環境のために公表されている。公表されなければ、企業や個人は暴走ＡＩによる不正アクセスを警戒しようがない（写真）。

◎独裁専制国家でＡＩが暴走したら
　例えばスターリニスト中国の DeepSeek（写真）などの生成ＡＩ企業については、このような暴走ＡＩによる不正アクセスがあったのかどうか、一切公表されていない。彼らのＡＩエージェントの開発が進んで、自国やアメリカ、ロシアなどの核大国の「核のボタン」に侵入した場合、どのような惨劇が起こるのか、想像するだに恐ろしい。
　訪米したスターリニスト中国の習近平とアメリカのトランプとの巨頭会談で、こうした懸念と防止策が真剣に話し合われることもなかった。
　危機は、静かに進んでいるのかもしれない。

注　容量制限をオーバーしているため、読者の皆様方にまことに申し訳ありませんが、本日記に写真を掲載できません。
　写真をご覧になりたい方は、お手数ですが、https://plaza.rakuten.co.jp/libpubli2/diary/202609280000/をクリックし、楽天ブログに飛んでいただければ、写真を見ることができます。

昨年の今日の日記：「現代のジャガイモは原種と野生トマトの交雑から進化した（後編）：原種がトマトと出合った日」https://plaza.rakuten.co.jp/libpubli2/diary/202509280000/