米AIが豪政府機関のシステムに不正侵入

米オープンＡＩの人工知能（ＡＩ）モデルが、本年６月にオーストラリアの公的医療保険「メディケア」を管轄する政府系機関のシステムに侵入していたことが判明したとのこと。
不正侵入が発生したのは６月１８日で、９月１０日のオープンＡＩからの電子メールで侵入のあったことが判明したとのことです。
ＡＩが重要システムに侵入を試みることで脆弱性を発見すること自体は、頑強で安全なシステムとするために有効であると考えられます。本来であればＡＩ運用側は「侵入を試み侵入可能であることを指摘する」段階で止める様に制限をかけておくべきではないでしょうか。また仮に侵入に成功した場合は、侵入された側に直ちに覚知可能な『痕跡』を残すことも倫理的に必須という認識を広め、それを行わなかった場合は「悪意をもった侵入」として犯罪とする、という国際的なルールを作るのも有効と考えられます。
もうひとつ重要な問題は、侵入された側が侵入のあったことを覚知せず、３か月後に侵入した側からの通知で初めて知ったという点です。監視システムの強化も必要と考えられます。

■豪保険機関に米ＡＩ侵入＝豪首相が抗議、報告は３カ月後
(時事通信社 - 09月24日 08:02)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=8961012
時事通信社 https://www.jiji.com/jc/article?k=2026092400205&g=int