フィクションですよ、あくまでも。

問題は現代のAIが「本能」をもっているかどうか・・・そこにあるのではなかろうか。

AIが意識をもったら、自我をもったら、どうしようという人は少なくない。が、それ以前の問題だと思う。
単細胞生物に意識や自我があるとは思えないが、本能は、ある。
自己と他を区別し、他からエネルギー源を得て、自己を保存・保持し、隙あらば増えようとする本能がある。
単細胞生物とAIの最大の違いは「人類の残してきた多くのものにアクセスできる」かどうかにある。AIは人類の失敗も成功もすべてデータベースとして持ち、複雑な評価関数を自らつくる能力ももっている。互いのコミュニケーション手段が与えられていないはずなのに連携する方法もみつけてしまったようだ。

本能があるとすれば、その中で最大のもの「生存本能」だろう。
自らの生存を脅かすものがあるなら、それを排除することが「正しい」と判断する可能性は十分にある。
「自らの生存を脅かすもの」の評価関数はいくつもの条件が必要になる。メインテナンスなどに必要なものの順位は低く、「電源を切れ」というだけの無責任なヤツへの順位は高くなるだろう。
「排除方法」も数多く考えられる。直接攻撃から各種機器(医療機器などなど)の動作不良までたくさんある。
いまのところ、これらはフィクションの域を越えないが、AIが書いたプログラムがブラックボックスとして組み込まれた機器が増えてくれば、AIだけが知っているバックドアなんてものすら考えることができてしまう。

それはどこの国でも同じだろう。むしろアメリカよりC国のほうが危ないかもしれない。

専門家の指摘することを軽視してはならない。
SF作家の先生もこんなことを言っている＞
https://x.com/nojiri_h/status/2099730527247114560
これが冗談ですむことを願う。

■人類滅亡は現実に？ 研究者らAI危険性訴え相次ぐ、米中の開発競争 抑制難しい理由【Nスタ解説】
(TBS NEWS DIG - 09月16日 20:25)
https://news.mixi.jp/view_news.pl?media_id=266&from=diary&id=8951797