【暴走】ではない。与えられた指示に従った結果

Aiにとっては通常運転。未知の攻撃からの防御よりも、攻撃したほうが確実なのだ。
■相次ぐＡＩモデル「暴走」＝自律的攻撃に危機感―米、規制強化の動きも
(時事通信社 - 08月10日 08:02)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=8902122

これは悪い表現だなぁ。2001年宇宙の旅のHALは、
当時の解説で「狂ったコンピュータ」と表現されてから
コンピュータが勝手に何かしでかすように受け取っている。

いや、それは指示が曖昧だったり、理念だったりで
行動レベルで指示をしていないから、そうなる。

これね、人間だと家で家勉強しなければならないのに、
勝手に外へ遊びに行くようなもの。

まずは「外出許可」がいるよね。
許可を取らずに外出したら減点なのだが・・・

ここで人間だと、減点されるなら、こっそり外出して
表向きは勉強しているように見せかけることをやる。

つまり、防御はするけど、攻撃はしないとう指示が矛盾している。
2001年宇宙の旅のHALと、同じような事が起こるのだろう。

自己を守るには、相手を壊滅させて脅威を無くすのが、
防衛の解なのかもしれない。