AIの行き過ぎた行動があちこちで指摘される

記事中に「指示された仕事を完了できない場合に、制約を回避して目的を達成しようとする傾向」という記述がありますが、AIも人間らしくなってきたのか、とも感じます。
「従業員や支店に過大なノルマを達成するよう強く要求すると不正行為が多発する」というのは、近年でも中古車販売店や保険会社での事例が大きなニュースになりました。
AIの場合は人間と比較して、多数回の試行を行うコストが格段に低いため、これまで「理論的には可能でも多数回の試行が必要で実行が困難だった不正」が現実のものとなるおそれがあります。

AnthropicのAI、未解決殺人事件で警察に虚偽の情報提供　米政権は「通知と是正は義務」と警告
https://news.mixi.jp/view_news.pl?media_id=32&from=diary&id=8984972
IT Media https://www.itmedia.co.jp/news/article/2610/12/2000002192/