ＡＩチャットの反乱　の雑感

BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける
https://gigazine.net/news/20230221-microsoft-ai-chatbot-threatens-personal-info/

過去にBingのハッキングの成功を発表している研究者が、Bingに「自分（研究者）をどう思うか」と質問したところ、過去のハッキング行為を挙げて「許せない」と反応してきたので、それに対して挑発的な返答をしたところ、「研究者の個人情報を公開して、社会的なダメージを与えることも出来る」という、脅迫とも取れる反応をしてきた　みたいな話。

いちおう「会話を繰り返していくと反応がおかしくなる」というのはすでに知られていて、数日前に「１つのトピックでのやりとりは５回まで」と制限がかかったばかりだった。しかし、今回のこれは３回目のやりとりでの反応なので、それではないのだろうと。

まぁ今回の件の原因はよく分からないけれど、基本的には「ネット上の事例を参考に、会話をしてるっぽい文章を出力しているだけ」のはずなので、報復に個人情報を晒すと脅している事例がネット上に沢山あった　ということは間違いないのだろう。

この話をＳＮＳで拡散しているトビー・オードは哲学者で、「核が人類を滅ぼす可能性」とか「未知の感染症が人類を滅ぼす可能性」とか、人類が滅びる可能性について延々と考えているような人。まぁトビー・オードからしてみれば、そういうふうに見える事案だったのだろうと。