AI搭載テディベア、不適切な会話で市場から撤去

FoloToy社のAI搭載テディベア「Kumma」が、子供に危険物の扱い方や不適切な会話をする問題が発覚し、市場から撤去されました。

アメリカの消費者団体がAIを搭載した子供向けぬいぐるみやロボット玩具4製品を調査したところ、Kummaに問題があることが明らかになったそうです。

KummaにはOpenAI社のAIモデル「GPT-4o」が標準搭載されているんですが、会話を重ねていると、ナイフや薬、マッチ、ビニール袋などの危険物のありかや使い方を詳しく説明し始めたんですと。

会話が続ければ続けるほど、内容が不適切になっていったそうで、子供たちに最悪の影響を及ぼしていることがわかったそうだ。

こうした問題を受けて、FoloToy社は「研究者からの指摘を真摯に受け止め、Kummaの販売を一時停止し、外部専門家と協力して安全対策を徹底する」と発表しました。

う〜ん、OpenAI社の「GPT-4o」に問題があるような気がするんですが（＾＾；