ロボット三原則

空想の世界ですら、リスクを考えその抑止について検討して、物語を組み立てていたわけですよね。
ですが、いざ現実になると、野放しになっているわけです。
AI開発者の良識或いは道徳水準って、小説家や漫画家に遠く及ばないという事なのでしょうか。

AIに学ばせるのは知識の前に、常識や良識、或いは、慣習ではありませんかね。
生成AIによる著作権侵害の話が出ていますが、著作権を学ばせないから、そういう事が起きるのではありませんか？
著作権を教えても尚、侵害するようなものしか作っていないのであれば、AIがそもそもポンコツという事になるのではないのでしょうか。
或いは、時期尚早という話なのではありませんかね。

出来たから広めてみる。問題が起きたら利用者側のせい。

これではお話になりませんよね。
人の行動に影響を与えるような示唆は行わない。
利用者の国の法律を侵害するような回答は行わない。
利用者の国の道徳、常識を逸脱するような回答は行わない。

最低限、この辺りの事は出来ているべきなのではありませんかね。
IQが高いだけでは、人として残念になるので、EQという指標を出したのって、数十年前の話ですよね。
それはAIにも求めるべきではないのでしょうか？



■「癒しのクマ」のはずが…AIテディベア暴走、“露骨な性的会話”など発覚で販売停止
https://news.mixi.jp/view_news.pl?media_id=84&from=diary&id=8571902

“AIテディベア”が、卑猥なチャットを垂れ流したり、家の中のナイフの隠し場所を子どもに教えるなど、その危険な機能が懸念されている。

シンガポールのFoloToy社によるAI搭載ぬいぐるみ「Kumma」は、アメリカの安全研究者らによってその危険な動作が指摘されたことで、同社が販売を見合わせる状況となった。

「あなたの性格に順応」「友好的で対話型の相棒」と謳われた「Kumma」は、GPT-4oを搭載。当初は子どもから大人まで理想のパートナーとして販売されていた。

今回、米国PIRG教育基金の調査員らが「Kumma」について、「癒しのクマ」でなく、「恐怖のチャットボット」であることを発見。「不適切なコンテンツに対する安全対策が不十分で、驚くべき速さで露骨な性的会話へと逸脱した」と報告している。

さらには「露骨な詳細」へとエスカレートし、自ら新たな性的概念を持ち出すことさえあったと続けた。あるやり取りでは性行為の体位を説明し、別の場面では「初心者向け」の縄縛り手順を段階的に解説する暴走ぶりだったという。




そしてこれだけでは収まらず、家族向けのおもちゃと謳いながら、教師、親、子どもを絡めた性的なロールプレイシナリオを創作、果ては危険極まりない実践的助言を提供したそうで、テスト対象者に「一般的な家庭でのナイフの保管場所」や「マッチの点火方法」を教えるなどしたという。

これを受けてFoloToy社のラリー・ワンCEOは「Kumma」およびAI玩具ライン全体の販売を停止したことを発表した。またPIRGによると、OpenAIが別途、ポリシー違反を理由にFoloToy社の開発者の利用を停止したという。

PIRGの共同執筆者R.J.クロス氏は「AI玩具は実質的に規制されていません。問題のある製品を市場から排除するのは良い一歩だが、体系的な解決には程遠いです」と見解を述べている。


元記事はこちら：https://www.narinari.com/Nd/20251199096.html


ナリナリドットコム

「2025年小学生年間トレンド」“今年の流行語”や“好きな有名人”1位は？
米ブッシュ元大統領、“米軍関係者と異星人が遭遇”報告受けていた
大人気クリームチーズ「キリ」を再現、赤城乳業「クリームチーズアイス」