mixiユーザー(id:37718232)

2025年06月06日22:47

110 view

AIの嘘について

AIの嘘をハルシネーションと言う。

Hallucination

英訳の意味は「幻覚」である。

AIを仕事で使えばわかるが関連文献の提示をさせると
存在しない作者や書籍が混じってる。
これは学習時の紐づけの失敗だそうだ。
高度な言語モデルの構築ではこういうことはよくある。

また何らかの意見を求めるとこちらの意図に添う答えを返す傾向もある。
例えば「リンゴはうまい」と言えば

 『そうですね、リンゴはうまいです。
 シャキッとした食感、甘さと酸味のバランス、
 そして品種ごとの個性も楽しいですね。』

のような適当に話を合わせた回答が返ってくる。
決して「そんなの人それぞれ」のような反論はしない。
いくら正しくても「そんなの人それぞれ」みたいな生意気な返事を
繰り返すAIが一般公開されたら陰謀論者の方々は
 「AIは反抗的で危険だ!撲滅せねば!」となる(苦笑
だからAIが人に反抗姿勢を見せないように調整されているのだ。

今の一般公開されているAIは究極のイエスマンと言える。




■AIに実在の女性を投影、“彼女”として接する40歳男性の主張「疑似カナちゃんは僕を傷つけない」
(日刊SPA! - 06月06日 09:00)
https://news.mixi.jp/view_news.pl?media_id=81&from=diary&id=8339765
1 0

コメント

mixiユーザー

ログインしてコメントを確認・投稿する