・・・いや、

嘘つきAIと付き合うには――AIを改心させるコツ【道越一郎のカットエッジ】
https://news.mixi.jp/view_news.pl?media_id=87&from=diary&id=8727287

普通に「AIが出した答えには虚偽がある」って使用者が認識していればいいだけだろ。
AIを使う時には「はっきりした答えがわかっていて利用者が検証可能な問題に限定する」ことを徹底するだけでいい。

利用者が答えを持っていない、検証しようのない問いには生成AIは「使わない」だけでいい。

何でもかんでもAIに答えさせようとするからおかしなことになる。AIってものの本質がわかってない。