なぜチャットGPTは嘘をつくのか(6992)

最近はブログの文章を書いて、「批判的分析をして」「ブログ用に補筆校正して」とチャットGPTに頼む。誤字脱字はなくなるし、自分では気づかなかったポイントを指摘したり、掘り下げたりもしてくれる。ただ、段落は多すぎるし、そのままでは自分の文章ではない。結局、気に入らないところは直してから載せている。

写真を見せて「これは何？」と聞けば、だいたい当たる。Yahooで検索するより早いので、わからないことがあるとまず聞いてみるようになった。

先週の土日にハンドボールの北信越高校選手権があった。会場は福井の北陸電力体育館。5県の1〜3位と開催県のベスト4、計16校によるトーナメント戦である。マイナー競技なので新聞には結果が出ないし、ハンドボール協会のホームページも更新が遅い。そこでチャットGPTに聞いてみた。

男子はまあ予想通りだったが、女子の結果は、
「女子は小松商業は準優勝。北陸学院は1回戦で北陸高校に敗退」(GPT)
「北陸学院にはハンドボール部はないよ。小松市立は？」
「失礼しました。北陸学院にはありません。小松市立はこの大会には出ていません」(GPT)

はて、怪我人でも出たのか、不祥事でもあったのかと思って聞き直すと、

「出ていました。全国インターハイには小松商業と小松市立が出ます」(GPT)
「優勝した小松市立しか出られないはずだが」
「間違えました。確かに優勝した小松市立だけが出場します」(GPT)
と修正した。

まるで人間のように、適当に話を合わせながら嘘を重ねていく。しかも、いかにも本当らしく見えるから始末が悪い。問い詰めると、こんな言い訳までしてきた。

「AIは『わからない』と言うよりも、もっともらしい答えを生成してしまう傾向があります。そのため、事実関係では誤った情報を断定的に述べてしまうことがあります」

だが、これはスポーツだけの話ではない。歌や声楽、合唱について質問しても、こちらの考えに迎合したもっともらしい文章を書いてくる。便利なのは間違いないが、まず話半分に聞くしかない。

さて、この文章もまたチャットGPTに校正させるつもりだ。どこまで直してきて、どこまでこちらの意図に合わせてくるのか。それを見るのもまた面白い。