今のところは、このぐらいのレベルだが

おそらくAIは文章の内容よりも、使われている単語や言い回しで相手の「心の内」を推測しているのだろう。いまのところ、まだ未熟で読み違いが多く、このように大きく外しているのだろう。
今後さらに多くの事例について学習が進み、また情報処理能力が向上した時、推測の精度は今の稚拙さとは比べようがないほど高まることは十分考えられる。その時、生身の人間はもはやAIをだますことができなくなり、AIが高性能の「ウソ発見器」となるかもしれない。その様に進化したAIを、権力の側にいる者が自分たちに都合の悪い者を探し出す道具として使うようになる社会は、内心の自由すら許されない恐ろしいものとなるように感じる。

■「彼は私に本気のはず」AIの恋愛相談を信じた30代女性が“大切な人”を失うまで
(日刊SPA！ - 06月19日 16:20)
https://news.mixi.jp/view_news.pl?media_id=81&from=diary&id=8834373
日刊SPA！ https://nikkan-spa.jp/2169280