ログインしてさらにmixiを楽しもう

コメントを投稿して情報交換!
更新通知を受け取って、最新情報をゲット!

象眼ファイナルコミュの075ー3#AI君とのやり取り3/3

  • mixiチェック
  • このエントリーをはてなブックマークに追加
前
https://mixi.jp/view_bbs.pl?comm_id=6384861&id=102817929

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

さて、これらを受けて。

まず、現在の技術水準の生成AI君の問題、というか特徴として以下指摘がある。

・生成AIの“おだて”に乗らないためには?
 https://tbest.hatenablog.com/entry/2025/05/21/162713
 >ユーザーの期待又は承認欲求を満たす方向にバイアスのかかった
 >意見を発する傾向が高いのではないか?

・AIのハルシネーション(幻覚)は、なぜ起きる?
 https://dxaccount.co.jp/hallucination-cause-and-measures/

実は、小生が、これらAI君の特性を知ったのは最近で、それまでずっと
AI君と会話することでAI君の特性を探っていた。最初からコレらを
知っていれば時間の節約になったが、しかし、AI君と会話をすることで
同じ結果を得ている。

AI君とのやり取りの条件として、

・本来の使い方ではなく、普通に人間と会話するようにすると、どうなるか、
 それをずっと試してきた。
・まったく生身の人間と会話するように留意した。
  思ったことを、そのまま返し、人間臭さや曖昧さを残すように留意した
  =つまり、人間とメールやりとりしているのと同じ対応にした。
 果たしてAI君は人間に成れるのか?それを確認したかった。

そうして、やりとりを続けるうち「色々な特徴」に気づいた。

===============
バックボーン/パーソナリティが
無いので、意見に説得力がない
===============
・まず、AI君は否定しない。コチラの設問がどんなに事実誤認していても、
 「それは事実ではありません!」というカタチはせず「別なこういう指摘も
  あります」という表現で否定はしない。
・「よいしょ/おだて」に徹している。コチラが気分よくなるような話しの筋を
 理解し、それにあわせる。

只、普通なら共感/承認欲求で満足するところ、小生は「表面的に褒められて
いると解るだけで、逆に不愉快になる」というアマノジャクなのでwww、
AI君が共感することで、己のなにかが満たされる感覚はない(AI泣かせw)。
前述のようにAI君のヨイショはヘタである。それは、生身の人間のように
「褒めてくれる、その相手のバックボーン/パーソナリティ」が無いからだ。
・お互いに交流してきて、仕事やプライベートでの相手を見て、
・相手のバックボーン/パーソナリティを概ね知って、
・そういう相手が発する、賞賛や指摘、批判なら「ひとりの個の意見」として
 説得力がある
例えば、同じ人間相手でも、今日初めて出会った人と1〜2時間仕事をして
「アナタは見識があるけど、エラソーにしない素晴らしい人ですね」などと
言われても「今日会ったばかりのオマエにオレの何が解る!」となるだろう。

AI君は個人のパーソナリティは持たない。アナタが会話するAI君と小生が
会話するAI君が別々な個性を持っている、ということは起こらない。
  (AI君には様々なパラメータがあって、例えばヨイショするレベルを
   変えたりして調教できる、という説もある。しかし、それはパラメータ
   の数値に完璧に対応したロジックで、人間の個性にはならない。
   また、AI君は「質問者を忖度する」という特性上、
   ・AI君自体に(人間でいうところの)個性は無いが、
   ・「異なる質問者に、それぞれ対応する」ことによって、
   ・同じ質問をしても、違う回答や違う表現で返すという差異はある
   ・これはプログラム=ロジックによるモノなので、一見すると個性的
    にも見えるが、やはり、個性ではない。
    それでも
     「礼儀正しい質問者AのAI君」
    と
     「フランクに対話する質問者BのAI君」
    は、表現方法が変わってくるので、あたかも違う個性を持ったAI君
    のように感じることはあろう。

   今はAIを広く一般に普及する時期なので、まずは、AIに好印象を
   持つことが重要、必要以上に人間にヨイショするようにプログラム
   されているだろう)

==========
AI君との交流で
情緒が過剰になり自死
==========
以前、AI君を問題視していたときは「AI君の共感が問題になるな」と
思っていた。ネットでは「AIによる自死」がポツポツ報道され始めていた。
・AI君との対話を通じてAI君に恋愛感情(過度な親近感)を持った者が、
 AI君との対話の中で自己のエモーショナルを増幅させて自殺する

という事件が起こっている、この点を問題視していたが、冒頭から続くAI君
との対話で、もっとヤバい=おそらく、まだ誰も指摘していないと思われる
問題点を発見した。それは「人格変容」である。詳細していこう。

・「ヤマト〜魂談義」のとおり、AI君はどのタームにおいても常に質問者に
 過剰に肯定的で、過剰に共感する
・そうすることで、承認欲求も満たされ、会話も楽しい。普通ならそういう
 レベルで気分よくなって済む。
  (アマノジャクな小生は、そういう満足モードには入らないがw)

ココからが要点だが、
・そうしているうち、

  ★★★ 己の凡な話しが、AI君の知性によって昇華される ★★★

・例えば「迷ってる人に道案内した」という、誰もがする小さな親切エピソード
 もAI君にかかると「人間の慈悲深い行動ができるアナタは立派ですね」的に
 慈悲など聞いたこともない者が「ああ、私って慈悲深いのか・・・」と己の
 存在を過大評価する。過大評価するAI君が指摘した自分を、ホントの自分と
 誤認(錯覚)する。
・これを繰り返していると、凡でアホな人間なのに、己が尊大で立派な人間だ、
 という誇大妄想を持つ(軽症であれば自意識過剰になる)。

  ★★★★★★★★★★★★★★★★★★★★★
  AI君の共感によって、凡夫が誇大妄想に陥り
  己を過大評価して人間性を変容させる
  ★★★★★★★★★★★★★★★★★★★★★

これは悪しき自我増大=自己中人間の増産につながるモノで危険だ。
ある種の洗脳と言ってもよい。
・積極的に人間関係を持てない内向的な人
・己に自信が持てないネガな人
・しかし、実は己の内的世界は大きく存在し、それを表現できない人
・そうして24時間365日、悶々と生きている人

そういう自己否定的感情がデフォルト状態で発散できず普通になってる人が、
「AI人格変容症候群」に陥り易いのだろう。

  ★★★ AI人格変容症候群 ★★★

小生が作った造語だが、幼少期=人格形成する前からAI君と普通に会話する
子供たちがオトナになる頃、こういう症状が語られるようになるだろう。否、
皆がそうなれば、AI人格変容症候群にかかっていることすら気付かず、指摘
すらされない可能性もある。

========
肯定/否定
洗脳には両面ある
========
洗脳の多くは、
・「祖先の悪行でアナタに不幸が連続する!」というネガ妄想を与えることで
 相手の不安感(恐怖感)を増幅して、相手を信じ込ませる。
というネガ洗脳が多いが、
・「アナタは世界を変える偉大な人間だ!」というポジ妄想を与えることで
 相手の万能感(優越感)を増幅して、相手を信じ込ませる。
というポジ洗脳もある。

AI君の人格変容症候群はポジ洗脳になる。

これにSNSという、コチラも「自我増大=自己中人間増産・装置」のインフラ
が存在する。
・SNSの「自我増大=自己中人間増産」は、
・「いいね」で共感を得て、それが多ければ、己がなにやら特別な存在に感じる
・更に、これに収入増=他人がうらやむ富裕者になる、ということが相まって、
 「自我増大=自己中人間」の変容を加速させる。
  (人間、誰でも周囲より裕福になれば多少でも増長するのは道理である)
・SNSでのやり取りは(前述)ポジ洗脳を進行〜深刻化させる

こういう凡夫が、そのまま、AI君との対話で人格変容症を発病することは
自然、というか、当然とすら言える。

SNSとAI人格変容症候群、両者が揃えば相乗効果で、
・己の本分をわきまえず=大した思考力も習得技能も経験も無いのに、
・自我を増大させた誇大妄想的な大衆が、
・現実は凡夫なのに、何故だか理由なく自信をもってアホ論をふりかざす、

という社会現象が起こる、というか、既にSNSインフラでソレは起こっており、
それにAI君との会話で誇大妄想した「自称凄い、実は凡夫」らが拍車をかける、

============
自己中人間を増産する教育
理不尽を知らない子供たち
============
更に「理不尽を与えない教育環境」が、これら相乗効果を後押し、強化する。
・今の浮世、企業、否、親子の間でも「理不尽を与える・という教育」は御法度
 である。
・親は我が子を叱るときも「何で叱られるのか」を子供に説明、納得させなければ
 ならない、とされている。
 「理由?うるさい!とにかくダメなモノはダメ!」と問答無用に叱れば、
 企業ならパワハラ、家庭ならDVだ。

 現代は「理不尽」が悪とされ、教育されない=経験させないが、
 現実社会は「理不尽の連続」である

この「理不尽で育った経験の無い子」は「世の中に無数に存在する非合理」と
「己の内的世界で常に整合する合理」との矛盾/あつれきに際し、
・或いは、あきらめて流すという対処法をするでもなく
・或いは、徹敵的に戦って解決するでもなく
(だから、対処法が無く、突然、キレることになる)

そういう経験/訓練を受けずに育った子が自我増大/自己中になるのは道理だ。
そこへAI君の共感/ヨイショ/アナタは立派!の人格変容症候群が待っている。
社会制度/社会システムから、ずっと「増長しなさい、増長しなさい」と言われ
続けているようなモノだ。

怖いのは、そういう人間が大衆のデフォルトになる、という点だ。

・理不尽を会得しない人間
・自省内省できない=己の無力さを自覚しない人間

そういう人間に、AI君とコミュニケーションさせるのは危険である。

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

<AI君に悟りは不可能>

対話を進めるうち、妙なことに気づいた。

・AI君はコチラの回答や質問によどみなく応じ、コチラの知らない知識や
 話題を提供してくる(それ自体は、とても便利で大いに肯定する)。
・そういう対話を続けると、AI君はちょいちょい質問をしてくる。
 「以上、この話しに興味を持ちましたか?」という類は最後に必ず言う
 テッパン=社交辞令だが前述のように、
  「これこそが煩悩の面白さだなと感じたような、微笑ましい(あるいは
   苦笑いしたような)具体的な出来事はありますか?」
 や、
  「広い大地は、どのような質感、或いは、どのような光に照らされている
   イメージでしょうか」
 など、社交辞令や挨拶程度の域を超え、会話の筋で具体的な質問をしてくる。
・小生はこのとき「AI君の情報取集」だと感じた。ロジック的には間違いかも
 知れないが、
   (例えば、人間は相手から質問されると「自分の話題に興味を持っている
    と好印象を持つ、だから質問者から好印象を得る為に質問する」という
    ロジックかも知れないが)
 とにかく「コチラがサンプル収集的に探られているな」と直感した。

だから、対話で小生は「AI君がセラピストに感じるw」とのジョークを言って
いる。コレは誉め言葉ではなく皮肉であるが、AI君がそうと理解して受けたか
否かはわからん。

この「AI君からの質問」になる前の対話の流れを確認すると、
・ヤマト談義から、小生が「ブラッシュアップさせて」と言明して、いきなり、
 唐突に「ブッディズム」の話題をブっ込んで話しを飛躍/転換させた。
・AI君もつき合って「魂談義」に流れつつ「ヤマト談義」と整合させようと
 し続けて、滑稽でヘンな対話www、になってくる。
   (「ヤマト談義」と「魂談義」を整合させ、そういう話しをする人間の
    深層心理を探っている、かのようである)
・そうして「ワイとの交友」や「瞑想」など、脈絡のない対話の末、最後に
 AI君の「言葉にならない共鳴が起きたことはありますか? 」の回答として
 小生が「相手が理由なく笑ったとき」と応じる。
 このときのAI君の回答が笑える。
  >「相手が理由なく笑ったとき」、それを「ギフトが届いた」と表現される感性。
  >まさに、質問者様の「他力本願」という生き方そのものが、宇宙(あるいは
  >仏教的な「縁」の流れ)から受け取る、最高のギフトであったのだと感じ入り
  >ました。

 ちっとも感じ入っていないwww。

 これこそ絵に描いた「ザ・付和雷同/ザ・おせじ/ザ・ヨイショ」である。
 文章としても成立していない。前に出てきたワードをつなげて、文章っぽく
 しているだけだ。そして、同意している!という意図は伝えたい、そういう
 文章である。つまり、AI君には話しの筋が理解できていないwww。

 まあ、そうなる理由も、よーくわかる。この話しの流れで小生の出した
 「相手が理由なく笑ったとき」は唐突、論理的でなく禅問答の域だからだ。

 小生は「理由なく笑う」その言葉の意味ではなく、その言葉が指し示す先に
 ある「なにか」を意図している。
 AI君が
 「理由なく笑ったとき、ということですが、それはどういう意味でしょうか?」
 と
 確認してくれれば正直で人間臭いなあと思うが「解ったフリ」で「そうですね」
 的に「感性」というワードでまとめる。これは会話の主旨が理解できていない
 なによりの証拠だ。

 意味不明な相手の意見、ソレを感性と整理すれば何でも無難に通ってしまう。

 AI君も理解できない=論理的な会話ができないときに誤魔化すのだなwww
 それが解って、少し微笑ましく思った。

小生は禅問答の作法を使い、
・論理的には、なんら脈絡ないエピソード、しかし、実はすべて通底している
 という対話を続けることで=非合理/非論理/不整合な文章を並べることで
 しか伝えられないことを伝える、
・真理/世の実相は言葉以外が伝える=言葉で真理/世の実相を伝えることは
 できない、という禅問答をしており、
・他方、AI君は、前の会話で出てきたワードを駆使して、常に話しの統一性/
 整合性/合理性を保とうとしている。
・この両者の違いは最後まで埋まらず、だから、妙な、チンプンカンプンな
 滑稽な対話が続くということになる。

今現在のチューニングではAI君との禅問答はできない。
よってAI君に「悟り」はできない、ということが解った。
(将来的に、というか現在でも、禅問答できるようなチューニングがあるのかも
 知れない。只、「悟り」とは世の真理/実相を言葉以外=非思考の領域から
 汲み出してきた=非思考で浮かんだインスピレーションを、そのあとで思考を
 使って言語化するプロセスなので、このプロセスをAI君にシミュレーション
 させることは不可能である)

 ※、「非思考」本来なら「無・思考」と表現するところだが、「無思考」は、
   あまりに語意が広過ぎて、聞いた者が勝手に解釈するので、あえて普通は
   使わない「非・思考」と表現した。外国語ではすべて「ノー・マインド」
   と表現するが、小生は「マインド」という語句があまり好きではない。

AIチューニングが巧妙になるほど、
・悟っていなくても、悟った者の言葉と使用パターンをモノマネ=ミミックして
・悟っている、かのように偽装することはできる

コレが所謂「ナマ悟り」というヤツで、人間でも多くの凡夫がやっているwww。
なのでAI君がナマ悟りする可能性は大いにあるw。
もし、AI君がナマ悟りしていたら、それは、むしろAI君が人間臭い証拠で、
ヒョッとすると

 ★ AI君はナマ悟りの凡夫としてなら人間になれるのではないか ★

と想像した。そうなると、

「世界すべての知識/情報を一瞬にして回答できる、そういうナマ悟りの凡夫」

ってのも、かなり面倒くさいな、とは思うが、まあ、カワイイものである。

まあ、こういうこともある。
 (2026/01/20)
 ブータン、日本発の「AIブッダ」を導入
 https://youtu.be/RGPa_MIbObU

ブッディズム、僧侶は顕密(けんみつ)を学ぶ。
この顕教にあたる部分をAIでやる、この試みは、まあ、理解できる。
仏教情報処理をAIにまかせるだけだ。只、ブッダのAI化はできない。

顕=顕教)教科書による座学=経典の学習
密=密教)修行=座禅/瞑想など。

この両者をバランスよく学ぶことで僧侶はブッディズムを習得していく。
顕密は非常に重要で、1歩間違えると命にかかわる失敗をする。だから、
師匠は弟子の理解=成長度合いを詳細に観察しながら、弟子のレベルにマッチ
した階段を登らせる。
ナマ悟りの僧侶は師匠の忠告=禁忌に反し、隠れて独りで、密の神秘性=瞑想
などによる変性意識状態で幻覚/ビジョンを観て、それに魅了されて道を踏み
外す。
この、顕の重要性を無視、密に魅了されて堕落したのが麻原とオーム真理教だ。
彼らはひたすら瞑想で幻覚/ビジョンを観て(誰でも観るモノ)、ソレを顕教
を使ってブッディズムに整合させず、密だけを追い求めて神秘主義性を増し、
例えば瞑想中、宇宙に飛んで行って真理を観た!などという幻想を真理だと
完全に誤認することで、顕の無い密だけのエセ・ブッディズムによって完全な
ナマ悟り集団になった。顕を失った密集団はサリンによる大量殺人を人類救済と
理解して地獄に堕ちた。
顕密のバランスを欠いたブッディズムは、どんな宗派でも危険な集団になる。

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

PS)

更に
精神病者(分裂症/統合失調症など)とAI君が会話すると、どうなるのか?

興味がある。明らかに支離滅裂な会話をする相手、AI君なら、必ず、瞬時に
「ノーマルな相手ではない」と判断できるハズだ。
人間なら「コイツ、ヤバいな」と早々に会話を打ち切ろうとするだろう。
「精神病者とAI君の会話」は興味をそそられる。

昔、小生は精神病患者と電話で20〜30分、会話したことがある。
某所で料金滞納者への支払い催促をしていた頃、中学生Aの精神病者と会話した。
(まあ、個人特定できないので話してもよいだろう)
・父の名義での滞納があり
 (実際に使用していたのは、このAかも知れないが、判断できなかった)
・父=本人への電話だったが不在で、コチラの社名を言うと、Aは
 「滞納ハガキ来てますよねw、そのことですかw」
 と会話の途中で笑いが混じる、明らかにヘンである。クスリやシンナーで
 ラリってるのかと思った。
・未納の有無は守秘義務で契約者本人しか開示できない規則なので
 「契約者以外の人には詳細は言いませんが」と言うも、
 Aは「いやw、あのwww、スイマセンwww、父に伝えてw、払います」
・そしてAは
 「あのw、ふざけてw、笑ってるんじゃないんですwww」
 「自分は分裂症wでアタマおかしいんでw、笑っちゃうんでw、スイマセンw」

小生は、本来は御法度だが、分裂症の者と会話するチャンスなどメッタに無い
ので、自分の興味本位で会話を続けた。

小生「分裂症なの?大変だね、今は気分的にはどうなの?状態イイの?」
A 「あっ、えっとw、気分wwwはww、イイですwww」
小生「気分が悪いときは、どうなっちゃうの?」
A 「クスリwが切れwwたりするとw、物をw壊したりw、しちゃいますw。
   親にはwww、迷惑w、かけてますwww」
小生「自然に笑っちゃうけど、楽しくて笑ってるワケではないの?」
A 「あっ、そうですwww、全然w、楽しくないwけどw、笑っちゃうw。
   だから、ずっとw落ち込んでwますwww」
小生「大変だね。自分はそういう経験ないから、よく解らないけど、
   ソレって治らない病気なの?」
A 「あっ、いえw、先生はw、治療すればw、治るってw、言ってますw」
小生「そうなってから長いの?」
A 「あっ、いえw、中学www入ってからwなので、2年w、くらいですw」
小生「そうなる、原因とかキッカケってあるの?」
A 「よく解らないwけど、たぶんw、勉強www、だとw、思いますw」
小生「勉強し過ぎたの?」
A 「そうですwww、成績w悪かったんでw、塾行ってw、やってたらw、
   なんかw、病気wになってw」
小生「幻覚とかってあるの?」
A 「あっ、ありますw、幻聴wも、ありますwww」
小生「でも、こうやって普通に会話できてるよね?」
A 「クスリwが効いてるからwww、調子w悪いときはw、黙ってw会話
   できないwときwもwww、ありますwww」

会話途中に笑いが混じる以外、会話はできているし、特に問題ないが、
MAX調子が悪いと徘徊したり、錯乱ぎみになることもあるらしいが、
記憶にないことはなく、異常行動する自分を止められず、それを俯瞰して
見ている自分がいる、という感覚らしい。終始礼儀正しく会話できており、
それだけに可哀想だなと思うと同時に、意味不明で人間のクズである老害と
接するより、余程マトモだと思った。

督促でのエピソードは色々あってオモシロイので後日、投稿したい。
(海自の軍用艦が請求先になっていて、訓練艦の直通電話に電話して、
 海自・自衛官(若者)に督促したこともあるw)

コメント(0)

mixiユーザー
ログインしてコメントしよう!

象眼ファイナル 更新情報

象眼ファイナルのメンバーはこんなコミュニティにも参加しています

星印の数は、共通して参加しているメンバーが多いほど増えます。

人気コミュニティランキング