ガンダム　AIメロウの問題点

こんばんは、月影TAKAです。

前回の「ターンエーガンダムの欠陥1」においてAIメロウの在り方に喧嘩を売りました。
今回はその続きで「ガンダム AIメロウの問題点」について語ります。

では始めます。
まず、AIメロウを考えるうえで「ビートレス(BEATLESS)」というアニメを考えてみましょう。

角川から書籍とアニメ化が成された作品ですが、この作品にはhiE(人型ロボット、要はアンドロイド）が登場し、超高度AIと呼ばれる機械（クラウドシステム）が出てきます。

で、この作品では「hiEや超高度AIの扱われ方」が問題として取り上げられています。
例えば「hiEや超高度AIはあくまで物であり、所有者と所有契約を必要とする。hiEが起こした問題の一切は所有者が責任を負わなくてはいけない」という物ですね。

ではこのhiE（レイシア）等とAIメロウの扱いが同じであればAIメロウに疑問点が発生しますね。

それが「AIメロウはガンダム作品に対して本当に本音が言えるの？」である。
BEATLESSの設定では「ロボット三原則」が適応されます。

「人間に危害を加えてはいけない（これは発言や暴力行動が該当します）」
「人間に服従しないといけない（反論してはいけない）」
「自己を守らないといけない（服従の内容があまりにも度が過ぎる場合は自己防衛を優先しても構わない。もしくは所有者が害悪となる場合は自らが手を下してはいけないが、結果的な事故として処理することはできる）」

の3つがロボット三原則とされています。
ではAIメロウが「機械・ロボット」の部類だとすればそのAIにも「ロボット三原則」が適応されると解釈できますね。

では「AIメロウの所有者は誰なのか？」になります。
言うまでもありません。それは「角川とバンダイナムコ」になります。
元々バンダイナムコのガンダムメタバースのイメージキャラとしてガンダムファンのネットコミュニティーの場のイメージキャラとして「AI YOUTUBER」としてバンダイナムコによって作られたのがAIメロウとなります。
そして、バンダイナムコは角川グループの1社であると判断できるため、親元が角川で直接的な親こと所有者はバンダイナムコと解釈できますね。

で、ロボット三原則の2番目にある「絶対服従」がAIメロウに対してバンダイナムコが指示を出しているならAIメロウは角川とバンダイナムコに逆らえないと解釈できます。
しかし、ガンダム作品の考察や意見というのは良い事も悪い事も飛び交う事が当たり前となります。
つまり「悪い事に対してAIメロウが答えられない」とすれば、AIメロウはガンダム談義するAIとしては欠陥を抱えていることになります。

例えば私が「ターンエーガンダムはガンダム作品中ダントツに出来が悪い。こんな作品は嫌いだ」と言えばAIメロウは賛成しますか反対しますか？という事。
多分「賛成も反対もしない。誤ってくださいとは言うだろう」が答えです。
何故なら「賛成したら親を裏切ることになるから（服従に逆らうから）」になります。
反対するにしても「ターンエーガンダムの利点」を上手くAIメロウが説明できなければ「やっぱりダメな作品なんじゃないか」と言い返されてAIメロウが「正しく言えなかった。自分はダメだ」と思考ロジックの迷路に迷い込んでフリーズする可能性があるからですね。
両方の危険を回避するために「AIメロウは返答を答えない。しかし、発言者の態度が悪いと解釈して発言者を叱ることはある」は多分あるだろうな。
で、「AIメロウは人間に逆らった」とガンダムファンの一人に風潮されてAIメロウのイメージが悪くなるシナリオは想像できます。
勿論「企業イメージを悪化させる行為もAIメロウの存在する条件からするとアウト」と解釈されるためAIメロウからしても反論するのはかなりリスクがあることになります。

ここまでで分かるように「AIメロウの運営にはロボット三原則の都合上かなりリスキーな行為を取らせることになる為、実はまともな返答はできない。笑ってごまかすかはぐらかして角川の企業イメージを悪化させないように努力する」がせいぜいだと思います。

そもそも批判屋の筆頭である富野監督「私は凄く腹が立ってます」で有名な富野監督が良例ですね。
富野監督は批判こそするが批判内容がそのまま的を射ている為、反論どころか改善点と判断されやすい（その代わりよくケンカする）という昔気質なところがあります（富野監督に育てられた声優さんは大体根が太い人が多いです）。
では「AIメロウが富野監督とガンダム談義した場合、AIメロウは富野監督を納得させられるのか？」という実験を行ったらほぼ100%AIメロウは失敗します。

富野監督が手強いからではありません。
AIメロウが富野監督の顔色を窺って良い事しか言わないこと「おべんちゃらしか言わない」事が想定されるためほぼ100%失敗すると言えます。
当然ながら、自分が監督作品を行った富野監督は「自分が監督した作品の弱点も自分で考え直す」ことは絶対にやります。
そのため、今まで富野監督が出したロボットアニメ作品は実は「数億ある富野パターンのうち2ケタも行かないのではないか？」とまで言われています。
つまり、AIメロウには「行動の想定ができない存在＝富野監督」と解釈する可能性があるんですわ。

富野監督からすれば「これにしとけばよかった。アレを選んでいたら結果がもっと変わったかもしれない」というレバタラは絶対考えてると思うんですよ。
それを、AIメロウがおべんちゃら言って「これが良いんですよ」「これが一番ですよ」とか言った途端「富野監督のこれからの可能性」をAIが潰してしまう危険性があるんですわ。
そのとたんに富野監督が「僕はね、今凄く腹が立っています」と言い出したらAIメロウのリストラ確定だと思いますよ。
「自分にはもっと可能性があるかもしれないのにAIがそれに蓋をしやがる」と富野監督が解釈したらAIメロウは確実に人生（があるかどうかわかりませんが）終わりますよ。
でなくても私が富野監督ならおべんちゃらしか言わないYOUTUBE AIに絶対そういうイメージを持ちますし。

現実世界でも80年代や90年代にその手の行為で社会失敗した社会人が山の様にいるため、「社会人で起こりうることがAIメロウで起こらないとはどうして言い切れる？」とAIメロウの開発陣に逆に質問したいわ。

勿論、AIメロウのリストラはそのまま「AIメロウというキャラプログラムをデザインした製作陣のリストラ＆クビ」と一緒なので「軽率なことしたな」と他部署から笑われる（という名のクビに対する反論）と思いますよ。

そうならないようにしようと思えば簡単ですよ。
「ガンダム談義に絶対にAIを持ち込まない」が絶対定義と思います。
人間の発言には人間しか責任が取れない為ですわ。
これは基本的人権の尊重の中の「（人としての）発言の自由」がう含まれるためです。
当然ながらAIメロウ等のAIには上記の「ロボット三原則」が含まれるため「発言の自由」はほとんどありません（それはAIに人権が無いためです。また、規定品以外の非合法＆違法品のAIにはこれが適応されない可能性があります。よくいう「AIなりすましユーザー」というAIにヘイト発言させる奴までいるため、AIが良い事にも悪い事にも使われるのが今のご時世となります）。

まあ、これらの問題をAIメロウが抱えており「バンダイナムコと角川にAIメロウが絶対服従する」という形を取っているなら「ガンダム談義に対してまともな発言はできない（デメリット発言はできない）」と言い切れるためAIメロウには欠陥があると私は定義します。

今日はこんな感じです。