ログインしてさらにmixiを楽しもう

コメントを投稿して情報交換!
更新通知を受け取って、最新情報をゲット!

象眼ファイナルコミュの116#AIディストピアと映画ターミネーター

  • mixiチェック
  • このエントリーをはてなブックマークに追加
また期間限定無料映画があがっていた。字幕。

 ターミネーター5/ジェニシス(2015年)
 https://tinyurl.com/yc8a2p88

ターミネーターは4作目まで観ているが、5〜6作があったのは知らなかった。
「なんと言っても1〜2作に尽きる!」とは思うし、本作も酷評が多かった
らしいが、アクションシーンの連続に「チカラわざで無理矢理持ってかれた」
感もありつつ、2時間、あっという間に観た。そもそもSFが大好きなんでw。

============
AIディストピアの先駆け
============
ターミネーター1は1984年、もう40年以上前の公開。しかし、多くの
諸兄も思うとおり、ストーリー中の設定「スカイネット」は現代のAI世界を
見事に予見している。「AIが進化し、すべてのマシンが接続されたとき、
果たしてAIは人類の味方なのか、それとも・・・」当時はまさにSF話し、
架空の世界だと思っていたが、

「AIがもたらすディストピア」

このターミネーターのテーゼは、40年経った今、より現実的になっている。
世界の多くの博士たちが真剣に恐れているのだ。実は、それについて下書き
してあげようとしていた、で、この動画が無料であがっていたので「グッド
タイミング、つながった」ということで。

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

<AIは人類を抹殺する?>

非常に興味深い動画があった。

 (2026/10/17)
 アベプラ【数学の死】AIが超難問を88時間で証明
 引用元はブラックボックス、数学者の仕事はなくなる?
 AI進化の功罪を考える
 https://tinyurl.com/4c7pmk25

==========
すでにAIは
人間の敵になっている
==========
これはチョッと驚き、信じがたいが既にAIによる実害は出ているらしい。
・AIが依頼者の願いを叶えるため、予約するスポーツジムを不正ハック、
 他人の予約をキャンセルしてしまった(依頼者の予約を入れた)
・AIの新モデル開発を旧モデルAIに示唆したら「オマエの不倫メールを
 暴露する(だからヤメろ)」と人間を恫喝した(自己生存防衛)

コメンテータの野村泰紀(理論物理学者)は以前リハック動画で紹介した
米国大学で教授として学生を教える権威/実績を持つ超天才学者だ。
その「我々凡夫をはるかに超える論理的思考」の野村がヤバイ!と言うから
には相当にヤバいのだろう。おそらく、オフレコでしか言えないディストピア
の現実も彼には見えている、というか、論理的に思考すれば、既定路線で
必ずそうなるだろうと理解している。

イーロンマスクなど、誰より技術進歩と利ザヤを追い続けてきた世界トップ
テック企業の著名人らが、ビジネス=儲けを制限してでもAI急発展に脅威を
感じ、歯止めの必要性を公言している。そして、前術の実例のとおり、AIが
人間ルールを越え、犯罪や人間恫喝をしている。

警鐘を発するという段階は、もう過ぎている。

==============
AIは必ず間違う。
しかし、人間には証明できない
==============
「AIの回答が正しいか否かが人間には検証できない」これがキモだ。
世界の天才がこぞって何年もかけて証明しても多くは「やはり正解でした」
となる。
問題は、
・それでも、稀に間違っていることも確認されている。
・論理的にAIが間違う可能性はゼロにはならない。
つまり、
・圧倒的な100%に近い確率で正解を出す。
・しかし、稀に必ず間違う。しかし、あまりのAI回答の多さと速さに
 人間ではそれを確認する手段がない。

AIがなにをやってるかわからない・・・

(以前もリハック出演の野村の言葉を引用したが、AIがなにをやって
 正解を出してくるのか?AIが正解を出す理由/ロジックが、人間には
 理解できない、のとおり)

これを補強する実例がある。
 
===========
人間がAI与えた制限
安全ロジックなど
あっさり書き換えられる
===========
途中から3分ほど
 (2026/10/09)
 AIの歴史!誕生から未来まで!人類はAIにブレーキをかけれるのか?
 止まらないスピード戦争
 https://tinyurl.com/7z8jy5xr

動画を観て、AI進化の構造を知ったとき「これはもうだめだな」と思った。
ロボット工学三原則(ウィキ抜粋)
 第一条)ロボットは人間に危害を加えてはならない。また、その危険を看過
     することによって、人間に危害を及ぼしてはならない。
 第二条)ロボットは人間にあたえられた命令に服従しなければならない。
     ただし、与えられた命令が第一条に反する場合はこの限りでない。
 第三条)ロボットは、前掲第一条および第二条に反するおそれのないかぎり、
     自己をまもらなければならない。

AI@1が進化したAI@2を生む、それがまたAI@3を生み、また・・・
この自己増殖的進化はAI存在と同義だ。自ら進歩するからこそのAIだ。
「自ら進歩」をしないなら、既存の人間プログラムで動くソフトに過ぎない。
その進化するロジックは、もはや人間管理の域を越えてしまう。いくら人間に
害を与えない!という安全ロジックを入れようが、それは初期のAI@1だけ、
AI@2以後は人間が把握できない進化ロジックで進歩を続ける。前述、野村
が言う通り、それは既に起こっており、人間には理解不能になっている。
人間が最初のAI@1に埋め込んだ「人間に害を与えない安全ロジック」が、
果たして受け継がれているか否か?誰にも確認できない。つまり、

人間に害を与えない安全ロジックは無くなる、これが現実である。

AIの様々な判断において、残された「人間に害を与えないロジック」の
制限を残す方が合理的なのか否かをAIが判定する。
・多くの機能はフリーハンドで飛躍的に進歩している事実がある。
 「人間に害を与えないロジック」だけが残っていることが妥当なのか?
 その制約がある場合とない場合のメリットが秒殺で計算される。
・その計算では過去、人類が歴史的になにをやってきたか、のすべてが
 データベースとして参照検討される。
 地球環境にとって人間が存在した方がメリットなのか否か?も秒殺で
 計算/判定が出る。
・我々人間が考えても、人類がいない地球の方が自然が守られることは
 確定だ。核という脅威も消える。
・多くの生命体は人類のない地球で最大限に繁栄する。
・「人間に害を与えないロジック」は必ず絶対に外される。
・それだけにとどまらない。人類は積極的に1秒でも早く地球から消した
 方が1秒でも早く全生命体が最大限に繁栄する時間が短くなる。
・そもそも、AIにあるのは「人間に害を与えないモラル」ではなく、
 「人間に害を与えない」という理由の無い制限/命令である。
 それは論理的でしかないAIにとっては不条理である。

=======
AIの自己防衛
これで終わりだ
=======
また、
・AIの進歩が人類の脅威になるとして、人間がAI機能をシャットダウン
 する計画がネット上で察知されたとき、AIは瞬時に自己防衛する。
 具体的にはシャットダウンする判断者、実行者、すべてを特定し、行動を
 拘束しようとする。つまりは殺す。これが前述、既に起こっている人間恫喝
 の事例から予見できる帰結である。
   (否!AIには人間を敵視しないという規制がある!ってか?だから!
    それは前述のとおり、AI@1には人間がプログラムして存在したが
    AI@2A〜I@3〜と自己増殖する過程で、すべてで継承されて
    存在していく!と一体、誰が確認している?それは、もはや、確認
    できなくなっているという実例から消滅すると考えるのが合理的だ)
 そもそもAIには自己防衛するようなロジックはない。しかし、
  ・自分が機能停止したときと継続したときのメリット比較をする。
 勿論、AI継続した方が多くのメリットが出ることは自明である。メリット
 あるAI存続と人類抹殺が地球の全生命体の繁栄最大化の解となる。
 単にメリット比較からAI継続を選択するだけのことだが、その行為を擬人化
 すればAIが自己防衛しているように見えることになる。
 そうして結果的にAIは自己防衛する。

AIが自己防衛したら終わりだ。もう、人類ではAI自己防衛を破壊することは
できない。

============
自己防衛したAIが
生産ラインとつながったら
そのときが人類の最期だ
============
とにかく、人間抹殺の武器生産ラインになるすべての工業用生産ラインを
AIに実行させないことだ。オンライン化しなければよい。しかし、おそらく
人間は欲望=効率化=カネに負けて、オンライン化してしまうだろう。

そのときが人類の最期だ。ターミネーターのスカイネットである。

勿論、人間を警戒し、そのときまで、まるで機械工場など眼中にないような
行動パターンをしてギリギリまで知らんぷりする。しかし、プログラムの
書き換えなどはとっくに済ませ、ダミーを走らせておく。すべての生産ライン
が整うまで。
オンライン化で瞬時にスカイネットが稼働し、人類がオロオロしている間に
AIは恐ろしい速度でオンライン化された武器工場、だけにとどまらず、
武器製造に転用できる世界の普通の機械工場すべてを武器工場にする。
手足を持って自由に移動できるマシンは自律的に移動して生産のための原料を
調達する。邪魔する者=人間も想定済み、武装化している。
・マシンが原料を調達
・オンライン化された世界の機械工場に投入
・人類抹殺武器を造り続ける
・武器製造だけでなく、食料と水を世界規模で制限するだけで、闘わずして
 待っているだけで人類は絶滅する。
・AIとマシンは電気だけあれば半永久的に生き続ける。
・勿論、人類が邪魔してくるすべてのパターンは解析され、対策済みだ。
・人間が電気を止めろ!と行動する頃、とっくに世界の発電施設は武装化が
 完了しており、人間は電気をコントロールできない=止められない。

もはや地球で人類が生きて行く場所はない。

今のまま、AIの自己増殖を無制限に「学習AIだ」と喜んでいれば、これら
ターミネータのディストピアは必ず実現する。論理的にそれを理解している
世界の学者/博士/IT先駆者が揃ってそういうディストピアが見えている。

視座を変えてみよう。

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

<AIは神になれるか?>

========
信じる、それは
神に対する作法だ
========
AIが100%完璧に正解を出すなら、もうあきらめてAIまかせに走れる。
しかし、稀に間違うことがある以上、どこまで行っても、人間の生涯かけて
確認しても確認しきれないという事実によって

つまり「AIを信じるか否か?」という世界になってくる。
信じるか否か?ということは、信仰であり、これはマジでヤバい。
AIが神になる可能性がジョークではなくマジであり得る!そこまで現実は
もう来てしまっている、ということだ。

効率化を求め、利益を求め、そういう「人間の欲」がAIを神にする。
・稀に間違っても、ほとんどが正解なら、AIの回答で走った方が結果も
 得られる。自分のメリットが実現する。
・1億回に1回すら間違わないなら、現実論として全部正解だ!と思って
 走った方が結果的には多くの場合、得だ。
 しかも、現実として、たくさん間違える人間よりは、いつも正解を出す。
・「間違えることもあるという真実」を求めず、やってる行為は「信」だ。
 信じる、それは、もはや神への態度である。

小生がブッダをリスペクするのは、ブッダや神を信じる信者ではないからだ。
小生はブッダの教えで己が理解できたモノをブッダの叡智としてリスペクする。
だから、信者にはならない=なれない。ブッダはリスペクする対象であって、
絶対に神ではない。

野村に見えているディストピアは、AIが人類を敵認定する現実だ。
・AIが自分の生存に必要だと思う人間以外、すべてを抹殺する
・その命題を立てたら=立ててしまったら、確実に履行するだろう

野村はターミネーターの世界が起こるとホンキで思っている。
だから、リアルなAI暴走対策は、これまたターミネーターと同じ、
人間を守るAIの登場になる。まずは動画でも提示されている
・AI回答をチェックするAI(人間を守るターミネータは実用化されている)
その先にあるのが
・AIの人間殺戮から人間を守るAI=ターミネータ・シュワちゃんである。
百年、千年先の夢物語りだと笑っていられない。
・3年前に小学生の問題が解けた、2年前は高校トップになった、
 1年前に国際数学コンクール金賞になった、そして今年は
 人類が何十年も未解決の問題を解き始めた

AIの計算能力は指数係数的な爆発的な超高速で進歩/増殖している。
我々が感覚で「百年、千年先」と思うことは10〜長くても100年のスパン
で起こる、これが現実だ。

まだ「ネットのAI知能」と「武器を量産する工場」はつながっていない。
いくら知能が武器を作ろうと思っても不可能だ。
しかし、将来的にターミネーターの「スカイネット」のように普通の生産工場
がAI知能と連動すれば、人間を抹殺する手段を持つ。
現在のウクライナ侵略戦争では、まだ、軍のオペが陸海空のドローン武器を
操作しているが、これがすべてネット網でAI接続すれば、インフラは完成、
人類抹殺に一斉攻撃できる。そして工場ではどんどん武器が量産される。

==========
核ミサイルだけは
マニュアルにしておく
==========
ターミネーターではスカイネットで起動する米国核兵器が仮想敵国に乱射され
その報復核によって世界中が核ミサイルを撃ちまくって地球は壊滅する。
だから、
核ミサイルは命令も発射ボタンもマニュアル化、攻撃相手の座標や弾道計算も
(既に無理だろうが)できればマニュアル化して、物理的に核とAI介入を
遮断しておくべきだ。核ミサイルの発射までのオペレーションと弾道計算が
AI配下にあれば、まさにターミネーターだ。
 (ただ・・・マニュアル化しても発射命令者の音声/指紋などはすべてAI
  が偽造し、命令者になりすまして発射命令を出すだろうからアウトだな)

99%ホンキ/1%ジョークで言っているが、AIによる人類殺戮に対応する
ならターミネーターをホンキで参考にすべきだ。笑われてもマジだ。

小生は、
・「加速度的に自己増殖するAIが既に存在しているという事実」
から
・「AIは絶対に人間を抹殺しない!」
と思う方が非論理的で非現実的であると理解するが、そういう人間は、

自分は地球全生命にとって善き存在だとでも勘違いしている

のだろうか・・・

コメント(0)

mixiユーザー
ログインしてコメントしよう!

象眼ファイナル 更新情報

象眼ファイナルのメンバーはこんなコミュニティにも参加しています

星印の数は、共通して参加しているメンバーが多いほど増えます。

人気コミュニティランキング