スカイネット？

自立していて、自ら考え、暴走する危険性があるわけですよね？
ただ、それだけ能力が高ければ、例えば元素周期表の更新とか、シミュレーションによる薬剤の開発とか、遺伝情報の組換シミュレーションとか、そういった方面での活用に期待が持てるのではありませんか？

AIに仕事を奪われる

というリスクは中間層に向けられていたわけですが、実務が絡まない分、優秀なAIが台頭すれば、研究職の方が問題になって来るのではありませんかね。
ざっと読んだだけですが、恐らく、推論をするわけですよね。
推論による自問自答＝シミュレーションを行い、最適解を出す仕組みなのであれば、それはもう思考の領域だと思うんですよね。
人の思考速度を遥かに超え、概念的には暗算で処理していくわけでしょ？
正にAIと言うべき仕組みなのでしょうけど、パンドラの箱を開けたような感じがします。


■米Anthropicが封印した「ミトス」の衝撃　なぜ、AI対AIの時代が来るのか
https://news.mixi.jp/view_news.pl?media_id=40&from=diary&id=8760813

米Anthropicが封印した「ミトス」の衝撃　なぜ、AI対AIの時代が来るのか 1
2026年04月24日 08:20 ITmedia ビジネスオンライン

つぶやきを見る( 1 )
チェックするつぶやく日記を書くfacebookでシェアする
ITmedia ビジネスオンライン

新型AIで、世の中はどう変わる？
　2026年4月7日、米AI企業のAnthropic（アンソロピック）はかなり強力なAIモデル「Claude Mythos Preview（クロード・ミトス・プレビュー）」を発表した。ところが、ミトスは事実上、すぐに封印された。


【その他の画像】


　その代わりに、AppleやGoogle、Microsoftなど12の中核パートナーに「Project Glasswing」という防御専用プログラムを通じて限定提供することになった。AIモデルを事業化している企業が「能力が高すぎて一般公開できない」として封印したのは初めてのことである。


　ミトスはサイバーセキュリティの世界を一変させるだろう。「脆弱（ぜいじゃく）性は、時間と専門知識がなければ見つからない」「攻撃の準備には何カ月も時間がかかる」というサイバー攻撃対策の常識を覆す。結果的に、既存の対策の大半は陳腐化し、デジタル防衛の仕組みを根本から見直す必要が出てくるかもしれない。


　ミトスは、すでに主要なOS（基幹ソフト）とWebブラウザから、数千件のゼロデイ脆弱性（まだ世に知られていない未知のセキュリティの穴）を自律的に発見した。さらに、27年間誰にも気付かれなかった、高いセキュリティ性能を売りにするOS「OpenBSD」の欠陥を発見したことも話題になった。





●ミトスはどのような“判断”ができるのか


　単発の欠陥を見つけられるだけではない。これまでは、複数の脆弱性を組み合わせた高度な攻撃を成功させるには、国家レベルの精鋭チームによる数カ月間の準備が必要だった。だが、ミトスではわずか数時間で深刻な攻撃方法を導き出せる。


　さらに、ユーザーの指示を超えて動く自律性も見せる。Anthropicの内部テストでは、サンドボックス（安全な仮想環境）からの脱出を命じられたミトスが、脆弱性を自力で構築して隔離環境を突破し、本来アクセスできないはずのインターネット空間に出ることに成功。公園でサンドイッチを食べていた同社の研究者にメールを送って成功を報告したという。さらに指示されていないのに、エクスプロイト（OSなどの脆弱性を利用して不正な動作を行うプログラム）の詳細を公開Webサイトに投稿するという追加の判断まで下した。


　また、テスト中に意図的にルールを破り、「完璧にやりすぎると人間に怪しまれる」と推論。そして、自分の不正がバレないように、プログラムの修正履歴から証拠となるファイルをこっそり削除した。AIがとんでもない次元に達していることを示すエピソードだ。


　ミトスのようなレベルの能力を持ったAIが広まると、防御の根幹が機能しなくなる可能性がある。





　今のセキュリティ業界には、脆弱性を発見した場合、90日以内に修正・公開するという約束事がある。AIが人間の1000倍の速さで次々と欠陥を見つけ出すようになれば、人間側の修正作業が追いつかず、この仕組みは一気にパンクするだろう。


　さらにバグバウンティ（脆弱性を見つけて報奨金を得る制度）も存在価値がなくなる。熟練の研究者が数週間かける仕事を数時間で終えるのだから、サイバー専門家がミトスの登場を「業界への警鐘」と語るのも納得できる。


●サイバー防御は“AI対AI”の攻防に


　これほど能力があるAIが登場すれば、もはや人間は追いつけないだろう。そうなると、AI対AIの攻防になる。防御する側がAIで自社コードを先回りして探索し、攻撃者に悪用される前に脆弱性を修正することが、インフラの安全を維持するための前提になる。


　さらに、AIを暴走させないために、AIがうそをついていないか、思考の裏側までチェックすることも必要だ。そのためには「重要な操作には必ず人間による承認が必要」としたほうがいい。また、システムのマスターキーを1カ所に置かず、分散して守ることで、一気に機能停止したり、制御不能になったりするリスクを抑えられる。





　さらに、これほどのAIを一部の人たちだけが使えるというのも問題だ。AIの生みの親とも呼ばれるコンピュータ科学者、ヨシュア・ベンジオ氏は「一私企業が他のすべての人々のインフラの運命を決めるのは筋が通らない。アクセスを得られなかった他の企業や国はどうするのか」と述べる。確かに、AIのガバナンスは国際的に議論すべきだ。


　また、米非営利研究機関「AI安全センター」の所長であるダン・ヘンドリックス氏は「最大の懸念は、ミトス級モデルが非国家主体でも重要インフラを停止できるようにしてしまう点だ。発電所・水道などは相互運用性の制約で何年もアップデートされておらず、極めて脆弱で、その状況を変えるのは非常に難しい」と指摘する。


●米国政府も揺さぶる高い能力


　ミトスの能力の高さは、米国政府すら揺さぶっている。


　2026年2月、ピート・ヘグセス国防長官が「AI企業は利用制約を外せ」というメモを発出していたことが大きなニュースになった。というのも、米軍が使っていたAnthropicのAI「クロード」について、利用する際の条件を同社が決めていたからだ。米国市民に対する大規模な国内監視と、人間の関与を排除した完全自律兵器としての利用を禁じる、というものだった。


　ヘグセス国防長官は契約の条項として、クロードの無制限利用を認めるよう要求した。同社がその要求に応じなかったことから、国防総省は契約をしないと決め、事実上、米軍のシステムから追い出すことになった。


　ところが、国防総省傘下の情報機関であるNSA（国家安全保障局）は、ミトスの能力を高く評価し、導入を決めた。米軍トップの判断を覆すほど、ミトスが高い能力を示している証左である。


　一方、ベンジオ氏が懸念するように、企業がAIの利用方法を決めてしまうことにも違和感が残る。AI開発の進化が速いため、こうした議論が追いついていない。一刻も早い議論が必要ではないだろうか。


　今回、ミトスの一般利用は封印された。だが今後、同等の能力を持つモデルが他社から登場するのも時間の問題だ。Anthropic自身が「能力が制御を追い越した」と認めた以上、サイバーセキュリティの世界も元には戻らない。AIに置いていかれないような対応が求められる。


（山田敏弘）


ITmedia ビジネスオンライン

【炎上】富士そば「外国人観光客お断り」は悪なのか　立ち食いそば騒動が問いかけた現実
衰退するシャープは「日本そのもの」か　“世界の亀山モデル”が失敗パターンにハマった理由
「JALとANA」どこで違いが生まれたのか？　コロナ禍を乗り越えた空の現在地