「正しい」についてを単純に考えるのは間違い。
小学校一年の時の正しいが中学一年でも正しいのか。自然の理を知ることで人間の正しいは変わります。
【フィクションではない！「AIによる人類滅亡」 最も避けたいテクノロジーの悲惨な末路とは 小川 和也 東洋経済】
https://toyokeizai.net/articles/-/703435 抜粋
北海道大学客員教授の小川和也氏が、テクノロジーによる自滅のリスクについて警鐘を鳴らしている。小川氏は著書『人類滅亡2つのシナリオ AIと遺伝子操作が悪用された未来』の中で、2つのテクノロジーの、“想定しうる最悪な末路”を提示する。同書より、一部抜粋・再構成して紹介する。
この2つ（人工知能とゲノムテクノロジー）の技術は、われわれの根源である知能と生命に直接的に大きな影響を与えるためいっそう輝かしく、その一方で、従来の技術とは異質の脅威、闇を作り出す�狎�在力〞も持つ。
なぜ、この2つの技術には闇を作り出すリスクがあると主張するのか。画期的なテクノロジーほど暗転したときのリスクが大きくなるのは、�牾�〞をはじめとした歴史が示したとおりである。そして、進化とともに多大な影響力を持つことになる2つのテクノロジーが、もうすぐターニングポイントを迎えることになる。
ゲノム編集の分野では、技術的には肉体的に操作され、個性や外観を変えられたデザイナーベビーがすでに現実味を帯び、ゲノム情報の解析が超高速化し、コストも限りなくゼロに近づくことで、生命の操作が容易になる。AIの分野では、人間の知能を人工知能が凌駕する場面が目立ち、シンギュラリティは体感となり始める。2030年代から2040年代にかけて、「生命」と「知能」に関する技術がこのような転換点を迎える可能性は濃厚になりつつある。
これは人類にとって、明暗を分ける岐路である。転換点にかけての人類の行動が、強力なテクノロジーを最良な手段とするか、最悪な方向に暗転させる地雷とするかを決めると言ってもいい。そして、「悪意」が制度の甘さに付け込むことや、利益を追求する「悪意なき悪意」によって2つの強大な科学技術を制御できなくなれば、将来的には「人類滅亡」という悲惨な末路につながる可能性がある。
人類が判断を誤れば、この数十年で�犧念�な未来〞への道を歩み始め、来世紀を迎える頃には、様相が修復不可能なほど悪化していることも想定しておかなければならない。そうなれば、「滅亡」は数世紀以内に起こる可能性が高まる。
ゲノム編集技術で、人間の能力を拡張したり、理想的な人間を生み出したりすることに優位性を求め、もしくは何かしらの理由でそうせざるを得なくなり、歯止めが利かなくなったとき。あるいは人間が、知能に基づく多くの活動を人工知能に委ね、自然の流れで自らが進化する力を弱体化させたとき。そんなときに、「人類滅亡」という最悪のシナリオは現実のものとなりかねない。「人類滅亡などSFにすぎない」と思われるかもしれない。だが実際、地球の歴史が始まって以降、何度も生物の大量絶滅は繰り返され、種の絶滅は頻繁に起きてきた。
ログインしてコメントを確認・投稿する