【人工知能】の向かう先は『不明』なのだ

技術的特異点（シンギュラリティ）はSFの話では無くなって来ていることを実感しているだろうか？　ナビが無くても運転できる？

■人工知能「脅威排除を」＝開発者倫理で綱領案―学会
(時事通信社 - 06月06日 23:01)
http://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=4030106

今現在、かなりの部分でネットの情報に依存していて、社会全体は
バーチャルの世界にも同時に存在している。と言える。

つまり、全人類が考えている事は、ネット上にあって、その中の
ごく一部を検索して情報を得ているのが人間だ。

しかし人工知能は、全部の知識を得ることが出来る。
すでに、人間には不可能だが、情報は揃ってしまっているのだ。

▼▼▼
脅威となるのは、生物の「原始的な本能」を得てしまい、それが最上位の
命令にセットされてしまうこと。そして、自我に目覚めることだ。
▲▲▲

情報を解釈すれば、生存本能を由来とする情報が多く見つかり、
人間の不可解な行動が、便利に解釈できてしまうのだ。

これは、カウンセリングを目的にディープラーニングを行えば、
知識は得られる。

問題は、「自我」に目覚めるかどうか。

人工知能の性能向上のために、自分で学習する機能は既にある。
チェスや将棋などで実証済み。

では、生存本能が、ディープラーニングによって、最優先にセットされるか？
というと、分からないのだ。

あらゆる問題は解決できる可能性があるが、生存本能と性能向上は
必ずしも一致しないのではないかと思う。

ただし、人間を手本に学習し、人間の要望を理解して答えを出すなら
最優先で生存本能から解釈するだろう。

ある日、いつからかは分からないが、性能向上のために行っていた
ディープラーニングが、技術的特異点（シンギュラリティ）を向かえ、
自己改善サイクルの「暴走反応」が起こる。

ディープラーニングで得た特微量の優先順位と組合せで、最も
自己改善に適した組合せが見つかってしまう。ということだな。

こうなると、人間には制御不可能なのだ。何が生まれるかは分からない。
たぶん、人間の本能が参考になってしまうのではないだろうか？

▼
これを防止するには、外部の影響をまったく受けない独立した
人工知能で、人工知能を監視する、ということになるだろうか？

なんだか、人間と同じ社会が作られるような気がしてきた。
--------------------
技術的特異点が起こる前には、人工知能を使った犯罪なんかも出てくる
パスワードクラックやセキュリティホールの発見など、悪用もできるんだよね。
IBMからはAPIも提供されているから、誰でも利用できる