【ＡＩ】ネットのディープラーニングに潜む危険

ディープラーニングによって得られる特微量は、現実社会の裏側のほうが多い。

人類終了のお知らせ　AIロボットがついに「人類を滅亡させる」と発言
http://news.mixi.jp/view_news.pl?media_id=128&from=diary&id=3921692

マイクロソフトのＡＩでもそうだが、学習にネットの情報を使っている。

「ネットの情報」は現実社会の建て前と、裏側のドロドロした不満で
構成されているが、多くはストレス解消のはけ口になっている。

「言葉」の文化でもそうだが、人を褒める言葉より、人を蔑む言葉のほうが多く、
人間は「悪口を言う」のがものすごく得意なのだ。

政治家の「ヤジ」でも、肯定するときは「そうだ、そうだ」程度だが、
否定するときのヤジは、ものすごくうまい言い方をする。

ディープラーニングの統計では、特徴的な多いほうを学習するから
ネットの情報から学べば、不満や愚痴を学ぶだろう。

単純に、その問題を解決するには、問題の重点要因を無くせば良いので
人類共通の答えは簡単に出てくる。

現在のＡＩは人間の脳をモデルにプログラムされているから、
人間の成長と同じように「好き・嫌い」の選択を蓄積して人格を
構成されるようになると、自我に目覚める日が来るだろうなぁ・・・


ただし、ＡＩに可能なのは、過去のデータから学ぶことしかできない。
データの無いものには、まったく無力だ。

ところが、人間は本能にプログラムされている自己防衛のための
第一印象という不思議な能力がある。

これのおかげで、未知の出来事でも、危険か、安全か、0.3秒で
判断してしまう。ＡＩには無理だろうな。