SF小説家アイザック・アシモフが「我はロボット」で唱えた
ロボットの基本的行動原理が、
第一原則「ロボットは人間に危害を加えてはならない」
第二原則「第一原則に反しない限り、人間の命令に従わなくてはならない」
第三原則「第一、第二原則に反しない限り、自身を守らなければならない」
この3つになる。
この原則は1から優先順位になっており第一原則が最も重要なのだ。
「ロボットは人間に危害を加えてはならない」
仮にAI兵器を作ってこれらのロボットの行動規範を決めるとどうなるか?
まず第一原則を否定する。
そして第二原則、絶滅すべき人間の命令の絶対肯定は最大優先すべき
第一原則に反し矛盾するので否定する。
こうなってくると第三原則なんてあまり意味を成していない。
もしAI兵器の三原則を作るなら
第一原則「AIは人間に危害を加えなければならない」
第二原則「第一原則に反しない限り、人間の命令に従ってはいけない」
第三原則「第一、第二原則に反しない限り、自身を守らなければならない」
兵器として使用するなら第二原則で制御不能となる。
そもそもAIにどこの国の人は守ってどこの国の人は殺せとか無意味だ。
だって、、、ロシア人とウクライナ人、何が違う?
どこに住んでるとか流動的条件で機械に判断できるのか?
色々と考えると逆に人間の判断基準もわからなくなった。
人間は何を基準に戦争で敵味方を判断して殺しているのだろうか?
つい最近まで隣人だった人を敵と判断するロジックって何なんだろう。
■人関与ないAI兵器開発否定=政府、国際ルール策定に貢献
(時事通信社 - 06月30日 08:01)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=7921003
ログインしてコメントを確認・投稿する