AI万能の怖さ

毎日新聞が報じていたが、
オランダでまったく不正をしていない女性が
育児資金の不正受給で有罪となり生活困窮に追い込まれたという。

こうしたケースが増えたことに疑念を抱いたオランダの新聞社が
調査に乗り出し、その原因が、ＡＩにあるということを突き止めた。

どういうことかというと、役所の事務を簡素化するために
過去の不正受給ケースをＡＩに入力して、
自動的に不正を発見することにした。

ところが、この入力時に、アフリカ系、イスラム教圏などからの
避難民の名前を中心にＡＩに覚え込ませた結果、
ＡＩが学習を重ねるに従って、
これらの避難民が狙い撃ちされることになったというのだ。

入力時に避難民への偏見が強くあったとされており、
不正受給の疑惑をかけられた女性も、
「原因は私の名前にあったようだが」といっている。

ＡＩは、人間の頭脳に代わって様々な仕事に関わるだろうが、
今回のケースのように、偏見を持って恣意的な入力をすると、
とんでもないことになりかねない。

オランダのケースは、入力するのが人間である以上、
どの国でも起こり得ることである。

ＡＩ万能信仰への警鐘として学ぶべき事案だろう。