ＡＩのデータの偏り

ＡＩの問題は、偏見をもつということです。ＡＩの訓練する手間からもわかるように、データ入力が不十分な分野ではＡＩは十分に機能しないどころか、誤った結果を出して悲惨なことになってしまうのです。例えば、皆様は意識していないと思いますが、現在ＡＩの開発の大部分は英語圏でなされており、入力されるデータは英語圏のものになります。

つまり日本語やタイ語、トンガ語、モンゴル語、フランス語、カザフ語などの地域の人々の言語は入力されていません。そのため英語圏以外の人々の行動データや画像、動画なども入力されにくくなっています。こうしてデータが偏れば、ＡＩが意図せずに偏見のある、または差別的な応答を生成する可能性が高くなります。

入力されるデータが偏るので、情報量や網羅性も低くなる点も問題です。例えば、ChatGPTは日本の中世における和歌の意味を正しく理解することができません。ボツワナの経済史に関する回答も間違いだらけで、基本的な経済学の回答もメチャクチャです。

少々ニッチな情報は正しく出力することができません。これも入力されるデータに偏りがあるからです。さらにデータがいつ作成されたものか、その時代やタイミングに合っているか、ということも検証できません。そしてまた自然言語解析が、入力された単語や文章を本当に正しく理解しているか、ということも確認することができないのです。

しかもユーザーは、ＡＩ提供企業がどんなアルゴリズムを使ってどんなデータを入力しているか、などがわからないのです。今のＡＩは文脈を読み取るとか、細かい微調整をすることが苦手です。ＡＩの代表格のChatGPTはなんとなくフレンドリーで共感してくれる答えを出しそうに思われますが、微妙および複雑な感情の動きに対応できません。

現状ではプロの作家やアニメーター、音楽家、セラピストの代わりになることがほぼできないのです。特定の目的に対して出力を期待する場合は、ケースごとに微調整も必要になります。

例えば「商品パッケージの中で『スラムダンク』の初期の絵柄に似たものが好きな顧客が好むものを選ぶ」というタスクは、目的が一般的ではなく特殊なためＡＩが妥当な絵柄を選ぶように細かく調整する必要があります。その手間暇はかなり大変です。

さらにＡＩは微調整が得意ではないので、ChatGPTでは誤字、文法エラー、スペルミスに対する感度が限られています。文脈や関連性の観点から完全に正確でない文章を生成することがあります。特に英語以外の言語ではこれが難しいのです。

本家ホームページへ
Home | taku (taku-nakajo.wixsite.com)

石原莞爾平和思想研究会 https://www.ishiwara-kanji.com/

仲條拓躬 - YouTube
@taku-nakajoチャンネル
チャンネル登録お願い致します。

仲條　拓躬 (@takunakajo) | TikTok
フォローお願い致します。
(99+)仲條　拓躬 (@takunakajo) | TikTok

(3) 仲條　拓躬　(タク)（@takuminakajo）さん / X (twitter.com)
フォローお願い致します。
(11) 仲條　拓躬　(タク)（@takuminakajo）さん / X

仲條 拓躬(@takuminakajo) • Instagram写真と動画
フォローお願い致します。

(20+) 仲條 拓躬 | Facebook
(20+) Facebook
(4) Facebook

スレッズ
https://www.threads.net/login


石原莞爾平和思想研究会HP