生成AI

先日（5月17日）の新聞に”生成AIの法整備検討”という記事があった。どういうことか。生成AIとはなにかというと、まずAI（人工知能）とはコンピュータが発明されてすぐのころからこの考えははじまった。コンピュータが人間と同じように考え、発言、実行する。昔のSF小説や映画でコンピュータが人間と同じように考えるシーンがよく出てきた。”２００１年宇宙の旅”のHALがそうだし、安倍公房の”第四間氷期”のコンピュータもそうだ。
コンピュータの構造はというと大量の情報を学習し判断する。ディープラーニングという方法でこれを行うためには大量のメモリーと計算が必要なため、ハードウエアとして大量のメモリーと計算能力が生産されるようになってやっと実現化してきた。
チェス、囲碁、将棋といったゲームの世界でその計算能力を発揮してプロの人間と競争してきたが今では人間ははるかに及ばなくなっている。
AIの技術革新が進み様々な問題が出てきてAIに対する社会対応が追いつかなくなってきた。特に生成AIと言われるものが出てきて急激に知能化してきている。
これは指示文を解釈してそれに合わせた回答を出すようになっている。条件を付けて指示するとたとえば音楽を作る、文を作る、絵を描く、計算をする、画像を作る、など様々な機能のAIプログラムがある。日本語でも使えるものもたくさんある。

しかし生成AIはいろいろな社会問題を抱えるようになってきた。
これは1つには生成AIがいわゆる”オープンAI”としてソースプログラムが公開されたことにある。つまりだれでもがプログラムソースを入手でき自由に修正変更することが出来る。
オープンソフトとして公開されると世界中のプログラマーがいち早く問題点を見つけ出し修正できるという利点がある反面目的を変えて改竄することが可能になる。生成AIは様々に派生したプログラムが世界中に出回っている。

少し前にテレビで画像処理生成AIで作られたフェイク画像（ニセ画像）が出回って問題になっていることをやっていた。そこで紹介していたのに、イスラエル軍による幼児殺害画像やウクライナのゼレンスキー大統領が戦争から撤退を呼びかける動画や逆のプーチン大統領の同じような画像などがあった。そのほかポルノ動画で顔を有名人に変えたものなどもあった。もちろんテレビなので顔以外はモザイクがかかっていたが。
日本でもこの手のフェイク画像はいろいろ出回って問題を起こしている。少し前に有名人が投資を呼びかける動画が出回って当人たちが無関係であることを表明したり、ありもしない災害画像が出回ったり、以前動物園からライオンが街中に逃げ出したとする画像が出てパニックになったこともあった。

こういった生成AIの闇市場もあり大量に出回っているらしい。そのため欧米では罰則を含めた法律が作られている。
日本でもようやく生成AIに対する法整備が行われようとしている。しかしまだ罰則はなくガイドラインとして作ろうとしている。
生成AIは社会的にも非常に有用なツールとしての将来性があるが、悪用すればとんでもない犯罪ツールとなる。
いずれは罰則などもできるだろうが、しかし法制化によって本来の有効な機能が阻害されるようなことがあってはならない。以前あったことだが使うほうの問題なのに制作者が罰せられたことがあった。このようなことがあってはならない。