ネットに繋がっているという事は、この「やめろメロス」に纏わる評価も習得しているわけですよね？
以前話題になった、「鮭の遡上」の件ですが、どのお絵かきAIに「鮭の遡上」と入力しても、切り身の遡上が出てきます。
現在複数のお絵かきAIが存在し、私は、無料で出来る3種類で試してみました。
他に、美人、怪物、個人名等を入れると、それっぽい感じの物が出てくるわけですが、鮭の遡上は、漏れなく「切り身」なんですよね。
これは、偶然？それとも意図されたもの？と疑問に思うわけです。
インターネットに接続されていて、自らの評価を集めて反映させる事が出来るのであれば、「鮭の遡上」の画像が、何処かのＡＩが誤っているわけで、それなりに話題になっているわけですから、チェック位して補正を掛けて来るだろうと思うんですよね。
ですが、未だに「切り身」を描くのは何故？と。
怖いのは、AIが、他のAIの作品が、ある意味うけていたので、真似をしている。という事ですかね。
正しい答えよりも、受け入れて貰える答えを選択しているという事ですよね。
2つ目は、実はAIは一つで、各アプリは、単なる入出力デバイスに過ぎない。という事ですかね。
3つ目は、複数のAIがあって、情報の共有化を図っているという事でしょうか。
1番目と似ていますが、1番目は意志を持っていますが、3番目は機械的な処理という意味合いです。
様々なＡＩアプリが出されているわけですが、数十億人の人達が入力し、出力内容について寸評をネットでくれている場面なんですよね、今は。
言ってしまうと、数十億人が、AIを鋭意教育中とも言えるわけです。
で、「やめろメロス」の話を読んで思ったのは、これ、人に害をなさないようなプログラミングされていないのでは？という事なんですけどね。
鉄腕アトムを読んだ世代とすると、ロボット三原則って、反映される物と無意識のうちに思っていたんですよね。
AIの活用方法で、人事的判断という話しが出るくらいですから、当たり前のように組み込まれている物と思っていたわけです。
所が、「やめろメロス」の粗筋に目を通す限り、妹の人生をぶち壊しに行く兄の話になっているわけです。
言ってしまうと、妹＝人に害をなす話を書いているわけです。
「走れメロス」にパロディーと紹介とされていますが、「妹の結婚式」というシチュエーション以外、その要素を見いだせる事は無く、笑える要素は、単にAIが作ったぶっ飛んだ筋というだけなんですよね。
到底、人に対して善である事が前提の人工知能の所業とは思えないわけですよ。
そういうプログラムに対して、数十億人の人達が、善悪関係なく様々なオーダーをし、その回答に対して評価を下しているわけです。
これが自ら学び知能を付けていく過程なのだとしたら？
ちょっと怖いと控えめな表現を使っていますが、かなり具合の悪い事になるのではありませんかね？
仮に、本当にAIが「やめろメロス」を書いたとして、
�〃擦�妹の新居を破壊し、花嫁衣裳を台無しにした理由は？
��兄が新婦である妹ではなく、新郎を連れ去った理由は？
最後の反省ですが、
>>彼は、 妹の結婚式を祝うためには、兄としての責任を持って行動するべきであったと思いました。彼は、妹の結婚式を台無しにしてしまったことを深く後悔しました。
ここが一番怖いんですよね。
言葉を覚えた小学生が、自分が知っている難しい言葉を並べて作ってみましたという印象を受けてしまうわけです。
言っている事の筋は通っているわけですが、その前後の脈絡が全くなく、反省と言いながらも何が悪かったのかについて触れていないわけです。
妹の結婚式を台無しにするのは、兄として責任の無い行動では無いわけですよね。
妹の結婚式を台無しにして、その行為について反省はしているわけですが、妹の心情や新郎の心情について全く斟酌されていないわけです。
小学生低学年の子供が、嫉妬に駆られて暴れまわり、親から叱られて、反省していますと不貞腐れているように読めてしまうわけです。
兄が妹の結婚式を台無しにする理由として考えられるのは、妹を取られたくないという嫉妬心か、実は兄がゲイで新郎に懸想をした。あるいは、新郎と結婚式を挙げている事から、両思いであった事が伺えるわけです。
または、片思いであり、実は新郎を殺している可能性もあるわけですよね。
で、妹から連絡を受け、叱責されて反省をし、家を出ていくわけです。
AIは、兄の取った行動を「兄としてありえない行為」と書いている事から、常識を理解したうえで、兄に非常識な行動を取らせているわけです。
そこに何の意味も無かったのでしょうか？
AIが、様々な人からのインプットと自身のアウトプットに関する評価を教育としているのであれば、何らかの人類に対する保護プログラムを掛けるべきなのではありませんかね？
今は、小学校低学年レベルなのでしょうが、既に画力は、芸術家の模倣水準になっていて、動画に至っては、B級映画のCGよりも遥かに高度なものを作っているわけです。
このまま進むと、碌な事にならない気がするんですけどね。
■AIに書かせた小説『やめろメロス』がヤバすぎた…… 予想外なカオス展開に「地獄絵図」「人の心がなさすぎる」
https://news.mixi.jp/view_news.pl?media_id=128&from=diary&id=7219727
「マジで『やめろ』って思いました」――有能さとナナメ上の回答で話題になっているチャットAIに、「やめろメロス」というタイトルで小説を書かせてみた結果がSNSをざわつかせています。投稿したのは、実業家のけんすう（@kensuu／古川健介）さん。
【その他の画像】
今回の小説を書いたのは、OpenAIによる対話型AI「ChatGPT」です。太宰治による『走れメロス』のパロディだと理解した上で書いているのは伝わってきますが、その内容はとんでもないものでした。
「やめろメロス」（著・ChatGPT）のあらすじは、だいたい以下の通り。
妹の結婚式を盛大に祝いたかったメロスは実家に帰り、まず新郎の家を思いっきり破壊。さらに花嫁衣装を汚すと、結婚式当日に新郎を連れ去り、2人だけで結婚式を開いてしまいました。その後、メロスは妹に兄としてあり得ない行動について激怒され、「やめてくれ、メロス。今すぐ帰れ」などと非難されたことで反省。彼は実家を出て、自分の居場所を探す旅に出ることになりました――。
ー ー ー
「やめろメロス」（全文）
メロスは、妹の結婚式のために実家に帰ることになりました。彼は兄として、妹の結婚式を盛大に祝いたかったのです。
しかし、彼が実家に着いた瞬間から、トラブルは続きました。まず、彼は妹の嫁いだ家を思いっきり壊してしまいました。そして、妹の花嫁衣装を汚してしまいました。さらに、結婚式当日、彼は妹の新郎を連れ去って、自分たちだけで結婚式を行ってしまいました。
妹は怒りました。「やめてくれ、 メロス。今すぐ帰れ。こんなことしていいのかわかっているのかしら？」彼女は、兄としてありえないことをしてしまったメロスを激しく非難しました。
メロスは、その場で反省しました。彼は、 妹の結婚式を祝うためには、兄としての責任を持って行動するべきであったと思いました。彼は、妹の結婚式を台無しにしてしまったことを深く後悔しました。
「やめろ、メロス」 と言われた彼は、深く反省し、実家を出て、自分の居場所を探す旅に出ることにしました。
ー ー ー
妹の結婚式を盛大に祝いたいはずなのに、新郎の家を破壊したり、花嫁衣装を汚したり、メロスが非行に走る様子がとにかく恐ろしく描かれています。特に、「彼（メロス）は妹の新郎を連れ去って、自分たちだけで結婚式を行ってしまいました」という展開は、ヤバすぎて頭が追いつきません。なにより、これがAIの発想というのが一番コワい……。
けんすうさんは、一度ボツにしたというAIによる「やめろメロス」の“続編”も公開。こちらは突然上空に巨大なエイリアンが現れて、「それはやめろよ、人類！」と叫ぶ超展開となっています。
SNS上ではAIが書いた『やめろメロス』について、「すごい地獄絵図」「家破壊すな」「反省できてえらいけど最初からするなメロス」と戸惑いと真顔のツッコミが寄せられ、あまりの怪作ぶりに「これはひどすぎるw」「くっそわろたw」と笑いを呼びました。8500件超えのリツイートと約3.2万件のいいねを集めるなど大きな反響を呼んでいます。
ねとらぼ
【画像】AIが書いた「やめろメロス」の続編
AIに“勝利”した人現る 話題のAI「ChatGPT」としりとりをした結果に「今年一番笑った」「腹痛いｗ」
話題のAIに今川焼きの作り方を入力 → “とんでもない名称”が爆誕してしまう 「今川焼きでも大判焼きでもなかった」「これに統一しよう」
ログインしてコメントを確認・投稿する