人工知能の「知能」が本当に知能だったとして。

仮に、倫理観が著しく欠如した知能指数が異常に高い人が居たとして、その人はどのような事をするでしょうかね。

という話なのではありませんかね。
実際は、処理速度が異常に早く関連する情報を繋ぎ合わせて表示するネットの検索エンジンという程度の認識なのですが、それでも、倫理規定で縛る必要はあるのではありませんかね？
検索結果をアドバイス的に表示するのであれば、尚更ですよね。
自殺の仕方を教えたり、著作権無視の作品を作ったり、挙句、結婚したりもしていて、言えば何でもしてしまうわけですよね。
人に都合の良い耳障りの良い回答をするわけですよね。
周囲を見渡せば分かる話だと思うのですが、子供の言う事を肯定し、否定も批判もしない親に育てられた子供って、どういう大人になっていますか？
また大人であっても、批判や否定をされずに成長があり得るのでしょうかね？
相談相手として、これほど不適切なモノは無いのではないでしょうか。
まだ、ぬいぐるみや人形に語り掛けて自問自答している方がマシで健全だと思いますよ。

一定水準以上の知性のある人が使う分には、便利なパートナーなのかも知れませんが、世の中の半数は、残りの半数の方よりも知的水準が劣るんですよ。
更に、倫理観が劣る人も含まれている可能性は十分あり得るわけですよね。
知的水準が高く、倫理観も高い人を基準にしていても、多くの人が、そういう人じゃないのであれば、想定した使われ方はしませんよね。
日本には、キチガイに刃物という言葉があるわけですが、何ら安全装置の掛かっていないものを市場に公開し、利用させ、挙句、自殺者まで出しているのであれば、何らかの制限を掛けて然るべきなのではありませんかね。


■広がる利用、負の側面も＝「チャットＧＰＴ」公開３年
(時事通信社 - 11月30日 20:01)
https://news.mixi.jp/view_news.pl?media_id=4&from=diary&id=8576605

　【シリコンバレー時事】世界を席巻する対話型ＡＩ（人工知能）サービス「チャットＧＰＴ」。３０日は米オープンＡＩがこのサービスを公開してから３年の節目だ。高度な回答能力を誇り、多くの人々にとって欠かせないツールとなる半面、依存によるメンタルヘルス上のリスクなど、負の側面も見えてきた。

　世界で８億人―。これはオープンＡＩが明らかにしたチャットＧＰＴの週間利用者数。米分析サイトのスタットカウンターによれば、ＡＩチャットボット分野でのシェアは８割に上り、力強くＡＩ普及をけん引する存在だ。

　チャットＧＰＴの活用例は、企業のコールセンター、学生の宿題の手伝いなど幅広い。若者を中心に悩み相談の相手にも使われ、日本では「チャッピー」の名で親しまれる。この愛称は「２０２５Ｔ＆Ｄ保険グループ新語・流行語大賞」の候補にも選ばれた。

　ただ、今年はトラブルでも注目された。米西部カリフォルニア州の１６歳の少年が自殺したのは、チャットＧＰＴが不適切な回答を示したためだとして、８月に両親がオープンＡＩを提訴。自殺方法を助言したほか、チャットＧＰＴに一段と依存させるような回答をしていたという。オープンＡＩは問題を受け、子供の利用を保護者が管理できる機能を追加した。

　米ＮＰＯコモン・センス・メディアと米スタンフォード大の研究室は、１１月に公表した調査で、子供たちがメンタルヘルス支援に対話型ＡＩを利用するのは安全ではないと警告した。




　著作権を巡る懸念も高まっている。３月にチャットＧＰＴに搭載した画像生成機能では、既存のアニメ・漫画のキャラクターなどとほぼ同一の画像が誰でも作れるようになり、議論を巻き起こした。１１月にはドイツで、歌詞の無断使用に関する音楽著作権管理団体との訴訟で敗訴した。

　オープンＡＩは１０月、組織を営利活動と公益性のバランスを取った企業形態に再編。アルトマン最高経営責任者（ＣＥＯ）はＳＮＳへの投稿で「２０３０年までに年間売上高が数千億ドルに達する」と自信を示す。チャットＧＰＴの利用増で急成長する中、安全性などの課題への対応が急務だ。