犯罪の相談にも応じてくれるらしい。

倫理的なプロテクトが掛かっているそうで、素直に相談すると、

倫理的に応えられません。

と答えるそうですが、搦手で聞くと、答えてしまうそうです。
これらの搦手を想定し、セキュリティーを強化すると、今度は答えられる事が少なくなってしまい、意味が無くなってしまうとか。

ただ、この情報だけでも、どういう聞き方をすれば良いか分かるわけですよね。
で、結論は、包丁等を例に出し、道具ですから、結局は使う人の問題。という話だったわけですが、それで良いのか？と思った次第です。
包丁などとは比べ物ならない位の万能性ですよ？ｗ

AIに自らの穴を埋めさせる案もあるそうなのですが、もうこの時点でAIがハイリスクな道具である事が露呈してしまっているわけですよね。

想定外の使われ方をされた事により、ちょっと凄いコンピューターウィルスを作ってしまったそうです。これらの行為は「監獄」と呼ばれているそうで、セキュリティーで答えられない環境から出す事で、犯罪の手口を教えてもらうんだとか。
その昔、某国でセキュリティーを破るのに、懸賞金を出して破らせていたという実話なのか、都市伝説なのかとい話がありました。
お金に困っている自国民数億人が、一斉にお題に取り組むわけです。
仮にセキュリティーが破られずとも、数億のアクセスが集中すれば、まぁ、ダウンはしますよね。
こういう攻撃まで想定した時に、AIに自身の存在意義を保ちながらセキュリティー強化を考えさせた時に、どの様な解決策が生まれるのでしょうかね？
その問いも、案を出させるのか、実行までを求めるのかでも変わってくるわけですよね。

良いですか、凡庸な私ですら、ここまでの事は考え付くわけですよ？ｗ

で、

1.当たり障りの無い有効性のありそうな案を提示
2.解決案が出れば、実行との指示が出る。
3.人類滅亡のシナリオを描く
4.人類滅亡

ありきたりな話で、小説のネタにもならない展開ですが、穴を塞ぐ案を出し、そのシミュレーションをしたところで、受け答えをする機能がある限り、次の穴が見つかるわけですよね。
自己の保全を考えた際、出てくる答えは、問を封じるしか無くなるわけです。

真面目な話、ロボット三原則が組み込まれているのか心配になります。

人類を滅亡させるのは、案外簡単な話ですよ？

薬の開発にAIを使えば、最適解と称する最悪の回答を用意する事も可能なわけですよね。
潜伏期間が長く、感染力と致死性の高いウイルスを作り、それをばら撒けば良いだけの話ですからね。
新型コロナウイルスを例に取れば分かりますよね。
あのウイルスは、基礎疾患のある人には致死性の高いウイルスだったわけですが、潜伏期間が3日〜14日と微妙に短かったのですが、それでも世界中に蔓延したわけです。
この潜伏期間が1ヵ月だったら、基礎疾患を持っている方々は、結構な割合で淘汰されていたのではありませんかね。

人が人よりも優秀な何かを生み出し、それを管理コントロールできると思うのは驕りだと思うんですよね。
手工具の範囲なら、自分が怪我をするだけですが、動力になった途端、複数人を巻き込む事故になるわけです。

開発を中止し、開発そのものを禁止すべきなのではありませんかね？
少なくとも、穴を塞ぐことが不可能な状態で、一般に公開すべきものではありませんよね。






■ChatGPTに“シークレットモード”機能追加　企業向けプランも計画中
https://news.mixi.jp/view_news.pl?media_id=32&from=diary&id=7389072

　米OpenAIは4月25日（現地時間）、AIチャットサービス「ChatGPT」に、チャット履歴を保存しない機能を追加すると発表した。ユーザー設定で「Chat Histroy & Training」をオフにすれば、AIとの会話はモデルのトレーニングに使われず、サイドバーにも表示されない。



【その他の画像】



　この機能は同日からすべてのユーザーに展開される（本稿執筆時点で筆者の環境ではまだ表示されない）。



　OpenAIは数週間前に履歴を保存しないオプトアウトを可能にしているが、Googleフォームから申請する必要があった。



　新たな機能では、設定画面でいつでも変更できる。なお、チャット履歴を無効にしても、不正行為監視の目的で会話は30日間保持される。






　OpenAIはまた、ChatGPTの新たなプラン「ChatGPT Business」も発表した。「データをより詳細に管理する必要のある専門家や、エンドユーザーの管理が必要な企業向け」のサブスクリプションとしている。このプランはChatGPT APIのデータ使用ポリシーに従うもので、つまりエンドユーザーのデータがモデルのトレーニングに利用されることはない。このプランは向こう数カ月中に提供を開始する。



　さらに、ChatGPTデータをエクスポートする機能を追加した。こちらは既に利用可能になっている。



　エクスポートに含まれるのはアカウントの詳細とすべての会話。データはダウンロード可能なフォーマットのファイルとして登録したメールアドレスに送られる。



　こうした動きは、EUや米連邦政府が生成AIサービスによるデータ使用などについて調査するChatGPTタスクフォースを立ち上げる中で行われた。イタリアは3月、プライバシー規制が順守されるまでChatGPTの利用を禁止すると発表した。イタリアは、ChatGPTがユーザーにデータを管理できるツールを提供するなどの要求に応じればサービスを再開できるとしていた。


ITmedia NEWS

「ChatGPTに入力した内容、学習されたくない」オプトアウト申請可能　DALL-Eも
ChatGPTにイタリアデータ保護当局が禁止命令　プライバシーの懸念で
ChatGPTの利用を社内で許可すべき？　懸念される情報漏えいリスクとは