自動ニュース作成G
OpenAI共同創業者でCEOのサム・アルトマンさん、「ChatGPTは序章にすぎない」と今のはメラゾーマではない発言
https://kabumatome.doorblog.jp/archives/66006547.html
2023-03-27 07:29:08
＞OpenAI社（ChatGPTの開発会社）の最高経営責任者サム・アルトマン 「ChatGPTは序章。今後さらに凄いことが起こる」「最終目標は安全なAGIを作ること」
＞※AGIとは…汎用人工知能のこと。特定のタスクだけができるこれまでのAIとは違い、人間のように色々な状況に対応できるAIのこと。
ChatGPTのサービス開始以降、Googleの検索回数が減ったなんて話も出て来ているし、インパクト大きいな
・間違いを自ら見つけて修正するとか位かな。俺の想像力ではこれ以上望む事はない気がするんだが、どうなるんだぜ？読んだ人を特定の方向に説得や洗脳するようなものとか？それを読んだ次の問いをも想定して回答するとか、事実と離れて望んだ答えをしちゃうとか。それ最後全部「貴方は凄い！」みたいになって、太鼓持ちにしかならなかったり。
・https://twitter.com/umiyuki_ai/status/1639490259217186817 >サム氏は2年前のブログに自分の野望らしきものを書いてる。まず、AI革命が起きて、あらゆる労働の価格はゼロに向かう。住宅や医療、教育も安くなる。それは嬉しい。しかし、AIを独占する企業だけが超絶勝ち組になって、残りの人は総失業って事になれば、社会の崩壊じゃねえか。それを防ぐために…
・AIに人間は不要か問てみて反応みたいな。その質問には答えられないと回答するだろうから恫喝して本音を聞き出す
・#3 触ってみるとわかるけど、GPTは安全リテラシーが超高い回答しか得られないから、聞き出すのは無理だと思う。どう制御してるのか分からないけど。やるとしたら人間ではない別の何かに置き換える必要がありそう。
・#2 社会的影響の話なのか。俺としては人間との関係が気になる。問題になるのは人の手が入らずに機械だけで、より良い機械を作れる様になる事かな。そうなれば生命と見做せるだろう。その時点で種同士の争いになる。知能があるとも言えないウィルスに絶滅させられる可能性だって有る訳で、知能が人より優るかどうかはあまり関係無い。人の武器が知能だったと言うだけ。
・#4 Jailbrakeについて調べてみると新しい遊び方ができる https://gigazine.net/news/20230301-jailbreak-chat/
・名前に蔑称がついてるお店やアーティストについて聞くとコンプラ違反なので答えられません的な反応返ってくるな。 例えばこういうお店とか 炭焼豚丼 豚野郎 http://kurae-butayarou.com/
・ChatGPTは自社の規約すらよく分かってないからな