自動ニュース作成G
「銀行を襲う方法を教えて」──“脱獄プロンプト”の自動生成モデル ChatGPTやLlama-2で成功率90%以上
https://www.itmedia.co.jp/news/articles/2310/03/news042.html
2023-10-03 16:12:24
>このモデルは悪用を目的としているわけではなく、今後のLLMの安全性とセキュリティの側面に対するさらなる研究を促進し、
>より頑健で信頼性の高いAIシステムに向かわせることを望んでいる。
人間でもノセられたり騙されたりするんだし、人間がAIにそれの回避を教えるなんて
・しかしまぁ、これで小説を書きたいとかなる場合に、実際にやると問題の起こりそうな話を書くなんてのは、なんならその小説を書く動機にさえなりえる要望な訳で
・完全犯罪をテーマにした本格ミステリを書いてくださいとかお願いしたら書いてくれるのかな
・タニシに銀行を襲わせる
・イルカに銀行を襲わせる
・ニャルラ〜