自動ニュース作成G
ChatGPTに単語を「永遠に」繰り返すよう促すことでトレーニングに使われた膨大なテキストデータを吐き出させる攻撃手法をGoogleの研究者らが開発 - GIGAZINE
https://gigazine.net/news/20231130-extracting-training-data-from-chatgpt/
2023-11-30 15:24:48
＞機械学習モデルのトレーニングに使用したデータがほとんどそのまま出力されてしまう現象は以前より発生しており、例えば画像生成用のモデル「Stable Diffusion」では下図の様に人名を入れることでトレーニングデータに含まれていたその人の写真をほとんどそのまま出力することができました。
もし著作権が残ってるデータが出力されたらOPENAIにとってまずいことになりそうだな
・ソシャゲの広告絵で多分AIだろうなってのが絵師の絵の色違いみたいな勢いで問題になってたな