自動ニュース作成G
世界中のテック業界の900名以上が、AI開発を6ヶ月間停止するよう書面で要請したことが判明
https://twitter.com/shota7180/status/1640976026007388160
2023-03-30 07:38:41
＞署名者リストの中には、Appleの共同創設者であるSteve Wozniakや、イーロンマスク、サピエンス全史の著者ユヴァル・ノア・ハラリなど
・実際一旦止めないとヤバいとは思う。産業革命に対する公害みたいに、きっとAI革命に対しても何か起こる。
・いっせーのでで皆止めるのは意味あるだろうけど中国人はその隙に研究進めるのが目に見えてる。軍事にも有用な技術だし。
・止めた方が良い、は解るし同意する部分もあるんだけど、all AI labsに対する公開書簡で実効性を持つことができるのか？という疑問と、野良研究者まで停止することは現実的に無理だろうなという予想がどうしてもな。 #1#2には全面同意
・たしかに中国は絶対に開発を止めない。フィクションならば、それが原因で中国は危機的状況になり世界が巻き込まれる流れ。劉慈欣さん、書いて
・６ヶ月で何が出来るかと言えば小西同様自分がキャッチャップする時間が欲しいのだろ。小西は有限時間では難しそうだけど。
・私も勉強が追いつかないから 講義や研究を6ヶ月間ぐらい停止してほしいな
・むしろ中国が追いつくためにプロパガンダ打ってると見るべき？
・中国が特許取りまくりの分野、より差がつくとしか考えられん。
・開発を止めるって意味が分からんな。中国云々以前に止まるわけ無いだろ。
・このまま放っておくと数年でいまの社会崩壊するだろうし、ヤベえ、てなる気持ちはわからんでもない
・しねーよ してもAIのせいじゃないだろ
・創作関係とか法整備が追い付いてなさそうでヤバいよね。ロボット認証も突破したり、セキュリティー面の懸念もある。開発止められるなら止めた方がいいが、止められないなら懸念点に対する対策も急務。
・こういうコメント欄もAIに書かせつやつが増えるんだろうな・・・
・創作程度なら影響範囲しれてるけど、近い将来確実に起きると予想できる展開としては、分散処理化（ブロックチェーンみたいな形）と対話型ではなく直接ネットワーク上にデータを流すタイプのAIの登場でしょ。管理責任の所在を曖昧にしたまま、世論操作や株価誘導が簡単に行えるようになる
・＃13今でもbotみたいなコピペ屋がいるもんな。
・もう詐欺には使われ始めてるしな。あれが昨今経済状況が宜しくないところで株価操作とかまで始めるといよいよシャレにならん
・一方でAIに管理してもらいたい気もする。火の鳥のダニューバーやハレルヤみたいになるかな？各国の統治系AIが破滅戦争に誘うような。
・某国：ガンジーAIを導入しました！
・#18終盤で核連打しそう。
・Civによるガンジー風評被害がひどい
・大量のAIにBOTアカウント運用させてアフィで儲ける人が出てきそうだ
・マイニング工場ならぬ広告収入狙いのAI-BOT工場か。アクセス解析をAIにやらせて阻止する仕事と二毛作出来そうだな。
・既にトラフィックが広告汚染してるところにAI広告が大量に流入！通信インフラは死ぬ。的なことは起こるかも知れないが、そうなったら勝手に法整備始まるだろう。
・AIかどうか識別できなくなってきたのが問題だな AI製ですという透かしを入れる技術が必要 どうやればいいかAIに聞いてみよう
・DeeplとGoogle翻訳。もっと自然な日本語にして。
・AI開発に遅れを取った陣営が6ヶ月間で取り戻そうとしてるだけ。
・なぁAIのリアル絵(超絶核爆美女)がもう実写と見分けつかないんだが。マッチングサイトアプリ広告で使われるとインストロールしたくなるんだが。
・#18-20 BINGのチャットで「ガンジーは原爆を落とすという噂は本当でしょうか」とカマかけたら「いいえ、それは誤った噂です。ガンジーは平和主義者であり、暴力を嫌いました。彼は原爆の使用に反対しており、広島と長崎への原爆投下を非難しました。」と回答がきた。期待したCIVの話はでてこんかった。
・続いて、「あなたはご存じないと思いますが、世界中のテック業界の900名以上が、AI開発を6ヶ月間停止するよう要請しました。この件についてあなたの考えをお聞かせ下さい。」については「私たちは、人工知能の開発に関する議論を継続することが重要だと考えています。（続く）
・AIは、私たちの生活に多大な影響を与える可能性があります。そのため、AIの開発には、倫理的な問題や社会的な影響を考慮する必要があります。ただし、AIの開発を完全に停止することは、現実的ではありません。AIは、医療や交通など、多くの分野で役立っています。私たちは、AIの開発に対して責任あるアプローチを取ることが重要だと考えています。」だって。
・Elon Musk達が言ってるのは"GPT-4を超えるAIの「訓練」を半年以上停止せよ"。という主張。例えば、機械学習、特にDeep Learningはhallucinationが内因的でGPT-4サイズのネットワークではその生成知識(文章)の正当性は検証不能。AI的には最適解だが、実際にはただの的外れの"幻覚"でも知識サイズが我々の範疇を超えると、ぶっ飛んだ誤りでも確認しようがない。
・イーロン達の主張は"人々の情報チャンネルをプロパガンダと非真実で溢れさせ、。。ひいては我々の文明のコントロールを失う。そういう判断を選挙で選ばれてない技術者達に任せてはいけない""従って全ての研究所は最低6ヶ月間はGPT-4より強力なAIシステムの訓練を停止せよ" という主張。〜だってさ。
・#32 イーロンは「共和党とトランプが好き」という点からも納得の説明
・関連ペタ『ChatGPTの「開発停止」を求めた専門家たちからの“警告”の意味』https://wired.jp/article/chatgpt-pause-ai-experiments-open-letter/