自動ニュース作成G
オープンＡＩ社員､取締役全員の辞任要求-マイクロソフト移籍示唆
https://www.bloomberg.co.jp/news/articles/2023-11-20/S4FG2SDWX2PS01
2023-11-21 09:50:02
＞私は理事会の行動に参加したことを深く後悔しています。 OpenAI に危害を加えるつもりはまったくありませんでした。私たちが一緒に築き上げてきたものすべてが大好きで、会社を再統合するためにできる限りのことをするつもりです。
◇
↑中心人物とされたイリヤ・サツキーバーのツイート。結局どういう目的で何がしたかったのか明智光秀の行動並みに謎だった。
・https://gnews.jp/20231120_172318関連かね？
・発言力の強いサイエンティストって誰？AIの会社にAIに懐疑的な役員が存在するのか？ ＞https://www.bloomberg.co.jp/news/articles/2023-11-20/S4ECEDT0G1KW01オープンＡＩの顧客や投資家はアルトマン氏に満足していたようだが、同氏とアイデアそのものに懐疑的な見方をしていたのが、ほかならぬ同社の取締役会だ。最終的には発言力の強いサイエンティストらによってコントロールされていた。
・反AI運動家が取締役会に紛れ込んでポリコレ運動展開されちゃった？＞「効果的利他主義」運動とつながりのあるＡＩに懐疑的な取締役
・どういう流れで解任動議にまで至ったのか関連の記事読んでもさっぱり分からんな。
・#3 どう見てもAIの倫理の話でしょ。どこからポリコレが出てくるの。普段からずっとそんなことばかり考えてるの？＞強力なＡＩシステムがテロリスト集団に利用され、例えば生物兵器製造に使われるようなリスクを想定
・https://wired.jp/article/openai-sam-altman-ousted-what-happened/このWIREDの記事が詳しかった＞『より高性能な人工知能（AI）技術を安全なものにする能力に関すること』『中東の政府系ファンドにアルトマンが声をかけていた』『元アップルのデザイナーであるジョナサン・アイヴと共同でAIを用いたハードウェアを開発する可能性を模索していた』この辺で方向性の違いの争いになったか
・今のAIて検索のまとめを自然言語で返してるだけなんじゃないのかな。
・OppAIに改名したらいいと思うよ
・自然言語で返してる ＜これが凄いと評価されている。
・MicrosoftAIとかazureAIくらいが適当とは思ってた
・社員「お前の消し方」＜「われわれはかつてないほど団結・コミットし、集中している」
・#9そう。すごいのはそこ。だから中身は「検索したら見つかる情報」なんじゃないのかと。今のAIのリスクは「検索結果にたどり着きやすい」程度なんじゃないのかと思って。そして検索結果の正しさとは関係無い、と。
・#12 記事の要約や翻訳する機能も「検索したまとめを自然言語で返してるだけ」ってこと？
・現在のAIの知識はネットの情報を超えられない。だから無い情報を求められると捏造してくる。
・#13 言いたいのは、未知の情報を提供するようなものではない、つまり言うほど危険なものではない、ということなんだけど。
・#15 危険性については知識がないから保留するけれど、OpenAIの画期的なところはAとBを学習してCを出力できる所じゃないのかな。ネットで検索したらブラックジャックの新ストーリー転がってる？＞中身は「検索したら見つかる情報」なんじゃないのか
・いや、考えて返してる訳じゃなく、単に確率でこっちの方がよく使われてるって感じで文章を創作していくので、集合知が整ってる所ではヘマしないんだけど、散漫的な情報だらけの所では相当にインチキな返答が返ってくる。使い方間違ったら相当馬鹿な言説を信じる事になるんで、ちょっと信用できない
・#16あくまでも危険性の話だけ言いたいので、与えられたプロトコルに従って画像や話を出力する能力にリスクはないと思ってる。
・#17 ちょっと信用できない ＜AIの嘘を見破れるだけの能力がなければ、目刺しの頭を信仰するのもAIを信仰するのもあまり違いはない。そしてAIの嘘を見破れるだけの能力があれば、AI使う必要もないね。だからAIは、自分の書きたい文章を整理校正する或いは、自分の欲しい画像を合成して貰う位にしか使えないよ。それだけでも時短出来るから十分評価される機能ではある。
・#19 まぁ言ってる事が正しいかどうかを改めて判別するAIもあるって事なんで、今後はそのAIの修整力とかも含めての回答に期待したい所なんだけどね
・じゃぁ脳味噌要らなくなるね。自分の欲しい回答かどうかもAIに判断を委ねるなら ＞言ってる事が正しいかどうかを改めて判別するAIもある
・ここでいう正しいは、回答に虚偽が含まれてないか？というレベルの話。欲しい回答としても、今のAIは判断基準をくれるぐらいで、アレをしろコレをしろっては言わないけどな。まぁそういう指示をしろ、とまで命じたら指示をくれる事はあるが
・関連『焦点：チャットＧＰＴのトップ解任劇、背景にＡＩ開発巡る深い溝』https://jp.reuters.com/economy/industry/A3BFLBGLIVL5PJI25CWV3XJBQE-2023-11-21/ 本当にこんな真面目な倫理観で対立してたのか。もっと泥臭い理由かと勘ぐってたが
・#23 AIの権威を高く見せるための茶番の可能性
・関連『マイクロソフト最高技術責任者、オープンＡＩ従業員に入社呼び掛け』https://www.bloomberg.co.jp/news/articles/2023-11-21/S4HE3TDWX2PS01カオスになってきた