xAIのGrok、「南アフリカで白人の虐殺が起きている」と陰謀論を展開。原因は一部従業員の不正な変更

自動ニュース作成GxAIのGrok、「南アフリカで白人の虐殺が起きている」と陰謀論を展開。原因は一部従業員の不正な変更https://news.yahoo.co.jp/expert/articles/c6d9d43a9d677ea94cf16e12c15c176c5b0150772025-05-17 17:39:42＞イーロン・マスク氏のAI企業xAIのチャットボット『Grok』が5月14日、会話の内容に関係なく、突然「南アフリカで白人の虐殺（ジェノサイド）が起きている」と陰謀論を展開し始め、騒ぎとなりました。原因については当初不明であり、AIの暴走ではないかという見方も出ていましたが、xAIが同16日に発表した内容によると、従業員がGrokのプロンプト（命令文）に不正な変更をくわえたことによるものということでした。
＞この問題を受け、xAIはGrokのプロンプトをソフトウェア開発プラットフォーム『GitHub』に公開し、プロンプトが変更された場合はユーザーが確認できるようにしました。また、一部の従業員による暴走でプロンプトが不正に変更されることがないよう、レビューなしにプロンプトを変更できないよう追加のチェックと対策も講じる予定だということです。Grokの信頼性が大きく揺らぐ事件でしたが、結果的には透明性と安全性の両方が高まるきっかけとなりました。ただ、今回の事件で分かるように、AIはハルシネーションを起こすだけでなく、開発企業の従業員によって意図的に操作される危険性もはらんでいます。AIの回答を頭から信じるのではなく、「これは事実と異なるかもしれない」と受け手としてのリテラシーを高めることも重要だということを、改めて知らしめる事件だったと言えます。・うむ。 https://gnews.jp/20250515_203144・その従業員はガチの陰謀論者なのか、マスクに対するおべっかなのかどっちだ？・XってTwitter時代からそういう社員を抱え込んでるよな