自動ニュース作成G
AIも脳がバグることが判明！ りんご画像に｢iPod｣と書くと…
https://www.gizmodo.jp/2021/03/even-ai-can-make-wrong-decisions.html
2021-03-11 13:08:24
＞速度制限35mphの道路標識にちょこっとテープを足しただけで、速度制限85mphだとTeslaに誤認識させたというリサーチもありますから、使いようによっては恐ろしい。
映像を元に文字を疑うっていうロジックを追加すると、どっちが正解なのかを出せなくなったりするのかな？
・https://togetter.com/li/1315912 ＞｢スタバ｣って書きながらラーメン画像をあげていたら、｢ツイッターを使ったスタバの口コミ分析にノイズが入るのでやめてください！｣ってリプライがきたことある。なんで私だけ……
・AIに脳 妙だな…
・「iPod」と認識してるんじゃなく、「iPod」という文字として認識してるだけじゃないですか。
・わざわざ名札付けたのに「りんご」と答える方が空気が読めてない。俺らが解説にひっぱられているだけだろう。
・人間の脳もだけど、誤認ってセキュリティーホールなんだよね。脳は数万年以上かけてセキュリティーホール潰してきたんだし、AIは数億倍以上で潰していけるんでね。
・純粋に画像だけを学習させていればこうはならない。気を利かせる様にわざわざ学ばせたはずで、これはむしろ正解だろう。
・ディープラーニングに詳しい人居るかな。たまたま読んだ本では最終段のargmaxの入力について合計を１にした時の比率を「確率」と呼んでいたんだけど、これ結果の「確からしさ」との意味の確率じゃないよね？ここの数字も類似のものだと思うんだけど、機械学習ではこれが正しい用語なの？分かる人居る？
・リンゴを隠すように、あれだけ大きくiPodと書かれた紙をだされたら、そりゃiPodと答えるのが正解じゃない？
・こういう形のiPodが発表されないとも限らないし。
・#8 それはおもったけど「iPodと書かれた何か」となるのが一番の正解ではないかという話かなと。
・#7 私も門外漢ですが、ここでいう確率は「サイコロで1が出る確率」のような、古典的な意味の確率でなくベイズ「確率」と思います。
・#10 この実験で、iPodを紙に書くのではなく直接リンゴに書いたらどうなるのか気になるね。
・#7 自分の専門領域（画像処理ではない）の調べ物中にざっくり眺めたことがある程度だけど、認識画像から複数の可能性を片っ端から提示して各々比較、リンク先の画像の通りスコア化して高スコアのものである可能性が高いとして認識するって流れだったかな。評価と言った方がしっくり来た覚えはある。たしかにベイズ確率の話は出てきてた。うろ覚えすまない。
・画像誤認識関係でいくつか。https://webbigdata.jp/ai/post-1406 https://www.gizmodo.jp/2019/07/thousands-of-reasons-that-we-shouldnt-trust-a-neural-ne-1836669838.html https://ai-scholar.tech/articles/others/camera-stickers-ai-i333 特に最後のは少し話題になってた記憶がある。 関連https://gnews.jp/20150702_161654
・物体では無く文字として認識しているなら何の問題もないだろう。そのAIは、属性判定も付いてないのか？人が作った知能ならさもありなん。
・#13 ありがと。ベイズはトピックモデルとかでディープラーニングとはまた別じゃないかな。
・これが文字の力です（トリック）