これはひどい



引用画像

波紋を呼んだ「ゴリラ」誤認識、機械学習ではいまだ解決せず

2015年、グーグルは大きな非難を受けた。グーグル・フォトの画像認識システムが黒人女性をゴリラと認識してしまったからだ。しかし、2年経った今でも、問題は適切に修正されていない。その代わり、グーグルは多くの霊長類に関連する画像タグを検閲して削除している。

www.technologyreview.jp
全文を読む

記事によると

・2015年、グーグルは大きな非難を受けた。グーグル・フォトの画像認識システムが黒人女性をゴリラと認識してしまったからだ。しかし、2年経った今でも、問題は適切に修正されていない。その代わり、グーグルは多くの霊長類に関連する画像タグを検閲して削除している。

・ワイアード(Wired)は多くの動物の写真を使ってグーグル・フォトを再度テストした。確かに、パンダからプードルといった動物については簡単に認識できることは分かった。しかし、ゴリラやチンパンジー、それにヒト科に分類されるチンパンジー属の画像については、ラベル付けされていなかった。ワイアードがグーグルに確認したところ、それらの画像のタグは検閲して削除されていることがわかった。

・検閲よりも大きな問題は、機械学習用のデータ・セットに潜む偏見である。機械が学ぶ必要のない、人間の一面を反映しているのではないだろうか。しかし、偏見を減らし無くしていくのは、単にラベルのブラックリストを作るより、もっと大変な仕事なのだ。



この記事への反応


ゴリラと見分け付かないってされたらそりゃ不快にもなるだろうけど、『黒人』って人種を守る為に『霊長類』ってカテゴリーを削除するってのは、差別意識が過剰過ぎてエゴに走っただけじゃねーか

人間は解像度の違う画像でも元データが同じなら同じものだと認識するけどAIは違うってことなんかね。寧ろ黒人に見えるけど70%白人の血が入ってるとか判別してくれるとか期待してんのにな

CAPTCHAだって機械だけじゃなくて人間も読めねーよ、って場合がある時点で機械や一企業を追及する技術段階にはない、ってのが健全な見方なんじゃねーの。

AIの最大の弱点はバカ正直であることのようです もっとポリティカルコレクトネス(笑)を教えなければいけないようですね







引用画像

【悲報】グーグル、黒人をゴリラと認識:はちま起稿

【悲報】グーグル、黒人をゴリラと認識の記事詳細。国内最大のエンタメまとめメディアサイト。ゲーム情報、アニメや漫画、時事ネタなど、たくさんのネタを面白おかしく紹介します。

blog.esuteru.com
全文を読む
CI30-MNWIAA3flz.jpg







2年経っても難しいんだなぁ