• 3日ランキング
  • 1週間ランキング
  • 月間ランキング

YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い


記事によると


・登録者100万人以上のYouTubeチャンネルが2020年6月に突如「有害で危険なコンテンツを配信している」という理由で閉鎖された。

・閉鎖されたYouTubeチャンネルはチェスの盤面解説などをおこなるYouTubeチャンネルだった。

・2020年6月28日、チェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した直後にBANされた模様。

・なお、アカウントとチャンネルは24時間後に復活した。

・これについて、カーネギーメロン大学のコンピューター科学者による調査を行った結果、「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」可能性が高いということが判明した。

・コメントの中には「白(White)」「黒(Black)」「攻撃(Attack)」「脅威(Threat)」などといったチェスの世界でよく使われる用語があり、そのコメントがヘイトスピーチと判断してしまった模様。

・コンピューター科学者は「人種差別的な言語の検出をAIに依存している場合、こういった事故が発生する可能性があります」と説明した。


この記事への反応



技術的には面白いけど、オセロも人種差別扱いされるのはなぁ…

普通に人が判断した方がいいね。AIだけに頼らず

虚構新聞ぽさある……w

しAI判定に頼りすぎるのも問題

草生える。
囲碁もオセロも禁止だな、、、www


「駒の色を白と黒から変えろ!」って言い出す人もいそう。

やっぱり何でも規制の対象になるだろw



関連記事
【速報】ワタナベマホトのYouTubeチャンネル、BANされる!!再生不可に

ユーチューバーさん「格闘試合の中継を配信したいけど違法アップロードでBANされる…せや!」 → とんでもない力技で実行してしまうwwwww




様々な要因が重なってBANされたってことか…
問題のない配信をしても、AIにとっては不適切と判断されるケースあるのね



B08V12QYHG
赤坂アカ(著), 横槍メンゴ(著)(2021-02-19T00:00:00.000Z)
5つ星のうち4.9


B08WLR4PW9
キムラダイスケ(著), 芝村裕吏(著)(2021-02-22T00:00:00.000Z)
5つ星のうち5.0




コメント(131件)

1.はちまき名無しさん投稿日:2021年02月22日 13:42▼返信
これがポリコレAI化の成れの果てか・・・
2.はちまき名無しさん投稿日:2021年02月22日 13:42▼返信
しAI
3.はちまき名無しさん投稿日:2021年02月22日 13:43▼返信
そりゃ仕方ないだろ
4.はちまき名無しさん投稿日:2021年02月22日 13:43▼返信
すごいAIができるには最低後100年以上はかかるな
5.はちまき名無しさん投稿日:2021年02月22日 13:44▼返信
ようつべもたまにはいいことするね!
6.はちまき名無しさん投稿日:2021年02月22日 13:44▼返信
AI「シェークスピアお前差別主義者なんでBANな!」
7.はちまき名無しさん投稿日:2021年02月22日 13:45▼返信
この先ユーチューブが生き残れるか楽しみだなw
8.はちまき名無しさん投稿日:2021年02月22日 13:45▼返信
チェスの用語が引っ掛かったんか
ちょっと面白いな
9.はちまき名無しさん投稿日:2021年02月22日 13:45▼返信
過激な黒人と白人はクソ

肌の色とかどうでもいいから馬鹿馬鹿しいことはやめてくれ
10.はちまき名無しさん投稿日:2021年02月22日 13:45▼返信
AI「松崎しげるさん、あなたはブラックフェイスで黒人差別してるので永久BANです!」
11.はちまき名無しさん投稿日:2021年02月22日 13:45▼返信
おこなる
12.はちまき名無しさん投稿日:2021年02月22日 13:45▼返信
オセロは白人と黒人の戦争
争いの象徴だって古事記にも書いてあっただろ
無知は黙ってろ
13.はちまき名無しさん投稿日:2021年02月22日 13:46▼返信
チェスって言ってんのに、オセロって
脳足りんは黙ってろ
14.はちまき名無しさん投稿日:2021年02月22日 13:46▼返信
技術者に逃げられて意識高い系だけが残った結果
15.はちまき名無しさん投稿日:2021年02月22日 13:46▼返信
youtube AIが馬鹿すぎて尻拭いをするための人件費が余計に掛かっている話好き

しかもAIのくせに一向に学ばねえんだ
16.はちまき名無しさん投稿日:2021年02月22日 13:47▼返信
ポリコレの末路だな
17.はちまき名無しさん投稿日:2021年02月22日 13:48▼返信
ポリコレを突き詰めるとAIに人は不要と判断されるオチ
18.はちまき名無しさん投稿日:2021年02月22日 13:48▼返信
コンテンツが多すぎるので何かありそうなものはとりあえずBANしてあとは人力対応なんだろうな
完璧な対応なんて無理なので妥当な対応なんじゃないかな
19.はちまき名無しさん投稿日:2021年02月22日 13:49▼返信
自然言語処理はRNN,LSTM使っても、イマイチ文章の前後の脈絡を完璧に紐づけられないからなw
まーこれができたら、ゲームとかでもテンプレに頼らない自動生成された会話、イベント、ストーリーが作れてるんだけどねw
20.はちまき名無しさん投稿日:2021年02月22日 13:50▼返信
>>1
松竹のオセロも色黒白の中島と松島で黒い方と呼ばれてたな中島
21.はちまき名無しさん投稿日:2021年02月22日 13:51▼返信
>>20
黒人が化粧する時のファンデーションは黒いのか?化粧品メーカー訴えていいんじゃね、美白とか歌ってるメーカーも
22.はちまき名無しさん投稿日:2021年02月22日 13:51▼返信
馬鹿みたいな話だけど実際に人種差別だってチェスとオセロが叩かれてたんだよな
23.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
ポリコレは有害だというのが良くわかる
24.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
>>1
日焼け止めは差別
25.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
AI「「まっくろくろすけ」は黒人差別なので「となりのトトロ」はBANします。」
26.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
これには黒人もニッコリ
27.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
そりゃコロナ騒動で未だにAI頼りだしな、人が判断したいけど難しいとなればさ
28.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
ポリコレ「次の攻撃対象を見つけたぞおお!!!」
29.はちまき名無しさん投稿日:2021年02月22日 13:52▼返信
スポンサーから金を引き出すためにAIが絵を描いたみたいなパフォーマンスばかり話題になるけど
実際の現場で動いてるAIの実態がこれ
AIが誤動作しないように人間が合わせないといけない
自動運転実用化もおそらくこうなるだろう
30.はちまき名無しさん投稿日:2021年02月22日 13:54▼返信
AIは膨大な処理を無制限に繰り返せて人件費も削減できるが
不完全な部分は人間が改善していかないといけないんだなあ
31.はちまき名無しさん投稿日:2021年02月22日 13:55▼返信
「エネミー・オブ・アメリカ」の世界だなあ
こういうの普通に思想統制だと思うんだけど
32.はちまき名無しさん投稿日:2021年02月22日 13:56▼返信
ただ条件に引っかけて正否つけてるだけならAIなんてたいそうな代物じゃないよね
33.はちまき名無しさん投稿日:2021年02月22日 13:56▼返信
※29
実作業をAIに任せて人間は確認するだけっていうのが未来の仕事になるな
ニートでもできる仕事として全国のニートが活躍する日も近いぞw
34.はちまき名無しさん投稿日:2021年02月22日 13:57▼返信
黒人は癌
35.はちまき名無しさん投稿日:2021年02月22日 13:57▼返信
自動運転実用化にはおそらく歩行者に安全歩行義務違反が発生する
36.はちまき名無しさん投稿日:2021年02月22日 13:58▼返信
人と豚に分ければいいのに
37.はちまき名無しさん投稿日:2021年02月22日 13:59▼返信
>>30
不完全を見つけるために膨大な人件費がかかるってねw
38.はちまき名無しさん投稿日:2021年02月22日 13:59▼返信
これだからAIはポンコツ過ぎて人間の仕事を奪うなんて何百年も先の話だになる
でも一番ポンコツなのは「ポンコツなAIしか作れないAI研究者」なんだけどね
ほんと自分で頭いいと思ってるだけのポンコツ野郎のインテリ気取りは全員今すぐ辞職しろよ
39.はちまき名無しさん投稿日:2021年02月22日 14:00▼返信
人間より差別意識高くて草
40.はちまき名無しさん投稿日:2021年02月22日 14:00▼返信
つまりこうだ
YoutubeAIはバカ
41.はちまき名無しさん投稿日:2021年02月22日 14:00▼返信
メディアってAIを何か勘違いしてるよね。これは単なるNGワード検出プログラムだから。
42.はちまき名無しさん投稿日:2021年02月22日 14:01▼返信
いいね
そのうちポリコレヤ○ザにへりくだることがどんなに時間と経済の無駄か、みんなが理解する日が来るといい
43.はちまき名無しさん投稿日:2021年02月22日 14:01▼返信
チェスの知識のない人間がやっても誤BANするかもしれないよ
44.はちまき名無しさん投稿日:2021年02月22日 14:01▼返信
ミス・モノクロームが本格的にチューバーデビューできないのはこのせいか
45.はちまき名無しさん投稿日:2021年02月22日 14:04▼返信
GoogleのアカBAN-AIがバカなうえ、無条件で即アカBANするのは最低の動作だからAI停止したほうがいい
46.はちまき名無しさん投稿日:2021年02月22日 14:05▼返信
チェスの駒をピンクと緑にするしかねぇな!!
47.はちまき名無しさん投稿日:2021年02月22日 14:06▼返信
投稿数からして全部人間で判定するのは現実的ではないのである程度はしょうがない
48.はちまき名無しさん投稿日:2021年02月22日 14:06▼返信
コーヒーにミルク入れる奴は人種差別主義者
49.はちまき名無しさん投稿日:2021年02月22日 14:07▼返信
自分らの文化をぶっ壊し始めたポリコレ害人の頭の悪さがわかる
50.はちまき名無しさん投稿日:2021年02月22日 14:07▼返信
将来的に赤と青とかになりそう
51.はちまき名無しさん投稿日:2021年02月22日 14:09▼返信
普通アカバンまで自動化するかねw
登録人数とか活動履歴のバイアス考慮して人に審議委ねる処理とかないの?
馬鹿なの?
52.はちまき名無しさん投稿日:2021年02月22日 14:10▼返信
AIがハゲをサッカーボールと間違えたニュース好き
53.はちまき名無しさん投稿日:2021年02月22日 14:11▼返信
白黒抹茶霰珈琲柚桜
54.はちまき名無しさん投稿日:2021年02月22日 14:11▼返信
※48
ミルクを先、コーヒーを後だと問題ないから。
55.はちまき名無しさん投稿日:2021年02月22日 14:12▼返信
グーグルのAIはお馬鹿だからなな手だけ映ってるゲーム映像ですら垢BANするからな
56.はちまき名無しさん投稿日:2021年02月22日 14:13▼返信
「赤と黄にしろ!あいつらなら差別してオッケー」

とか例の奴が言いそう
57.はちまき名無しさん投稿日:2021年02月22日 14:13▼返信
※50
女子トイレと男子トイレのマークだね
58.はちまき名無しさん投稿日:2021年02月22日 14:13▼返信
はちまのコメ埋め程度はAIで充分
59.はちまき名無しさん投稿日:2021年02月22日 14:14▼返信
なんか最近「AIがポンコツ」 というニュースばかり聞いてる気がする
いつになったらまともな判断力を持ったAIが完成するんだろうな
60.はちまき名無しさん投稿日:2021年02月22日 14:17▼返信
マイケルジャクソンのBlack or Whiteも廃盤にされそうだな
61.はちまき名無しさん投稿日:2021年02月22日 14:18▼返信
左の言論統制がいよいよナチスじみてきたな
たしか今つべで「地球温暖化はウソです!」って言ったらBANされんだろ
62.はちまき名無しさん投稿日:2021年02月22日 14:18▼返信
>>38
殆どが研究費目当てで流行りに乗ってるだけだからな
63.はちまき名無しさん投稿日:2021年02月22日 14:18▼返信
AIポンコツすぎだろ
なんとかしろよYouTube
64.はちまき名無しさん投稿日:2021年02月22日 14:24▼返信
でも実際黒人はチェスでも差別って騒ぐらしいな
65.はちまき名無しさん投稿日:2021年02月22日 14:25▼返信
白人と黒人の戦いやで
66.はちまき名無しさん投稿日:2021年02月22日 14:25▼返信
進化の過程でのトライ&エラーはしかたないよ
67.はちまき名無しさん投稿日:2021年02月22日 14:29▼返信
不適切と判断して一発BANて相当だと思うんだけど…
68.はちまき名無しさん投稿日:2021年02月22日 14:29▼返信
赤と青でいいよもう
69.はちまき名無しさん投稿日:2021年02月22日 14:31▼返信
分かってないなあ。「間違い」じゃねーよ
黒人はあらゆるものをブラックウォッシュするまで許さない言ってるんだから
全部ブラックじゃなきゃ許される訳ないだろ
片方つや消しで片方つやアリにしろよ
70.はちまき名無しさん投稿日:2021年02月22日 14:32▼返信
狂ったAI判定してる方が問題じゃん
71.はちまき名無しさん投稿日:2021年02月22日 14:32▼返信
これだからAIは
軍事利用したらスカイネット待ったなしだな
72.はちまき名無しさん投稿日:2021年02月22日 14:33▼返信
※57
なぜ男が青で、女が赤なのか、勝手な決めつけなうえに偏見ではないか?
なんて声が上がってた気がする
73.はちまき名無しさん投稿日:2021年02月22日 14:35▼返信
>>72
それどころかマーク自体がスカート履いてるのが差別だとか言ってたぞ
これからは男性用も女性用も黒の人間マークで終わり
74.はちまき名無しさん投稿日:2021年02月22日 14:36▼返信
AIに判断させて決定もAI任せにしてんならAIが賢くなるわけないがまさか本当に全部AIにやらせてるわけないよな?
75.はちまき名無しさん投稿日:2021年02月22日 14:38▼返信
グーグルとAI連呼する奴らの化けの皮剥がれてきたよね
76.はちまき名無しさん投稿日:2021年02月22日 14:40▼返信
チェスプレイヤーは差別主義者
AIがそう認識するならそうなんだろうな
77.はちまき名無しさん投稿日:2021年02月22日 14:43▼返信
AI「美白は差別用語なんで化粧品メーカーは全部シャットアウトしますね」
78.はちまき名無しさん投稿日:2021年02月22日 14:43▼返信
力士の画像を卑猥な画像と判定した
TumblrのアホアホAIを思い出すな
あれも肌色の面積で雑に仕分けてたっぽいし
79.はちまき名無しさん投稿日:2021年02月22日 14:44▼返信
>>74
youtubeもTwitterもAI判断の自動化してるって返信にあったらしいよ
全部じゃなくて一部って書いてあったから
通常は全部AIで自動化してて何か問題が起きたり
異議の申し立てがあったら担当者が判断するんじゃね?
全然関係なくても一定以上の垢が「コイツは中韓を差別してて規約違反だ!」って
連投すれば一時凍結されるって凍結キャンペーンが起こったし
80.はちまき名無しさん投稿日:2021年02月22日 14:45▼返信
AIでAUTO判定出たやつを人が判断したらいいだろ
AIですべてが判断できるわけじゃないし
未だに迷惑系どころか詐欺とか危険なチャレンジ系とか
放置されまくってる方が問題あるわ
81.はちまき名無しさん投稿日:2021年02月22日 14:48▼返信
世の中から黒を消せばいい。
82.はちまき名無しさん投稿日:2021年02月22日 14:53▼返信
>>80
ほんとそれ
規制すべきものが野放しでまともなチャンネルがBANされてる状況が全く改善されない
83.はちまき名無しさん投稿日:2021年02月22日 14:57▼返信
俺も全く理由不明で広告NGにされたことある
1ヵ月後に再申請したら1日で復活したから、AIがアホだったんだろうな
84.投稿日:2021年02月22日 14:58▼返信
このコメントは削除されました。
85.はちまき名無しさん投稿日:2021年02月22日 15:00▼返信
なんか最近のつべってちょっとでもアレな単語入ってたら
チャット欄から見えなくなったりするよな
86.はちまき名無しさん投稿日:2021年02月22日 15:00▼返信
AIには無理なんだよ
世の中が差別に厳しくなるほど言葉狩りからの逃れ方も巧妙になるんだから
87.はちまき名無しさん投稿日:2021年02月22日 15:00▼返信
ただの色なのに難癖付けられるのマジで害悪だな
黒って色を勝手に黒人のものにするんじゃねえよ
88.はちまき名無しさん投稿日:2021年02月22日 15:02▼返信
こんな程度も分からんのに「自動運転」とか夢物語もいいとこだろ

画像すら認識できていない
89.はちまき名無しさん投稿日:2021年02月22日 15:03▼返信
スカイネットはこうやって生まれるのか
FOでもAIが判断間違えて人類の虐殺始めるイベントあったけど
90.はちまき名無しさん投稿日:2021年02月22日 15:04▼返信
怪しいのはAIで潰して申請されて間違いなら復帰みたいにやらんと目視で潰してたら際限ないから仕方ないな
91.はちまき名無しさん投稿日:2021年02月22日 15:04▼返信
もうチェスもオセロも差別的なゲームで良いじゃん
ブラックペッパーが黒いのもウエディングドレスが白いのも全部差別だよ
92.はちまき名無しさん投稿日:2021年02月22日 15:04▼返信
英語圏の人間が黒人、白人と言わずブラック・ホワイトのみで人種言い表してるのが悪い
後ろにパーソンでもピーポーでもフォークでも何でもいいから何かつけろや
93.はちまき名無しさん投稿日:2021年02月22日 15:06▼返信
そろそろ日本みたいに別の言葉を作りましょうの何の意味もないアホ勢力が出ると予想
94.はちまき名無しさん投稿日:2021年02月22日 15:07▼返信
宮迫も腹黒いからBANにならないかな
95.はちまき名無しさん投稿日:2021年02月22日 15:10▼返信
※50
赤はアメリカ原住民への差別だよ
96.はちまき名無しさん投稿日:2021年02月22日 15:11▼返信
AIって馬鹿なんじゃね
まさかリンゴとトマトの区別もつかないレベルだったとは

97.はちまき名無しさん投稿日:2021年02月22日 15:12▼返信
白と黒に分けて対戦なんていろいろあるし判定方法がアホだとしか
98.はちまき名無しさん投稿日:2021年02月22日 15:12▼返信
AIをポリコレ化した訳じゃなく文脈関係なく判定
幾つかのワードの組み合わせが引っかかったってだけだな
99.はちまき名無しさん投稿日:2021年02月22日 15:15▼返信
色付きはすべて不可だな
オセロ(リバーシ)、バックギャモン、囲碁、トランプ使うものすべて
残るのは将棋が世界をと思ったけど
表黒字裏赤字でだめか
100.はちまき名無しさん投稿日:2021年02月22日 15:31▼返信
ポリコレが複雑化してきたせいでAI君の仕事が大変な事になってきたな
これはAI君への人権侵害ではなかろうか
101.はちまき名無しさん投稿日:2021年02月22日 15:37▼返信
白黒なんて人種差別だろ
赤と青にしろ
102.はちまき名無しさん投稿日:2021年02月22日 15:41▼返信
※41
本来はその判断に人間がOKかNGかを出して学習させていくんだと思うが、
現状は単語チェックしてるだけだよな
103.はちまき名無しさん投稿日:2021年02月22日 15:43▼返信
Googleは白黒しか判定しないのか
黄色人種差別は放置か
104.はちまき名無しさん投稿日:2021年02月22日 15:45▼返信
チェスなのに碁盤
105.はちまき名無しさん投稿日:2021年02月22日 15:45▼返信
黒沢映画的に黒と赤で駒を作ろう・・・色弱の人判別出来るかな?
106.はちまき名無しさん投稿日:2021年02月22日 15:49▼返信
つーかチャンネルBANレベルだったら最後に人間のチェックくらい入れろや
107.はちまき名無しさん投稿日:2021年02月22日 15:54▼返信
チェスも配慮して赤と白でおめでたい感じになるのかな
108.はちまき名無しさん投稿日:2021年02月22日 15:55▼返信
黒が脅威の時は白は攻撃に転じないとな

オセロの話です
109.はちまき名無しさん投稿日:2021年02月22日 15:58▼返信
世も末
110.はちまき名無しさん投稿日:2021年02月22日 15:59▼返信
チェスやオセロほど平等な白黒はないのに
111.はちまき名無しさん投稿日:2021年02月22日 16:00▼返信
黒が負けそうになるとBLM騒ぎ出すのか?w
112.はちまき名無しさん投稿日:2021年02月22日 16:10▼返信
AI「すまんアホで」
113.はちまき名無しさん投稿日:2021年02月22日 16:18▼返信
チェスは人種差別を助長するから規制しろ!
114.はちまき名無しさん投稿日:2021年02月22日 16:19▼返信
シマウマ「生き辛え世の中だぜ」
115.はちまき名無しさん投稿日:2021年02月22日 16:27▼返信
黒人と韓国人の被害者面にはうんざり
116.はちまき名無しさん投稿日:2021年02月22日 16:37▼返信
※114
ごめんねマッスルインフェルノするね
117.はちまき名無しさん投稿日:2021年02月22日 16:39▼返信
>>101
ポケモンショックみたいに目に悪いのでダメです
118.はちまき名無しさん投稿日:2021年02月22日 16:51▼返信
PS5は黒人差別
119.はちまき名無しさん投稿日:2021年02月22日 16:52▼返信
ポリコレAIマジウケルwwwwwwwwwwwwwwwwwwww
120.はちまき名無しさん投稿日:2021年02月22日 16:54▼返信
世界の終わりの始まり
121.はちまき名無しさん投稿日:2021年02月22日 17:23▼返信
>>1
黒人差別には動くのにアジア人差別にはなにもしないポリコレ団体
122.はちまき名無しさん投稿日:2021年02月22日 17:24▼返信
なにこれAIの判断をみて人間が実行してるんじゃなかったんだ・・・いかれてるな。
123.はちまき名無しさん投稿日:2021年02月22日 17:25▼返信
>>1
AIは悪意のない誤認だけど、一部界隈の人は、意図的も含めてそれより酷い誤認して、叩いてるから。
124.はちまき名無しさん投稿日:2021年02月22日 17:41▼返信
今はまだまだAI黎明期
AIの概念自体は昔からあるけど、まだまだこれからでしょ
125.はちまき名無しさん投稿日:2021年02月22日 18:20▼返信
白黒をやめて赤緑に変えたら、色覚障害の方からクレームが付くまで読んだ
126.はちまき名無しさん投稿日:2021年02月22日 18:30▼返信
>>122
Youtubeでは1秒間に1時間分の動画が投稿されてるから人間がいちいち見るなんて不可能だしある程度AIに頼らなきゃならんのは仕方ないことよ
127.はちまき名無しさん投稿日:2021年02月22日 19:39▼返信
白井黒子のキャラソンアメリカではどうなんや?
128.はちまき名無しさん投稿日:2021年02月22日 20:16▼返信
AIが進歩したといっても単語だけに反応してBANまで実行しちゃってるのを見ると人工知能というよりやっぱりただのプログラムなんだなと解ってしまって萎えるな
129.はちまき名無しさん投稿日:2021年02月22日 22:22▼返信
そのうち水墨画もアウトにするんじゃないか
130.はちまき名無しさん投稿日:2021年02月23日 07:44▼返信
ポケモンBWもヤバイじゃん
131.はちまき名無しさん投稿日:2021年02月23日 21:04▼返信
は?黄色が無いことへの人種差別でBANされたんですよ怒
白と黒だけって明らかに黄色人種への差別でしょ怒怒怒

直近のコメント数ランキング

直近のRT数ランキング

×