偏見 on akky@サイボウズラボ・ブログ

GoogleのCloud Vision API が画像内の男女の性別分類を停止

Fri, 21 Feb 2020 00:00:00 +0000

2020年2月19日から、もう過ぎてますね、Vision API はラベルによる分類をした時に画像の中の人物に対して"man"/“woman"といった男女を区別したラベルを返さず、“person"を返すようになったということです。

人の性別は外見からわからないはずなのに、どちらかの性別にしてラベル付けしてしまっていたことが、Google が自ら取り決めて公開している GoogleにおけるAIの原則(Artificial Intelligence at Google: Our Principles)の第2項、「新たな偏見を生み出したり既存の偏見を強化しない」に反している、などが今回の変更の理由だということです。

見た目から性別を特定するのは偏見である、という考え方は良いと思います。Business Insiderの取材に回答したMozillaのフェローは、たいへんポジティブな変更だ、と評価しているよう。

このAPIで男女判定をしている既存のサービスやアプリは慌てているところかもしれませんね。

他社の同様のサービスはまだこのような方針になっていないため、とりあえずは別のAPIを利用するように直すのでしょうけれど。

via Business Insider

[可視化] ヨーロッパ各国で「子供の恋人が○○人でも気にしないか?」を訊ねた結果の地図

Fri, 15 Dec 2017 00:00:00 +0000

reddit の地図セクションで bezzelford さんが発表したヴィジュアライゼーション。

この地図は、「あなたの子供が黒人と付き合っていたとして、問題ない(comfortable)と思いますか?」に対する回答で、問題ない人の割合が高いほど緑に、低いほど赤に塗り分けられています。

緑が濃い国ほど、気にしていないということですね(あるいは「気にしてないように振る舞う」可能性もなくはないですが)。同じヨーロッパと言っても、8割は気にしないスウェーデンやイギリスの寛容さと、7割が気にするチェコ・スロバキア・ブルガリア等では大きく違うことが見て取れます。

ヨーロッパで黒人がどう扱われようと、日本人の自分には関係ない? ではこちらはどうでしょう

「あなたの子供がアジア人と付き合っていたとして、問題ない(comfortable)と思いますか?」への回答。

黒人とアジア人の許容度の差は平均で5%ぐらいなので、「子供の交際相手として黒人はだめだがアジア人ならOK」という人の割合は、ヨーロッパ人が20人いる中で1人ぐらいということなんでしょう。人種差別の少ない社会は、日本人にとっても助かる社会と言えるのでは。

reddit のコメント欄では、「国によってその国の言葉で訊ねただろうから、翻訳のニュアンスが違うせいでこんな差がついたのでは?」と言った意見も出ています。「さすがにこんなひどくないだろう」という人もいれば「私も○○人だが、○○人の多くはレイシストだ」みたいな人も。

また、「アジア人(Asian)と言っても国によってさまざまで、たとえばイギリス人ならインドやパキスタン人を最初に思い浮かべるのでは?」とか、「そんなことはない、中国人や日本人をまず思いつく」という議論もありました。

元の投稿では、イスラム教徒、ユダヤ教徒についての地図もあります。

元データについて

このデータ、適当なアンケート結果ではなく、EU が実施した「EU における差別 2015年」という大きな調査 [pdf] の中の一部のようです。

24ページ目に、地図を塗り分けた元データの表があります。

東欧諸国の方で興味深いのは、「子供の恋人が白人だったら?」という質問ですら、「問題ない」が90%を割るところがいくつもあるところで、仮定の質問でも子供の恋人なんて考えたくない、のかもしれません。(ちなみにEU平均でも92%)

[動画] だって僕たち日本語しゃべってるじゃん!

Fri, 16 May 2014 00:00:00 +0000

ちょうど一年間にご紹介した、アジア系アメリカ人の受ける偏見を描いた動画のチームが、また面白い動画を、こんどは日本を舞台に作ってくれたようです。

千葉県産まれ日本ハムファイターズのファン!

動画は面白く誇張しすぎではありますが、redditには日本で同じような経験(日本語で話したのに英語で答えられた)の「あるある」コメントが多数寄せられています。

via reddit