https://labs.cybozu.co.jp/blog/akky/tags/%E3%83%A9%E3%83%99%E3%83%AA%E3%83%B3%E3%82%B0/ Recent content in ラベリング on akky@サイボウズラボ・ブログ Hugo ja Fri, 21 Feb 2020 00:00:00 +0000 https://labs.cybozu.co.jp/blog/akky/2020/02/google-cloud-vision-api-stops-gender-detection/ Fri, 21 Feb 2020 00:00:00 +0000 https://labs.cybozu.co.jp/blog/akky/2020/02/google-cloud-vision-api-stops-gender-detection/ <p>Cloud Vision API の利用者に<a href="https://twitter.com/SriramVSharma/status/1230517026436763650">メールで告知があった</a>ようです</p> <p>2020年2月19日から、もう過ぎてますね、Vision API はラベルによる分類をした時に画像の中の人物に対して&quot;man&quot;/&ldquo;woman&quot;といった男女を区別したラベルを返さず、&ldquo;person&quot;を返すようになったということです。</p> <p>人の性別は外見からわからないはずなのに、どちらかの性別にしてラベル付けしてしまっていたことが、Google が自ら取り決めて公開している <a href="https://ai.google/principles/">GoogleにおけるAIの原則(Artificial Intelligence at Google: Our Principles)</a>の第2項、「新たな偏見を生み出したり既存の偏見を強化しない」に反している、などが今回の変更の理由だということです。</p> <p>見た目から性別を特定するのは偏見である、という考え方は良いと思います。<a href="https://www.businessinsider.com/google-cloud-vision-api-wont-tag-images-by-gender-2020-2">Business Insider</a>の取材に回答したMozillaのフェローは、たいへんポジティブな変更だ、と評価しているよう。</p> <p>このAPIで男女判定をしている既存のサービスやアプリは慌てているところかもしれませんね。</p> <p>他社の同様のサービスはまだこのような方針になっていないため、とりあえずは別のAPIを利用するように直すのでしょうけれど。</p> <p>via <a href="https://www.businessinsider.com/google-cloud-vision-api-wont-tag-images-by-gender-2020-2">Business Insider</a></p>