Cloud Vision API の利用者にメールで告知があったようです
Got an email from Google saying Cloud Vision API will not return gendered labels such as 'man' and 'woman' after February 19, 2020. pic.twitter.com/9XjdgQQwNe
— Sriram Sharma (@SriramVSharma) February 20, 2020
2020年2月19日から、もう過ぎてますね、Vision API はラベルによる分類をした時に画像の中の人物に対して”man”/”woman”といった男女を区別したラベルを返さず、”person”を返すようになったということです。
人の性別は外見からわからないはずなのに、どちらかの性別にしてラベル付けしてしまっていたことが、Google が自ら取り決めて公開している GoogleにおけるAIの原則(Artificial Intelligence at Google: Our Principles)の第2項、「新たな偏見を生み出したり既存の偏見を強化しない」に反している、などが今回の変更の理由だということです。
見た目から性別を特定するのは偏見である、という考え方は良いと思います。Business Insiderの取材に回答したMozillaのフェローは、たいへんポジティブな変更だ、と評価しているよう。
このAPIで男女判定をしている既存のサービスやアプリは慌てているところかもしれませんね。
他社の同様のサービスはまだこのような方針になっていないため、とりあえずは別のAPIを利用するように直すのでしょうけれど。
via Business Insider