新しく登場した「女性しか参加できないSNS」 giggleが、女性しか参加させないために画像認識技術による性別判定を用い、抗議を受けたというニュースです。
この Giggle 、参加するにはまず自撮りを撮影して送る必要があります。送られた写真は「性別確認ソフトウェア」でチェックされ、女性と判定された申し込みだけが登録できる仕組みなのだとか。
サービス側は写真から骨の構造を見て女性かどうか判定できる、と謳っているそうですが、これにトランスジェンダー女性がtwitterで抗議の声を上げています。
https://twitter.com/transbitch/status/1225580950588882947
骨の形で女性で無いと判定してしまうと、産まれた時の身体が男性だったトランス女性は女性ではないと判定されてしまう可能性がありますね。まあ、そもそも、骨の形で(身体的にではあっても)男女を100%正しく判定できるソフトウェアというのがあるとも思えないので、女性と産まれて女性判定されない人もでてしまうこともありそうに思うのですが。
先月にはGoogleのCloud Vision API が画像内の男女の性別分類を停止というニュースをご紹介しました。画像による性別判定が不完全なものであると、トップレベルの技術者を多数擁するであろうGoogleでも認めているわけです。
女性トイレや女風呂の利用に関しても、女性性をどう定義するかというのがニュースになることは増えていますね。ニュースにもならなかった昔に比べればそれ自体は進歩に付随するものだろうとは思うのですが、ナイーブなAIで性別を判定し、それに頼ったサービスを運営するということ自体、リスクが高いように思わされたニュースでした。
via The Verge