女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

Fri, 06 Mar 2020 00:00:00 +0000

新しく登場した「女性しか参加できないSNS」 giggleが、女性しか参加させないために画像認識技術による性別判定を用い、抗議を受けたというニュースです。

この Giggle 、参加するにはまず自撮りを撮影して送る必要があります。送られた写真は「性別確認ソフトウェア」でチェックされ、女性と判定された申し込みだけが登録できる仕組みなのだとか。

サービス側は写真から骨の構造を見て女性かどうか判定できる、と謳っているそうですが、これにトランスジェンダー女性がtwitterで抗議の声を上げています。

Finally, the ultimate test has been prepared for trans-girls. We shall await our judgment like sheep. All it takes is one selfie—if giggle lets us in, we are welcomed into the society of women, to pass forevermore. If not, we shall be abandoned in a heap of offals and excrement pic.twitter.com/lZnw8AzZF0
— Abolish ICE (@transbitch) February 7, 2020

骨の形で女性で無いと判定してしまうと、産まれた時の身体が男性だったトランス女性は女性ではないと判定されてしまう可能性がありますね。まあ、そもそも、骨の形で(身体的にではあっても)男女を100%正しく判定できるソフトウェアというのがあるとも思えないので、女性と産まれて女性判定されない人もでてしまうこともありそうに思うのですが。

Gmail の文章サジェスト機能、ジェンダーバイアスの強化を避け性別の人称代名詞を(当面は)避けることに

Wed, 28 Nov 2018 00:00:00 +0000

次を予測して文章を提案してくれるスマートコンポーズ機能

Gmail の実験機能の一つに、スマートコンポーズ(Smart Compose)という機能があり、Gmail の言語設定を英語にした上で設定でオンにすると使えるようになります。

この機能は、途中まで入力した文章を基に、全文を予測してグレーの文字で提案してくれるという機能です。

日ごろから日本語入力でIMEを使っている我々にしてみれば、入力時にある程度先を提案してくれる(たとえば、「おは」と書いたら「おはようございます」が候補に出る)のは英語圏の人たちよりもなじみ深い仕組みかと思います。Gmail の Smart Compose は、それを文の終わりまで拡張したようなものになります。

実験機能でオンにしないと使えないとはいえ、Gmail から送られるメッセージの11% でこの機能がオンにされているということで、英語圏のヘビーユーザーは結構使っているのかもしれません。

データ学習から提案される ‘he’ や ‘she’ のバイアス

ところが、Gmail の担当チームは、このサジェストが ‘he’ や ‘she’ といった三人称の人称代名詞を、既存データのバイアスに影響されて選んでしまうことに気づいてしまったそう。

「私は来週投資家に会うつもりだ。君も…」と書こうとすると「…彼に会うかい?」と、必ず「彼」が出てきたというのです(「投資家」の場合)。

Google が持っている膨大な文章データから自動生成するとそうなる、ということで、特定の職業の性別を男女どちらかに推定しまうことに Google 自体の罪があるわけではありません。多くの人々が内包しているバイアスなのでしょう。

しかし、このようなサジェスト機能をみなが使い続けると、サジェストがまた次に生み出される文章のバイアスを強化してしまう可能性がありますね。バイアスの無い she/he の提案が今は難しいと考えたチームは、さしあたりこのような提案になる場合は提案そのものをしないという決定を下したそうです。

via Reuters via TheNextWeb

性別 on akky@サイボウズラボ・ブログ

女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

Gmail の文章サジェスト機能、ジェンダーバイアスの強化を避け性別の人称代名詞を(当面は)避けることに

次を予測して文章を提案してくれるスマートコンポーズ機能

データ学習から提案される ‘he’ や ‘she’ のバイアス