女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

Fri, 06 Mar 2020 00:00:00 +0000

新しく登場した「女性しか参加できないSNS」 giggleが、女性しか参加させないために画像認識技術による性別判定を用い、抗議を受けたというニュースです。

この Giggle 、参加するにはまず自撮りを撮影して送る必要があります。送られた写真は「性別確認ソフトウェア」でチェックされ、女性と判定された申し込みだけが登録できる仕組みなのだとか。

サービス側は写真から骨の構造を見て女性かどうか判定できる、と謳っているそうですが、これにトランスジェンダー女性がtwitterで抗議の声を上げています。

Finally, the ultimate test has been prepared for trans-girls. We shall await our judgment like sheep. All it takes is one selfie—if giggle lets us in, we are welcomed into the society of women, to pass forevermore. If not, we shall be abandoned in a heap of offals and excrement pic.twitter.com/lZnw8AzZF0
— Abolish ICE (@transbitch) February 7, 2020

骨の形で女性で無いと判定してしまうと、産まれた時の身体が男性だったトランス女性は女性ではないと判定されてしまう可能性がありますね。まあ、そもそも、骨の形で(身体的にではあっても)男女を100%正しく判定できるソフトウェアというのがあるとも思えないので、女性と産まれて女性判定されない人もでてしまうこともありそうに思うのですが。

GoogleのChromebook宣伝動画、YouTube にスパムとしてはねられる

Mon, 20 Nov 2017 00:00:00 +0000

ツイッターにおけるヘイトスピーチ投稿の規制や、プログラムによる自動的なスパム判定がニュースとなっていますね。

そんな中、同じくスパム投稿や違法コピー投稿がなかなかなくならない YouTube で、有名企業によるプロモーション動画が誤判定でスパム扱いされた、と TheNextWeb が伝えています。

今回、スパム判定されてしまったのは、新しい Chromebook の宣伝動画(おそらく Pixelbook )、作ったのは Google 社です。YouTube を運営している会社ですね。自社サービスに自社動画がブロックされてしまったと。

スパム判定された状態の動画はすぐに撤回されてしまったようですが、消される前に Android 上の YouTube アプリで撮影された証拠動画というのがこちら

この動画はユーチューブのスパム・不正・詐欺行為に関するポリシーに違反したため削除されました

“This video has been removed for violating YouTube’s policy on spam, deceptive practices, and scams,”

ユーザー投稿がスパムや不正なものでないか、プログラムで機械的に判定するのがいかに困難か、という証拠のようにも思えます。

僕としては、「自社のアカウントは絶対スパム判定されないよう、特別扱いでホワイトリストに入っている」といった管理をしてないのはむしろ好感を持ちましたし、疑陽性で止められる経験によって機械学習等によるより正確なスパム判定をできるようにしなきゃ、と中の人も思ってるのではないかと思いました。

via TheNextWeb

誤判定 on akky@サイボウズラボ・ブログ

女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

GoogleのChromebook宣伝動画、YouTube にスパムとしてはねられる