カテゴリー
Uncategorized ネットの事件

グーグル翻訳が機械学習バイアスで中性主語に性別をつける問題

日本語では”She”/”He”に「彼女」/「彼」が対応するため、あまり気づかないところなのですが、三人称代名詞が中性の言語というのもいろいろあるのですね。

ハンガリー語

ハンガリー語では三人称の代名詞で男女の区別をしないそうです。彼女・彼の両方が”Ő”になります。

ハンガリー語で三人称の様々な文章を作りそれらを英語に翻訳すると英語の三人称単数で中性を表せないため”She”か”He”になるのですが、その決まり方がどうにも偏っているのでは、という話。

日本語をハンガリー語に翻訳して、それをもう一度日本語に戻すと、英語と同じように性別がつくことが確認できました。

マレー語(アニメーションgif)

エストニア語

トルコ語

アルメニア語

フィリピン語

多数の翻訳例を学習して再現するのですから、ナイーブに作った機械翻訳が社会の持っているジェンダーバイアスを再現してしまうのは当然といえば当然ですね。ここは勝手に推論してはいけない箇所のように思います。実際、単文の翻訳では”He or She”などと両案併記で翻訳される場合もあるそう。

三人称単数のtheyという案もありそうですが、これらの言語からの翻訳がtheyになることを利用者が望むかも難しいところ。

via Bored Panda

カテゴリー
ネットの事件

英バーガーキング、国際女性デーにツイート「女性はキッチンがお似合いだ」で炎上

国際女性デーの3月8日、イギリスのバーガーキング公式アカウントが “Women Belong in the Kitchen”(女性はキッチンがお似合いだ) というツイートをし、大炎上しました。

元のツイートは謝罪のあと削除されたのですが、なんで今時こんなことを? 実はバーガーキングの意図はまったく差別とは逆方向にあったらしいのですが。

このツイートにつなげられた続きはこうです。

「もちろん、もし彼女たちがそう望むなら。シェフ業に占める女性の比率はたったの20%にすぎません。私たちは料理というキャリアを追求したい女性従業員を応援し、外食産業におけるジェンダー比率を変えるための計画を実行中です。」

「私たちはここに、バーガーキングの女性従業員が調理の夢をかなえる助けとなる新たな奨学金プログラムを始めることを高らかに宣言します!」

続けて読むと、なるほど国際女性デーの趣旨にあった良い事のようなのですが… 先頭のツイートだけを見ると完全な「釣り」ですねこれは。

先頭の「釣り」ツイートのRTは10万回、イイネは40万回近くまで行ったようですが、この40万回のイイネのうちどれだけがバーガーキングの新奨学金への賞賛なのか、あるいは女性差別への同意なのかは不明です。

謝罪と削除は翌日付け。

業界に女性が少ないことに注意を引きたかった。次はもう少しうまくやる、と言っています。

元ツイートに問題のあるコメントが多数みられるため元ツイートも削除します、とも言っていることから、切り取った女性差別に同意したり上乗せしたりしたツイッターユーザーも多かったのかもしれません。

バーガーキングといえば、ソーシャルメディアも巻き込んだやんちゃな広告活動で知られていますが、今回の「注意を引く」行為は設計があまりにも雑でした。真意が逆であったとしても、注意を引く部分の出来があまりに悪かったし、そこに直球の差別しかないとしたら、切り取られもするでしょう。

ほとんどの人は、続きのツイートがあっても続きまで読まずに反応する、ということの証明にもなった炎上でした。

via Muse

カテゴリー
ネットの事件

女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

新しく登場した「女性しか参加できないSNS」 giggleが、女性しか参加させないために画像認識技術による性別判定を用い、抗議を受けたというニュースです。

この Giggle 、参加するにはまず自撮りを撮影して送る必要があります。送られた写真は「性別確認ソフトウェア」でチェックされ、女性と判定された申し込みだけが登録できる仕組みなのだとか。

サービス側は写真から骨の構造を見て女性かどうか判定できる、と謳っているそうですが、これにトランスジェンダー女性がtwitterで抗議の声を上げています。

https://twitter.com/transbitch/status/1225580950588882947

骨の形で女性で無いと判定してしまうと、産まれた時の身体が男性だったトランス女性は女性ではないと判定されてしまう可能性がありますね。まあ、そもそも、骨の形で(身体的にではあっても)男女を100%正しく判定できるソフトウェアというのがあるとも思えないので、女性と産まれて女性判定されない人もでてしまうこともありそうに思うのですが。

先月にはGoogleのCloud Vision API が画像内の男女の性別分類を停止というニュースをご紹介しました。画像による性別判定が不完全なものであると、トップレベルの技術者を多数擁するであろうGoogleでも認めているわけです。

女性トイレや女風呂の利用に関しても、女性性をどう定義するかというのがニュースになることは増えていますね。ニュースにもならなかった昔に比べればそれ自体は進歩に付随するものだろうとは思うのですが、ナイーブなAIで性別を判定し、それに頼ったサービスを運営するということ自体、リスクが高いように思わされたニュースでした。

via The Verge