カテゴリー
ネットの事件

Googleのヘルプに書かれたサンプルドメインが失効、乗っ取られる

Googleの G Suite サービスのマニュアルで使われているドメイン名が失効してしまい、他人に取られたという話。そのドメインを取った人自身が説明しています。

G Suite のオンラインマニュアルに、独自ドメインを設定してもうまくいかない場合の確認方法について書かれているのですが、

設定済のドメインとして、spottedfig.org というドメイン名が使われています。これを、Google は当初は維持していたようなのですが、更新忘れで失効してしまっていたということ。

マニュアルの中の例としてのドメインで、リンクが貼ってあるわけでもないので、日頃運営しているwebサービスが乗っ取られるとかそういった致命的なミスではないですが、spottedfig.org の新オーナーがもし偽の誘導ページ等を置けば、中にはそれがGoogleのサイトだと勘違いして指示に従ってしまう人もいるかもしれません。

Google のような大企業でもサンプルドメインとして適当なものを使ったり、それを更新し忘れたりするんですね。

spottedfig.org が他人に取られたことを受けて、英語版のG Suite のマニュアルではサンプルドメインが solarmora.com に変更されています。このドメインにアクセスしても、Google のエラーページが表示されます。しかし、日本語版ではまだ以前のまま、spottedfig.org ですね。

spotted fig は、まだらのイチジク、という意味でしょうか。なんでこんなドメインを例にしたんでしょう。

カテゴリー
ネットの事件

女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

新しく登場した「女性しか参加できないSNS」 giggleが、女性しか参加させないために画像認識技術による性別判定を用い、抗議を受けたというニュースです。

この Giggle 、参加するにはまず自撮りを撮影して送る必要があります。送られた写真は「性別確認ソフトウェア」でチェックされ、女性と判定された申し込みだけが登録できる仕組みなのだとか。

サービス側は写真から骨の構造を見て女性かどうか判定できる、と謳っているそうですが、これにトランスジェンダー女性がtwitterで抗議の声を上げています。

https://twitter.com/transbitch/status/1225580950588882947

骨の形で女性で無いと判定してしまうと、産まれた時の身体が男性だったトランス女性は女性ではないと判定されてしまう可能性がありますね。まあ、そもそも、骨の形で(身体的にではあっても)男女を100%正しく判定できるソフトウェアというのがあるとも思えないので、女性と産まれて女性判定されない人もでてしまうこともありそうに思うのですが。

先月にはGoogleのCloud Vision API が画像内の男女の性別分類を停止というニュースをご紹介しました。画像による性別判定が不完全なものであると、トップレベルの技術者を多数擁するであろうGoogleでも認めているわけです。

女性トイレや女風呂の利用に関しても、女性性をどう定義するかというのがニュースになることは増えていますね。ニュースにもならなかった昔に比べればそれ自体は進歩に付随するものだろうとは思うのですが、ナイーブなAIで性別を判定し、それに頼ったサービスを運営するということ自体、リスクが高いように思わされたニュースでした。

via The Verge

カテゴリー
ネットの事件

GoogleのCloud Vision API が画像内の男女の性別分類を停止

Cloud Vision API の利用者にメールで告知があったようです

2020年2月19日から、もう過ぎてますね、Vision API はラベルによる分類をした時に画像の中の人物に対して”man”/”woman”といった男女を区別したラベルを返さず、”person”を返すようになったということです。

人の性別は外見からわからないはずなのに、どちらかの性別にしてラベル付けしてしまっていたことが、Google が自ら取り決めて公開している GoogleにおけるAIの原則(Artificial Intelligence at Google: Our Principles)の第2項、「新たな偏見を生み出したり既存の偏見を強化しない」に反している、などが今回の変更の理由だということです。

見た目から性別を特定するのは偏見である、という考え方は良いと思います。Business Insiderの取材に回答したMozillaのフェローは、たいへんポジティブな変更だ、と評価しているよう。

このAPIで男女判定をしている既存のサービスやアプリは慌てているところかもしれませんね。

他社の同様のサービスはまだこのような方針になっていないため、とりあえずは別のAPIを利用するように直すのでしょうけれど。

via Business Insider