カテゴリー
ネットの事件

女性専用SNS、女性かどうかをAIが自撮り写真で判定する仕組みで論議を呼ぶ

新しく登場した「女性しか参加できないSNS」 giggleが、女性しか参加させないために画像認識技術による性別判定を用い、抗議を受けたというニュースです。

この Giggle 、参加するにはまず自撮りを撮影して送る必要があります。送られた写真は「性別確認ソフトウェア」でチェックされ、女性と判定された申し込みだけが登録できる仕組みなのだとか。

サービス側は写真から骨の構造を見て女性かどうか判定できる、と謳っているそうですが、これにトランスジェンダー女性がtwitterで抗議の声を上げています。

https://twitter.com/transbitch/status/1225580950588882947

骨の形で女性で無いと判定してしまうと、産まれた時の身体が男性だったトランス女性は女性ではないと判定されてしまう可能性がありますね。まあ、そもそも、骨の形で(身体的にではあっても)男女を100%正しく判定できるソフトウェアというのがあるとも思えないので、女性と産まれて女性判定されない人もでてしまうこともありそうに思うのですが。

先月にはGoogleのCloud Vision API が画像内の男女の性別分類を停止というニュースをご紹介しました。画像による性別判定が不完全なものであると、トップレベルの技術者を多数擁するであろうGoogleでも認めているわけです。

女性トイレや女風呂の利用に関しても、女性性をどう定義するかというのがニュースになることは増えていますね。ニュースにもならなかった昔に比べればそれ自体は進歩に付随するものだろうとは思うのですが、ナイーブなAIで性別を判定し、それに頼ったサービスを運営するということ自体、リスクが高いように思わされたニュースでした。

via The Verge

カテゴリー
ネットの事件

GoogleのCloud Vision API が画像内の男女の性別分類を停止

Cloud Vision API の利用者にメールで告知があったようです

2020年2月19日から、もう過ぎてますね、Vision API はラベルによる分類をした時に画像の中の人物に対して”man”/”woman”といった男女を区別したラベルを返さず、”person”を返すようになったということです。

人の性別は外見からわからないはずなのに、どちらかの性別にしてラベル付けしてしまっていたことが、Google が自ら取り決めて公開している GoogleにおけるAIの原則(Artificial Intelligence at Google: Our Principles)の第2項、「新たな偏見を生み出したり既存の偏見を強化しない」に反している、などが今回の変更の理由だということです。

見た目から性別を特定するのは偏見である、という考え方は良いと思います。Business Insiderの取材に回答したMozillaのフェローは、たいへんポジティブな変更だ、と評価しているよう。

このAPIで男女判定をしている既存のサービスやアプリは慌てているところかもしれませんね。

他社の同様のサービスはまだこのような方針になっていないため、とりあえずは別のAPIを利用するように直すのでしょうけれど。

via Business Insider

カテゴリー
ガジェット

Bella – AIによる赤ちゃん見守りカメラ

子供の活動を遠隔からも見守れるウェブカメラは、使ってる人は使ってるぐらいの時代になってきてるようですね。単なる固定カメラだけでなく、リモートからカメラの撮影角度を変更できるとか、音声で会話できるとかいうものもあります。

Bella は、乳児監視カメラにソフトウェアによる異常検知を追加した賢い監視カメラのようです。

映像の中の赤ちゃんの顔が見えない=何かが被っていると、警告を投げてくれるそうです。部屋が暗くても検知できる、とあるのはさすがに暗さによっては無理なんじゃないかという気もするんですが。

映像の中で「安全な領域」を設定しておくと、そこを出た時に警告してくれるということ。この写真では中央のカーペットを設定してるようですね。ちょっと台所で作業、といったような際に、赤ちゃんが特定の場所から離れないかを見ててくれるというような使い方ができそう。

逆に、「危険な領域」を設定して、そこに赤ちゃんが(何かが?)映ったら警告というモードも。こういう階段に柵をつけるという物理的な安全対策もありますが、このような警告が来れば対処できるケースもありそう。

「赤ちゃんが泣いたら警告」機能は、乳児でも別室に寝かせたりする海外らしい機能かもしれませんね。日本なら泣かれても気づかないほど家の中で離れてることもなかなかないかも。

ソフトウェア側で、これまで親などがやっていた見張り的な作業を代替してくれるというのは、育児のたいへんさを軽減するのに役に立ちそうです。画像・動画の解析・検知技術が普及してきたことで、今後もいろいろな進化が期待できるのではないでしょうか。

Kickstarter でのクラウドファンディングです。早期予約で$149(1万6390円) 、これが予価の4割引きだそうなので、市販まで行ったら定価は$250(2万7500円) ぐらいでしょうか。

コメント欄では5月のリリースに向けて既に製造体制とありますが、クラウドファンディングの常で、お金を払っても製品が届くか、届いた製品が売り文句通りかは保証されていないことにご注意ください。

via release mail