誤認識 – 秋元@サイボウズラボ・プログラマー・ブログ

4日に行われるスーパーボウルでは Amazon もスマートスピーカーアレクサのTVCMを流すようですが、それに先がけて「テレビが “Alexa” という言葉を流しても家の Alexa 機器が反応しない技術」を配備したと Amazon の開発者ブログで明かされています。

この技術、基本的には、発話された”Alexa”に対する指紋のようなデータ(acoustic fingerprint)を使い、家庭でユーザーが発した”Alexa”ではないということを判定するもの。

既知のCM中の”Alexa”については、あらかじめ音声指紋を計算しておき、Echo デバイスがその場で突合せをして撥ねているそうです。なので、今回のCMに出てくる”Alexa”を無視するだけであれば、サーバ側の処理は不要ということになります。

ただ、それだけではなく、同時に広い地域の多数のEchoデバイスから、同じ発声の”Alexa”が届いた時に、これをテレビやラジオの放送によるものだとリアルタイムに判定して無視することもできるのだそうです。事前に知らされてない状態でラジオのDJがリスナー達のAlexaを起動しようとしても、防げるようになった、ということになります。

(参考) トヨタ、ラジオCMから運転手のiPhone Siriに命令する – スウェーデン

スーパーボウルで流される予定の動画は、YouTube で既に公開されています。ハリソン・フォード氏が出演。過去の「うまくいかなかった Alexa 組み込みデバイス」を紹介するという面白動画になっています。

https://www.youtube.com/watch?v=8y-1h_C8ad8

テレビ・ラジオだけでなく、世の中に広く存在する”Alexa”に対処してるとすると、例えば Google Home が喋る”Alexa”にも反応しなくなってるかもしれませんね。そうすると過去にご紹介したこういう遊びは動かなくなるのかな。

顔認識がアジア系男性を「目が開いてない」と拒絶ニュージーランド

Facebook上でニュージーランド人のリチャード・リーさんが公開したメッセージがこれ。

パスポートの更新をしようとオンライン手続きをする際に、自分の顔写真をアップロードしたところ、「被写体の目が閉じています」というエラーになって受け付けてくれなかった、という事件です。

多数の既存の顔写真を機械学習させた結果で、目を閉じている写真をエラーにしているのだと思いますが、教師データとして世界中の顔写真ではなく、ヨーロッパ系やマオリ系が多数というニュージーランドの顔データを使ったのかもしれません。

アジア人の目をことさら取り上げたり強調して描いたりすることは、人種差別として厳しい批難を受けるようになってきています。10月に欧州連合の委員が巻き起こした事件は記憶に新しいところ。

欧州連合（ＥＵ）のギュンター・エッティンガー欧州委員（デジタル経済・社会担当）＝ドイツ＝が、中国人を「つり目」と呼ぶなど差別的な発言を繰り返していたことが暴露され、批判にさらされている。

差別発言に批判＝欧州委員、中国人を「つり目」：時事ドットコム

上の記事がYahoo!ニュースに転載されていた時に寄せたコメントが掲載終了で見えなくなっているので、こちらに転記しておきます。

つり目(slant-eyes)は、西洋において東アジア人の顔面の特徴を揶揄する際に使われる典型的な差別表現になっています。2008年にはスペインのバスケットボール・ナショナルチーム、2009年には歌手のマリー・サイラス、2013年にはスペインのバイクレーサー、マルク・マルケスがこの表現で炎上しています。

今回は中国人を指してのものですが、マルク・マルケスの時は日本人が対象でした。

今回のリーさんは、笑い話として共有して世界中に広まりましたが、そのコメント欄でやはり差別的な書き込みをするような人も出てくるわけです。

ニュージーランドのパスポートセンターも、悪気があってシステムを作ったわけではないと思いますが、機械学習のための元データの選定についても学習させるデータのセットが本当にそれでいいのか、というのを考えないといけないのでしょうね。

via Bored Panda