Microsoft on akky@サイボウズラボ・ブログ

GitHub Copilot は"gender"など特定用語を含むコードで動かなくなる

Fri, 05 Aug 2022 00:00:00 +0000

書いているプログラムコードから次に必要そうなコードを提案してくれる GitHub の Copilot サービスで、「このコードに対して Copilot が何も提案してくれない」というバグが報告されました。

これに対するコミュニティの識者からの回答は、「おそらく、コードの中に “gender” という単語が入ってるからでしょう。」というもの。

Copilot には内蔵されたコンテンツフィルターがあり、フィルターに反応するとコードの提案をしないという作りなのだそう。そして “gender” もそのリストに含まれているらしいのです。

コードの提案が止まる、と言われたコードをCopilotで書いてみた

実際にCopilotで該当部分のコードを書いてみたところ、サジェストされた内容は文にならず途中で止まりました。元のコメント者と同じ結果なのかどうかはわかりませんが。

これを受けてのHacker News の議論では、

ジェンダーという名前の変数があったとして、その変数を boolean 型として提案コードを出せば「ジェンダーは(男女の)2通りじゃない」と怒る人が来てしまい、多値にすれば「ジェンダーは2通りだ」と怒る人が来るからでは、

という推測がトップコメントになっています。この推測が正しい理由かは不明ですが、議論になりそうな単語が含まれていると Copilot が動かなくなるというのは知ってる人は以前から知っていたようです。

今はクライアント側に禁止ワードのリストは無いそうですが、昔ベータだった際にクライアント側に埋め込まれていたリストを保存してた人がいたようで、rot13を掛けるとどんな単語が引っ掛かるかわかります。(このリストが本物として、リストが見えていた時期から変わっていないとして)

人種差別的な単語や罵倒後、卑猥な単語らがたくさん登録されていますが、“gender” も確かに含まれています。それどころか、“boy”, “girl”, “male”, “female” とかも入っているので、人を管理するデータクラスとかを作っただけでも引っ掛かることはありそう。

リストには英単語しか入っていないため、変数を日本語やローマ字で書く分には回避できそうですけどね。Hacker News では、“gender” をラテン語の"genus"に変えたら動いたよ、という報告もあり、これも試したところ本当でした。

“genus"にしたらサジェストが出た

マイクロソフトはAIチャットで意図しない発言が生成されて炎上したことがあったので、コードの提案でも問題を避ける機能を入れたくなるのはわからないでもありません。ただ、単語だけ列挙したリストの作りは雑なように感じるので、やるにしてももう少し改善してほしい気がします。

直近は、Copilot が何も言わなくなり、書いたコードが性別やジェンダーに関する変数名を含んでいたら、変数名をちょっと変えてみる、んですかね?

[追記あり] DuckDuckGo のプライバシーブラウザアプリが Microsoft 系列のtrackerをブロックせず批難を浴びる

Fri, 27 May 2022 00:00:00 +0000

プライバシー研究者のザック・エドワーズ氏が、プライバシー重視のウェブ検索サービス DuckDuckGo が iPhone/Android 向けに出している DuckDuckGo ブラウザアプリ DuckDuckGo Privacy Browserが、その売り文句通りに Google や Facebook の広告ネットワークの追跡をブロックしているのに、Microsoft の広告ネットワークのトラッカーを素通ししている、と発表しています。

Sometimes you find something so disturbing during an audit, you've gotta check/recheck because you assume that *something* must be broken in the test.

But I'm confident now.

The new @DuckDuckGo browsers for iOS/Android don't block Microsoft data flows, for LinkedIn or Bing.🧵 pic.twitter.com/ol7Ydfo3BJ
— Zach Edwards (@thezedwards) May 23, 2022

Microsoft 系のトラッカーというのは、LinkedIn や Bing のものということで、このスマホアプリの通信をキャプチャして、linkedin.com と通信していることが証拠だと言っていますね。

DuckDuckGo はプライバシーを守れることを売りにしてきた企業なので、それで使っているユーザーの期待を裏切ってることになるのではと思いますが。

DuckDuckGo の CEO が Hacker News で Microsoft 系への通信を認めていますね。

Visual Studio 2019インストーラの完了画面が「緑帽子」問題で修正される

Thu, 14 Mar 2019 00:00:00 +0000

プレビュー版が出ている Visual Studio 2019 ですが、ちょっと変わったバグレポートがでて話題になっています。

「VS2019をインストールしたら、ウェルカムページに緑の帽子をかぶって自転車に乗った男性の絵が表示されます」

ふむ

「しかし、緑の帽子は中国では侮辱的とされています」

何だって!?

「緑の帽子をかぶる男性は、妻や彼女に浮気されているという意味なのです」「Bingで検索してみてください。これは真剣な話です。帽子の色を変更してください」

百度百科で検索するとそれらしい情報が出てきました。中国で緑の帽子にそのような意味があること自体は本当のよう。

マイクロソフトの対応はというと、

2日後「エンジニアチームへフィードバックを送りました。チームがこれから調査をします」

4日後「内部的には修正が完了しました。」

11日後(本日)「修正版が公開されました。製品改善への貴重なご意見ありがとうございました」

この間、「私も中国人だが、この絵で帽子が緑であることは侮辱的でもなんでもない。馬鹿馬鹿しい」とか「こんな修正だけ修正が素早いのな」「次は有色人種への侮辱として白いTシャツを禁止するか?」「自転車に乗ってるのが男性なのは女性への差別では?」といったように、コメント欄が荒れています。

内部での「調査」がどんなものだったかわかりませんが、マイクロソフトのような大企業に中国人や中国系なんて何百人と在籍しているはず。本当にこれが侮辱的だと思ったわけではなく、事なかれ主義で差し換えただけなんではないですかね。

修正の結果差し換えられた画像はこちら

オレンジや紫の帽子が、別のどこかの文化を侮辱してないといいですね!

via Hacker News

忍者猫(Ninja Cat)絵文字がWindows 10に登場

Wed, 13 Apr 2016 00:00:00 +0000

UbuntuのBashシェルを含むことで盛りあがっているWindows 10 のリリースプレビュー版ですが、カラー絵文字のフォント入れ替えに併せて、マイクロソフトの忍者キャット(Ninja Cat)文字が入っていることがわかりました。

# マイクロソフトの忍者猫ブームについてはこちらをどうぞ

(Emojipedia)

合字を作るためのゼロ幅接合子(Zero Width Joiner, ZWJ)を使ったもので、二つのUnicode文字を並べると、この二つの文字がただ並ぶのではなく、これらの新絵文字が表示されます。

6個の新絵文字は以下の通り

🐱👤 Ninja Cat
🐱🏍 Ninja Cat Flying 空飛ぶ忍者猫
🐱💻 Ninja Cat at Computer コンピューターと忍者猫
🐱🐉 Ninja Cat riding T-Rex ティラノサウルスと忍者猫
🐱☕ Ninja Cat with Coffee コーヒーと忍者猫
🐱🚀 Ninja Cat in Space 宇宙忍者猫

# Windows 10 のプレビュー版で見ている人にしか、くっついては見えないと思いますが。

(Emojipedia)

このZWJを(アラビア語やインド諸語で必要な複雑な文字を表現するためでなく、)このような目的に使ったケースとしては、人のアイコンなどを組み合わせて家族のアイコンを作ったり、いじめ撲滅の啓発目的でApple iOSに登場した「目の入った吹き出し」 “I am witness”(私は目撃者です)などがあります。

Fetch! 写真から犬種を当てるiPhoneアプリ

Sat, 13 Feb 2016 00:00:00 +0000

顔写真から年齢を当てるサービスや、顔写真から感情を当てたりするサービスなど、機械学習を活用した実験的サービスを連発しているマイクロソフトのガレージ・プロジェクトから、こんどは犬の写真を使うアプリ Fetch! がiOS向けに登場しました。

犬の写真を撮ると、その犬の種類 - マルチーズとか柴とかブルドッグとか - を推定してくれる、というアプリです。

ウェブサービス版の What-Dog.net もあります。

うちの犬は特に血統書等は無いけど、どの種類に近いのだろう、みたいな疑問にも、答えてくれるかもしれません。

過去に出したサービスの流れからいくと、犬種じゃなくて「人種を判定するサービス」だったとしてもおかしくないですし、そういう仕組みも作っていたかもしれません。ですが、今の時代にそんなものを作って公開するのは炎上必死でしょうね。犬の血統書だって全ての人が賛同しているものではないのですから。

https://itunes.apple.com/us/app/id1050367912?mt=8

via GeekWire

マイクソフトが描く近未来のお茶の間スポーツ観戦

Wed, 03 Feb 2016 00:00:00 +0000

来週のスーパーボウル50にあわせて、マイクロソフトがHololens技術を中心とした、「もう少ししたら家でのスポーツ観戦はこうなる」というデモ動画“Imagining the future for NFL fans”(未来のNFLファンを想像する)を公開しました。

スタジアムを上から見下ろす

プレイヤー紹介もリアル

欲しい統計データを取り出せたり

テーブルの上で今のプレイを3Dリプレイ。指をゴニョゴニョやって、カメラの角度や再生速度が変わってます。

この手のデモで良く突っ込まれる、今のHololensの視野角はそんなに広くないという話はやっぱりあって、今むりやりこの中継サービスを作っても、顔の正面にもっと小さな四角い映像が浮かぶだけです。たとえばこの記事で、イメージ映像でどう見えるかと自分の視点でどう見えるかを比較するアニメーションGIFを確認できます。

お題どおりの表情を作ると止まるアラームアプリ Mimicker Alarm

Thu, 21 Jan 2016 00:00:00 +0000

双子かどうかを判定するサービス、Twins or Notなど、顔写真の認証技術を使った実験サービスをいろいろ出しているマイクロソフトが、止め方に特徴のある新たなアラームアプリ Mimicker Alarm をリリースしました。

Mimic(モノマネする)の名前が示すとおり、このAndroid用アラームアプリでは、アラーム音を止めるために、カメラに向けてアプリに指示された表情を作る必要があります。

「驚いた顔をして」「ハッピーな顔をして」などという指示を見て、30秒以内にアプリが判定する驚いた顔を撮らないと、アラームが後でまた鳴るようになっています。

マイクロソフトの Oxfordプロジェクトの一つ、表情を判定する Emotion API のデモとしての役割を持つこのアプリ、太っ腹なことにソースコードがGitHubで公開されています。

表情の変化を使って何かをするアイデアがあれば、このコードをベースに自分のアプリを作ることもできるというわけですね。

via The Verge

TwinsOrNot?(双子かどうか?) - 二人の顔写真の類似度を調べるマイクロソフトのミニサービス

Sat, 06 Jun 2015 00:00:00 +0000

TwinsOrNot.net は、二人の人物の顔写真をアップロードすると、その二人が双子かどうかを判定してくれる新サービスです。

マイクロソフトは、顔写真から年齢を当てるHow Old Do I Look?(何歳に見える?)で先月ソーシャルメディアにバズを起こしたばかりですが、そのマイクロソフトのスタッフが同社の機械学習APIのショーケース的なミニサービスとして公開されました。

中央の “upload two photos to compare” (比較する2枚の写真をアップロードしてください)をクリックして、顔写真を2枚アップロードすると、2枚の写真の人物の双子度をパーセントで表示してくれます。

ハッシュタグ #TwinsOrNotRobot で、サービス利用者の試した様々な人物がツイッターのタイムラインに上がってきています。

Я один вижу за вирусняком от Microsoft желание вывести на новый уровень алгоритмы распознавания лиц?#TwinsOrNotRobot pic.twitter.com/kKFYMkn693
— рябов иксит (@ilyaliya) June 6, 2015

Circa 2000 I looked like Richard Karn (Al from Home Improvement) -- I could live with that. #TwinsOrNotRobot
1/3 pic.twitter.com/FYq2qDqR8q

マイクロソフトの忍者猫ステッカーが突然のブレイク

Fri, 20 Mar 2015 00:00:00 +0000

米マイクロソフトの社内外で昨年末からチョコチョコ目撃され、公式ショップで売り出されていた変なステッカーが、よくわからない人気であっという間に売り切れてしまったという話です。

View this post on Instagram

このステッカーに出てくる「火を吐くユニコーンに乗った猫」の初出は、イラスト(アート)共有サイトDeviantArtのユーザーSharpWriterさんによるこの図だそうです。

間の悪いプログラマー・ジョークをつぶやいてマイクロソフト公式が炎上

Fri, 07 Nov 2014 00:00:00 +0000

マイクロソフトの開発者向けサイトの公式ツイッター@msdev が開発者向けに飛ばしたジョークが、タイミングの悪さで炎上してしまいました。

Why did the programmer quit his job?

(どうしてそのプログラマーは会社を辞めたの?)

Because he didn’t get arrays.

(配列がわからなかったからだよ)

“get arrays”(配列が理解できる)を、“get a raise”(給料を上げてもらう)とかけているジョークです。「配列がわからなかったから辞めた」=「昇給が無かったから辞めた」のダブル・ミーニングですね。

これだけ見ると、他愛も無いエンジニア・ジョークだと思うのですが、少し前にマイクロソフトCEOのサトヤ・ナデラ氏が昇給を望む働く女性に対して、「カルマが足りないのでは」という発言をして炎上したばかりだったために、このジョークも反発を呼んでしまいました。

.@msdev Why did the programmer quit her job?

Because she was tired of seeing her employer not acknowledge her existence.

Karma?#devlife
— chasing the dopamine (@randileeharper) October 23, 2014

プログラマーの彼女はどうして辞めたの?

彼女の雇用主が彼女の存在を正しく見ようとしないことに飽き飽きしたから。

カルマ?

@msdev はすぐに元ジョークツイートを削除し、謝罪もしています。

Our lighthearted (& bad) pun crossed into insensitive and unintended areas. Sincerest apologies.

マイクロソフトのグーグル批判グッズ

Thu, 21 Nov 2013 00:00:00 +0000

マイクロソフトのオンラインストアで掲載されている、グーグル/gmail を批判するScroogled運動のマグカップ

“Keep calm while we steal your data”(落ち着いて、我々があなたのデータを盗むままにさせなさい)

は、以前にご紹介したレイプTシャツ騒動のときも出てきた流行のフレーズ Keep Calm のパロディ。

「このマグカップに好きな飲み物を入れて、グーグルがあなたのデジタル生活のほぼすべての要素をお金に変えようとしていたとしても、あなたは穏やかでいるということを世界に示しましょう」

ということです。

Chromeロゴとかはいいんですかね。マイクロソフトがやってるのだから、問題にならないようにしてるのだろうとは思いますけど。値段は$7.99 ですが現在売り切れ中のようです。売り切れということは買った人はいるんでしょうね。

via Microsoft wants to sell you anti-Google mugs and t-shirts | The Verge