機械学習 on akky@サイボウズラボ・ブログ

ChatGPT で文面を書き換えることで Gmail のスパム(誤)判定を突破する

Mon, 23 Jan 2023 00:00:00 +0000

Tor ノードの運営者が Tor の濫用に関する苦情メールに返答する際に使うテンプレート文面でメールを送ろうとしたとき、Gmail のスパムフィルタにスパム認定されてしまったそうです。

この運営者は ChatGPT を使ってメール文を書き換えさせると、Gmail がスパムと判定しなくなったのでめでたしめでたし、という話。

書き換えてください(reword)で実際にどんな細かな指定をしたのかは書いていないのですが、少し長くなった文章でメールを送り直すと、こんどはスパム認定されなかった。今後はスパム認定されるたびに ChatGPT に書き換えさせようかな、と言っています。

今回はスパムでないメールを通すための正当な ChatGPT の利用でしたが、スパマーがスパムフィルタをかいくぐるために ChatGPT やそれに類する機械学習ツールを使うことは容易に予想できますし、すでにそれは行われているのかもしれないですね。便利なツールを使いたい人は善悪に関わらずいるわけで。

via Hacker News

SimpleML - Googleスプレッドシート向けの機械学習アドオン

Thu, 08 Dec 2022 00:00:00 +0000

SimpleML for Sheetsは、Google Spreadsheets 上で機械学習を利用できるGoogle製の拡張機能です。

マーケットプレース上のアドオンページからインストールすると、Googleスプレッドシートのメニューにアドオンが追加されます。

SimpleML for Sheets のメニュー

あとはスプレッドシートにデータ(100個以上あるといいそう)を用意してアドオンを起動すると、一部データの欠けている箇所に何が入りうるか(“Predict missing values”)、あるカラムについて全カラムの値から一番異常な値はどれか(“Spot abnormal values”)などを見つけてくれました。

サンプルのペンギンのデータで、身長が異常な個体を探させた。体重のわりに身長が高くないものが発見された。

この二つはチュートリアルの「初心者のタスク(Beginner Tasks)」で紹介された機能で、その場のデータに対して結果を出すだけでなく、スプレッドシート上でモデルを作成し(作成したモデルはGoogle Drive上に保存されました)、モデルをエクスポートしてGoogle Colabで使うなどもできます。

これは、ブラウザ上で手軽に済ませられる範囲でできることが増えますね。

via @TensorFlow via VentureBeat

doodle:ai - Wikipediaの項目からAIの描いたイラストを基に、関連する単語を当てるクイズ

Fri, 25 Nov 2022 00:00:00 +0000

doodle:aiは、AIに生成させた画像を使ったクイズゲームです。

毎日一つのお題が出ますが、左側の画像は英語版 Wikipedia のある項目の説明文からAIが作ったものです。

右側には、その説明文に含まれていたキーワードと、含まれていなかった外れのキーワードが列挙されています。これらの多くのキーワードの中から、画像の元になった Wikipedia の項目が何だったか、そしてその説明文にどんな単語が含まれているかを推理し、正しいキーワードを当てるというクイズです。

画像と無関係なキーワードをクリックすると、ヒントとなる画像が増えたり、無関係なキーワードがグレイになって次の選択肢が多少楽になります。

正しいキーワードの数は問題ごとに異なりますが、数が多い場合は全部を的中させなくてもクリアになるそうです。たとえば正しいキーワードが8語ある場合は、その中の4個を当てればクリアとなるそう。

回答結果はtwitterなどでシェアしやすい形でコピーでき、これは Wordle から始まる一連のブラウザ・クイズゲームではおなじみとなった遊び方ですね。

リリースから一週間ほどしか経ってないようですが、archive のリンクから過去のお題についても遊ぶことができます。

via Hacker News

GitHub Copilot で TODO(@ を打つと誰かのToDoが表示される、かもしれない

Wed, 12 Oct 2022 00:00:00 +0000

コメント中に後でやるべき課題を ToDo の形で残す、多くのプログラマがやっている習慣かと思います。

twitter で報告されたのは、GitHub のコーディング提案機能 Copilot をオンにして TODO(@ナントカと他ユーザーを指定したコメントを書き始めると、ユーザー名とToDoの内容が提案されるというもの。

twitter.com/aeolianeth/status/1579980661464895490

どこかの誰かのToDo がユーザー名と結びついて他のプログラマから見えたとしたら…?

そこまでたいへんなことではないかもしれません。ToDo に書いたことにそこまで機密性の高いものはないかもしれませんし。そもそもオープンにされているソースコードから収集したものでしょうし。

Hacker News の議論では、「ここに出てきたユーザー名の公開リポジトリを見てみたけれど提案されたような ToDo は見当たらなかった」と言ってる人もいます。

ろくに中身が無かったり、privateリポジトリばかりだったり、存在しないユーザー名もあったようなので、「ユーザー名の提案はランダムに生成したものが出ているだけで実際のユーザー名とは偶然衝突しているだけなのでは」、とか、「万一コメントの中に API key などがあっても、それは GitHub 全体の仕組みとして警告される(ので提案されるデータには入っていないだろう)」といった意見も出ています。

提案されているのはどこかの誰かのToDoコメントではあるのでしょうけれど、それが提案されたユーザー名とは関係ないらしい、というあたりでしょう。

学習元のデータもオープンである限りは問題ないのかな。この件は実際に問題がありそうな提案例が報告されるかどうかの続報待ちでしょうね。

via Hacker News

GitHub Copilot は"gender"など特定用語を含むコードで動かなくなる

Fri, 05 Aug 2022 00:00:00 +0000

書いているプログラムコードから次に必要そうなコードを提案してくれる GitHub の Copilot サービスで、「このコードに対して Copilot が何も提案してくれない」というバグが報告されました。

これに対するコミュニティの識者からの回答は、「おそらく、コードの中に “gender” という単語が入ってるからでしょう。」というもの。

Copilot には内蔵されたコンテンツフィルターがあり、フィルターに反応するとコードの提案をしないという作りなのだそう。そして “gender” もそのリストに含まれているらしいのです。

コードの提案が止まる、と言われたコードをCopilotで書いてみた

実際にCopilotで該当部分のコードを書いてみたところ、サジェストされた内容は文にならず途中で止まりました。元のコメント者と同じ結果なのかどうかはわかりませんが。

これを受けてのHacker News の議論では、

ジェンダーという名前の変数があったとして、その変数を boolean 型として提案コードを出せば「ジェンダーは(男女の)2通りじゃない」と怒る人が来てしまい、多値にすれば「ジェンダーは2通りだ」と怒る人が来るからでは、

という推測がトップコメントになっています。この推測が正しい理由かは不明ですが、議論になりそうな単語が含まれていると Copilot が動かなくなるというのは知ってる人は以前から知っていたようです。

今はクライアント側に禁止ワードのリストは無いそうですが、昔ベータだった際にクライアント側に埋め込まれていたリストを保存してた人がいたようで、rot13を掛けるとどんな単語が引っ掛かるかわかります。(このリストが本物として、リストが見えていた時期から変わっていないとして)

人種差別的な単語や罵倒後、卑猥な単語らがたくさん登録されていますが、“gender” も確かに含まれています。それどころか、“boy”, “girl”, “male”, “female” とかも入っているので、人を管理するデータクラスとかを作っただけでも引っ掛かることはありそう。

リストには英単語しか入っていないため、変数を日本語やローマ字で書く分には回避できそうですけどね。Hacker News では、“gender” をラテン語の"genus"に変えたら動いたよ、という報告もあり、これも試したところ本当でした。

“genus"にしたらサジェストが出た

マイクロソフトはAIチャットで意図しない発言が生成されて炎上したことがあったので、コードの提案でも問題を避ける機能を入れたくなるのはわからないでもありません。ただ、単語だけ列挙したリストの作りは雑なように感じるので、やるにしてももう少し改善してほしい気がします。

直近は、Copilot が何も言わなくなり、書いたコードが性別やジェンダーに関する変数名を含んでいたら、変数名をちょっと変えてみる、んですかね?

Hacker-AI - Hacker Newsでバズるタイトルを判定するサービス

Mon, 30 Nov 2020 00:00:00 +0000

Hacker-AIは、二つの記事タイトル候補を入れると、どちらがより Hacker News 掲示板で受けそうかをポイントで予想して勝敗をつけてくれる、というサービスです。

IT系の新サービスやツールを英語で公開する場所として Hacker News や Product Hunt は非常に重要な場所となっていますが、世界中から毎日山のような自己紹介投稿がされ、同じ URL を何度も繰り返し投稿することはできないため、以下にタイトルで人々の目を引くかが重要になります。

極端なことを言えば、サービス自体がそれほどすごくなくても、うまく Hacker News で反応を稼ぎ、注目の投稿としてトップページ上位に表示されることで人気が出ることだってあるわけです。

Kimmo Ihanus さんは、Hacker News で過去に反応が良かった記事のタイトルのデータを機械学習にかけ、新たに入力したタイトルが行けそうかどうか判定する内部ツールを作り使っていたということで、これをwebサービスしたものが今回のHackre-AIになります。

現在、よりバズりそうなタイトルを当てられる確率は60%ほどで、サービスを使わないよりも良い、ということです。

ただし、実際にHacker News のトップページに表示されているタイトルをいくつか入れてみましたが、まだまだ改良の余地はありそうに思います。

新聞社や通信社などもニュース配信のタイトル決めには専任の人を置いて毎日競争をしているのだと思いますが、そこでもこういうAI技術は導入されているんでしょうかね。

機械学習で最密充填ピーナッツバナナサンドイッチづくり

Fri, 28 Aug 2020 00:00:00 +0000

バナナをはさんでピーナッツバターを塗ったサンドイッチを作る際に、いかにバナナをぎっしりと敷き詰めることができるか、というのを機械学習によって示すツール EthanRosenthal/nannernest が公開されています。

http://localhost:8099/wp-content/uploads/2020/08/banana_small.mp4

家にバナナが無かったので買ってきました。

今日は世界一のバナナ輸出国エクアドル産のものが手に入りました。

バナナと、パンの断面がわかる写真を撮ります。台所がが暗くてすいません。

nannernest コマンドにこの画像を与えると、デフォルトの動作ではパンに敷き詰めるだけのバナナが無く、隙間が多数できてしまいました。日本の食パンが大きいのかな? もっと薄くスライスするよう調整した結果がこちら

この結果が正しいかを確かめてみます。

29個の輪切りにするのは結構たいへん。なんとか切り終えたので、画像の指示する番号に従って、スライスを配置していきます。

「なんだか少し窮屈だな」と思いながらも進めていくと、16番を置こうとした際についに限界が。

日本で売っているエクアドル産のバナナの形状が、ツール作者のバナナとは異なるのかもしれません。

コマンドラインオプションで、バナナを何個の輪切りにするか(デフォルトは22個。バナナ層の厚みが変わってきます)、バナナの皮の厚さ、バナナの断面の長軸短軸の比率、など細かな設定もできます。

調整次第では、バナナの詰まったサンドイッチを作ることができるのではないでしょうか。

via Ethan Rosenthal via Geekologie

CRAPPSY - 毎日トイレ(大)の写真を送って健康状態チェックするサービス

Sun, 24 May 2020 00:00:00 +0000

CRAPPSY は、15歳の高校生イスカンダル・ハンさん(ハンドル名かもしれないけどすごい名前)による新サービス。ほとんどの人類が毎日のように接するものをテーマにしています。お通じです。

大便の写真を撮影してアップロードすると、その状態を機械学習によって判定し、腸の状態を点数化した Crappsyスコアが表示されます。

スコアは、腸の消化状態を表しているそう。7段階に分類するブリストル便形状スケールがその基本にあるということ。

毎日撮影して送信することで、スコアの変化から自分の胃腸の消化能力を把握できるのではと。

医者に言われて排泄後の便をチェックしているような人もいるでしょうから、写真で記録するのも意味はあるでしょうし、写真から客観的な情報を抽出してくれるのも良さそう。ただこのサービスを使い始めるには心理的な壁もあるように思います。そもそも撮影したいか、という話もあるし、専用サービスとはいえそんな写真をネットの向こうに送り出してしまっていいのか、とかも。

機械学習による判定ということは、最初は既存の大便写真を大量に集めて元データを用意しているわけです。また、サービスにも毎日毎日大便の写真が届き続けることになります。人々の健康のためのサービスで15歳の高校生が起業することもすごいですが、このサービスの開発や運営には独特の苦労がありそう…

食べたものやカロリーを写真で記録するアプリやサービスも色々ありますが、入れたものと出したもので連携したりするのもありかもしれませんね。

iOS版と Android 版の両方が存在します。

via Product Hunt

AIでネットミームを生成する This Meme Does Not Exist

Thu, 30 Apr 2020 00:00:00 +0000

英語圏で meme といえば、リチャード・ドーキンス氏が「利己的な遺伝子」で提唱した文化が共有し伝えていく情報というのを越えて、ネットで人づてに流通するキャプションつきの面白画像ということになってしまっています。

This Meme Does Not Exist は、プログラムによる自動生成でこのネットミームを作り出そうという試みです。

サービス上では、ネットで広く流通しているミーム画像のネタ元に対して、その画像についたキャプションを集め、それを学習させたスタイルから新しいキャプションを生成することができます。

ページの上部には有名なミーム画像が並んでいるので、好きなものを選ぶとキャプションが自動生成されて下に新たなミームが提示されます。

生成されたものがいきなりうまく出来ていて面白いなどということはさすがに少なく、何回リロードしてもピンと来るものは僕は来ませんでしたが、閲覧者(人間)が面白いかもというものをレポートし共有することで、多少は意味がありそうなものがこちらには並んでいます。

自動生成と参加ユーザーの共同作業ということですが、濫造の中から偶然良いものが出てくることもあるでしょうね。

via TheNextWeb

AdBlock Radio - 機械学習+ユーザー投稿でラジオ番組の広告やトークを飛ばす

Fri, 04 Oct 2019 00:00:00 +0000

AdBlock Radio は、名前の通り、ラジオ広告をブロックするためのサービス/ツールです。音声データから、ラジオ番組のトーク、音楽、そして広告を判別させ、広告やトークの部分を除外することができます。

広告抜きpodcastラジオ再生ツール buffer

AdBlock Radio を使ったwebアプリ buffer の Docker 版を手元で動かしてみました。起動して localhost をブラウザで開くと、カタログから podcast ラジオ局を最大4局まで選ぶ画面になります。

4局について、「音楽を飛ばす」「トークを飛ばす」のチェックを入れて開始ボタンを押すと、サーバアプリケーションが podcast データをバッファしていきます。

バッファされたラジオ音源は上のように色分けされていきますが、青が音楽、緑がトーク、赤が広告と思われる箇所となります。トークや広告を聴かない設定にしておくと、緑や赤に再生が差し掛かったところで、次の青まで再生が飛ばされ、音楽が終わっても次の音楽がすぐに続きます。

とは言っても判定も完全ではなく、ところどころに灰色の「何かわからなかった」部分がまだらに入ったりもします。CM の一部が音楽として再生されたり、ラップなど言葉が多い音楽ではトーク(緑)や不明(灰)の細かい帯のようになったりしました。

最初、なんで4局選ばせるのかな、と思ったのですが、CMやトーク部分を飛ばしてずっと聴いていると、その局の再生が最新に追いついてしまうから、次の局、次の局へと切り替わっていく作りなんですね。4局分のデータを使って、音楽だけを途切れずに流し続ける仕組みということになります。

ラジオ局の情報はCommunity Radio Station Boardから取得したものをベースにしているようです。このサイトにはコミュニティFM局を中心に日本のラジオ局も多数載っていますが、Adblock Radio のリストには日本の局は含まれていないようです。

トークやCMの判定はスペイン語など英語以外のラジオ局でもそれなりに動いているのを確認したので、おそらく登録して試せばそこそこ動くのでしょうね。

影響

ラジオ局は広告料もテレビやネットに比べて安いそうですし、こんなadblockツールを使う人が増えたら広告料への影響が大きいでしょうね。

個人的には、ラジオにCMが入るのは昔からなので慣れているというか、ウェブ広告やYouTube の広告などに比べるとそれほど気になりません。

ウェブ広告はポップアップや全画面広告、動画広告などいろいろなヤンチャが過ぎたために、広告ブロックツールを使う人を増やしてしまった歴史がありますが、ラジオ局が無くなってしまうような影響が出るのであれば、この Adblock Radio のようなツールは少しやりすぎなのではないかなあ、とも思います。

まあ、それとは別に、放送内容を自動でカテゴライズして切り出すというアイデアは面白く、何か他にもいい応用があるかもしれません。

via Hacker News

米アニメエキスポで評判を呼んだ「俺の嫁(Waifu)自動販売機」

Wed, 24 Jul 2019 00:00:00 +0000

Waifu Labs は、一点もののアニメ風の少女イラストを機械学習によって生成してくれるという webサービスです。

内部の生成の仕組み自体は、Gwern さんのThis Waifu Does Not Exist (解説) を流用しているもので、StyleGAN による自動生成された「存在しない(=既存作品等に無い新規の)アニメイラスト」画像です。

今回のサイトは、完全なランダムで一枚を生成するというオリジナルとは違い、生成の段階で16種類提示される「最初の好み」「色の傾向」「細部」「ポーズ」を選んでいくことで、自分が選択した好みのオリジナルのイラストが得られる、というものになります。

生成された一点画像は、枕やポスターとして購入できる、というのがサイトの狙っているビジネスモデルでしょうか。

作者チームはこのシステムをアメリカ・ロスアンゼルスの Anime Expo に持ち込み、ブースを設けてカスタムのイラストを販売(英語圏でいうところの commission)し、希望者の長蛇の列を作ったのだと、ブログで裏話が公開されています。

ツイッター等のソーシャルメディアでアイコンをこういったアニメ絵にしてる人が特に日本語圏では多く、既存の作品から切り取ったものを使ってる場合は著作権や利用権について突っ込みが入ることも多いと思います。こんな風に自分の希望から他にないイラストが自動生成できてしまうのですから、こういったものを使えばその問題も解消しますね。

また、これぐらいのイラストが数分で無料で手に入ってしまうとなると、ちょっとしたカットを描くような仕事にも影響がでるかもしれませんね。

それから、著作権やオリジナリティという意味では、こういった自動生成のデータを大量に公開し続けておくと、後から人力で描かれたイラストと非常に似たものも存在し、「先行公開していた」と主張することだってできるかもしれません。機械的な自動生成が簡単に使えるようになることで、いったい著作権って何だ、というような騒動が起き、仕組みの対応も迫られる近未来があるかも。

機械学習で3塁コーチの盗塁サインを見破る

Fri, 05 Jul 2019 00:00:00 +0000

実験工作系有名YouTuberのマーク・ローバーさんの新作は、実用的で面白く、機械学習がどんなものかを野球ファンに強く印象づけるような動画です。野球のコーチが出すブロックサインを、機械学習を使って当ててしまおうという企画。

まずは子供の野球を使って単純なサインを当てるのですが(02:00)、これはサインと盗塁したかどうかを3通り入力しただけで当てられるようになってしまいます。この時点では、帽子と左耳を連続で触った時だけが盗塁の指示でした。

動画は04:00 あたりから機械学習の簡単な紹介をし、06:00 からは、50人の草コーチに尋ねたブロックサインの作り方を説明します。

ほとんどのコーチが、あらかじめ決めておいた場所=インディケーターを触った後にどこを触るかで、盗塁を伝えていることから、機械学習を使うまでもなく、90%の盗塁サインは見破れるとなりました。

残りの10% を見破るものとして、ニューラルネットワークを適用します。

正しいデータの入力は、まだ泥臭い方法を使っています。3塁ベースコーチの様子をカメラを設置して撮影し(11:40)、学習結果を用意しておきます。

そして、スターバックスの空のカップに隠した GoPro で映したコーチをスマートフォンで見ながら、すべての動作をアプリ上で入力すると… アプリが盗塁か否かをたちどころに教えてくれます。

今は動画で撮影したコーチの膨大なサインから、一挙手ごとに正解データを入力しているのでたいへんでしょう

ローバー氏は動画の終わりに、「各リーグにはそれぞれ、こういった機械を使ったサイン破りを禁ずるルールがあるはず」「決してルール破りを奨励するものではありません」と(12:40)。

実際にプロの試合でこんなものを使ってしまっては、野球の面白さが無くなってしまいますからね。個人的にはもう、コーチもバッテリーもハンドサインじゃなくて無線で連絡しちゃってもいいのではと思いますが。試合時間短縮にもつながるでしょうし。

野球とサインという日常的でわかりやすい事例(北米と日本だけかもしれませんけど)で、機械学習の活用法やその仕組みをおもしろく解説しているよい動画だと思いました。

Speech2Face - 声からあなたの顔つきを当てる研究

Fri, 31 May 2019 00:00:00 +0000

声から、喋っている人がどんな顔なのかを推定する、という研究です。

上に並んでいるのが、短文の音声メッセージの話者です。これ左端はダニエル・クレイグ氏(007)ですよね。他はわかりませんが。

サイトで再生ボタンを押すと、推定に使われた音声データが聴けます。10秒も無いぐらいの短い文章です。

そして、下に並んでいるのが、その音声から深層ニューラルネットワークを利用して推定した話者の顔。

学習データとしては、インターネット/YouTube 上の数百万の人が喋っている動画を使ったそうです。「こんな風貌の人は、こんな風に話す」というデータを大量に食わせることで、「こんな風に話す人は、こんな見た目なことが多い」という変換を得たということですね。

推測結果には性別・ジェンダー・人種など繊細な問題が絡むことから、倫理的な注意書きが添えられています。学習データは全人類の平均的な喋り方を集めたのではなく、YouTube などから動画を集めたことから、データには当然バイアスがあります、と。YouTube に出ているような人の喋り方、に偏っているかもしれないし、喋っている言語のサンプルが少なかったりする言語の場合も偏りがあるかもしれない、などなど。

また、話者本人を特定したり、話者のファッション(髪の色やメガネ等)を特定したりは当然できません。(メガネをかけた人特有の話し方、とかない限り)

アプリやブラウザに対して喋ると顔写真を出してくれたり、というお遊びサービスは面白そうですが、その先にどのような実用的な応用がありうるのか。何か面白いことができそうな研究ではありますね。

via Futurism

GrandType - キータイプの間隔データを機械学習させ、ユーザーを特定するプロジェクト

Wed, 15 May 2019 00:00:00 +0000

GradTypeは、英文を入力する際のキータイピングの癖を使って、今誰がタイプしているのかを特定しようという実験プロジェクトです。

まず、GitHub で認証した状態で、出てくる英文を入力することを繰り返します。すべて小文字で良く、正しい文字とスペースキーを打った時しか先へは進みません。打ち間違えたとしても間違えた文字は入らないのでそのまま続けます。

この時、サービスの裏側ではキーと次のキーが打たれる間の時間を記録し、RNNで学習させているそうです。

文章のバリエーションはそれほど多くありません。数十回入力した後で、ログアウトし、ユーザーとして認識していない状態で同じように英文をタイプすると、

RNNでより「似ている」と判定されたユーザー5名が表示されます。

多数のユーザーが試しているためか、なかなか当ててくれませんでした。(一回は自分のユーザー名が当てられたのを見ましたが、スクリーンショットを撮っていませんでした)

実用的にはスペルを打ち間違えたり直したりするデータを使った方が、より個人の特定はしやすいだろうと思いますが、研究としてはキーとキーの間隔時間だけでどこまでやれるかというのを見ているようです。

匿名で入力できる、と思われているようなサイトにおいても、個人の癖を収集して人物の同定を行うなんてことも、より簡単にできるようになっていくかもしれませんね。

Hacker News では、それへの対策として、キータイプの癖を攪乱するというツールも紹介されていました。匿名個人の特定ではなく、認証にタイピングの癖を使うといった研究もあるようです。

ソースコードが公開されています。

via Hacker News

BugBug - 機械学習によるバグの自動トリアージ by Mozilla/Firefox

Wed, 10 Apr 2019 00:00:00 +0000

Mozilla Hacks で、2月から導入された BugBug というバグレポートの自動分類ツールの紹介が読めます。

Mozilla の様々な製品/コンポーネントに対して発行されたバグ報告を、とりあえずどの製品のどのコンポーネントに属するものかを分類して、そのコンポーネントの担当者に早く届くようにする、というのか今回のツール導入の目的だそうです。

大災害時などに負傷者の治療作業の順番をつける「トリアージ」と同様のことをバグに対して行う「バグトリアージ」というわけ。

“Teaching machines to triage Firefox bugs” より、概念図

これまではというと、ボランティアや開発者が人手でバグを分類し設定することで担当者に届けられていたのですが、ここの分類に日数が掛かっていて、バグが解消されるまでの期間が長くなっていた、と。

機械学習で分類させるには、どんなバグレポートがどのコンポーネントに対するものか、という過去の正しいデータが必要ですが、Mozilla でこれまで発行されたバグレポートは20年以上の期間での153万件を越えるそう。

これが人力でおおむね正しく分類されているので、これをXGBoostに食わせることで、新たに到着したバグレポートが属するコンポーネントの予測が自動的にできるのだそうです。

2月末に一部のプロダクトに対して導入運用を始め、350件のバグを自動分類し、そのチケットの解決までの日数の(外れ値を除いた)中央値は2日間と改善されたそう。ちなみに、今は60%の信頼度で分類して、80%以上の適合率を達成しているそうです。

今後の計画としては、重複チケットの検出、バグレポートに欠けている内容(たとえばバグの再現方法)を見つけて報告者に追加してもらう、リリース版での重要なバグを素早く発見する、などを検討しているということ。

大きな製品になるとバグレポートも膨大に届き、切り分けだけでたいへんな人的リソースを必要とするのでしょうけれど、その部分の自動化は開発側にも利用者側にも大きな恩恵を与えそうですね。

via VentureBeat

Gamedetect.io - ゲーム画面の画像からゲーム名を当てるサービス

Mon, 11 Mar 2019 00:00:00 +0000

GameDetect.io のフォームにビデオゲームの画面写真を与えると、JSON でそれがどのゲームに似ているかを返してくれます。

適当な画像をアップロードすると、以下のような形でゲームタイトルとそのゲームである確からしさを戻してきます。

{ "filename":"dragonquest5.jpg", "predictions":[ { "label":"stardew valley", "probability":0.568226 }, { "label":"the legend of zelda a link to the past", "probability":0.15813187 }, { "label":"super mario maker", "probability":0.031073814 }, { "label":"factorio", "probability":0.027034273 }, { "label":"don t starve together", "probability":0.020903632 } ], "speed_ms":1113 }

Tensorflow と Golang によって実装されており、学習データとしてはTwitch のゲーム配信画面をスクレイプしたものを使っています。ゲーム実況にはゲームのタイトル情報とゲーム画面があるので、これを正答として学習させ、モデルを作っているのですね。

そのような作りなので、回答で出てくる候補のゲームはTwitch で今最も多く中継されているゲームトップ100 からだけとなっています。(冒頭で試したドラクエ5 の画面では、Stardew Valley やゼルダなど画面の似ているものが出てしまっていますね。)

Gmail の文章サジェスト機能、ジェンダーバイアスの強化を避け性別の人称代名詞を(当面は)避けることに

Wed, 28 Nov 2018 00:00:00 +0000

次を予測して文章を提案してくれるスマートコンポーズ機能

Gmail の実験機能の一つに、スマートコンポーズ(Smart Compose)という機能があり、Gmail の言語設定を英語にした上で設定でオンにすると使えるようになります。

この機能は、途中まで入力した文章を基に、全文を予測してグレーの文字で提案してくれるという機能です。

日ごろから日本語入力でIMEを使っている我々にしてみれば、入力時にある程度先を提案してくれる(たとえば、「おは」と書いたら「おはようございます」が候補に出る)のは英語圏の人たちよりもなじみ深い仕組みかと思います。Gmail の Smart Compose は、それを文の終わりまで拡張したようなものになります。

実験機能でオンにしないと使えないとはいえ、Gmail から送られるメッセージの11% でこの機能がオンにされているということで、英語圏のヘビーユーザーは結構使っているのかもしれません。

データ学習から提案される ‘he’ や ‘she’ のバイアス

ところが、Gmail の担当チームは、このサジェストが ‘he’ や ‘she’ といった三人称の人称代名詞を、既存データのバイアスに影響されて選んでしまうことに気づいてしまったそう。

「私は来週投資家に会うつもりだ。君も…」と書こうとすると「…彼に会うかい?」と、必ず「彼」が出てきたというのです(「投資家」の場合)。

Google が持っている膨大な文章データから自動生成するとそうなる、ということで、特定の職業の性別を男女どちらかに推定しまうことに Google 自体の罪があるわけではありません。多くの人々が内包しているバイアスなのでしょう。

しかし、このようなサジェスト機能をみなが使い続けると、サジェストがまた次に生み出される文章のバイアスを強化してしまう可能性がありますね。バイアスの無い she/he の提案が今は難しいと考えたチームは、さしあたりこのような提案になる場合は提案そのものをしないという決定を下したそうです。

via Reuters via TheNextWeb

履歴書の機械学習が女性差別になってしまい、Amazonが止めたというニュース

Wed, 10 Oct 2018 00:00:00 +0000

ロイターの記事 “Amazon scraps secret AI recruiting tool that showed bias against women”

アマゾン社の中の人による匿名の情報ということだけれど、2014年に組まれたチームが、求職者からの履歴書を機械学習して(アマゾンレビューのように)星5つでランク付けをしたら、ソフトウェア開発者や他の技術者の高評価が男性に偏ってしまうことに気づいた、ということです。

学習に使った過去10年の求職者に占める男性の割合が多かったために、男性的な言葉を多く使った履歴書が優秀とされてしまったそうです。入力にバイアスが掛かってれば、結果にも掛かるのはある意味当たり前ですね。アマゾンに限らず、アメリカのIT企業で社員の男女比や有色人種比率が公表されたり比較されたりしている中で、これまでのやり方をベストとして強化すれば、属性にこだわらず優秀な人を取るということができなくなってしまいそうです。

記事によれば、結局、このチームは解散となったということ。今は別のチームで、重複したデータを削除するとか、多様性が保たれるようにスクリーニングするとか、よりマイルドな使い方を追及しているということです。

顔認識がアジア系男性を「目が開いてない」と拒絶ニュージーランド

Fri, 09 Dec 2016 00:00:00 +0000

Facebook上でニュージーランド人のリチャード・リーさんが公開したメッセージがこれ。

パスポートの更新をしようとオンライン手続きをする際に、自分の顔写真をアップロードしたところ、「被写体の目が閉じています」というエラーになって受け付けてくれなかった、という事件です。

多数の既存の顔写真を機械学習させた結果で、目を閉じている写真をエラーにしているのだと思いますが、教師データとして世界中の顔写真ではなく、ヨーロッパ系やマオリ系が多数というニュージーランドの顔データを使ったのかもしれません。

アジア人の目をことさら取り上げたり強調して描いたりすることは、人種差別として厳しい批難を受けるようになってきています。10月に欧州連合の委員が巻き起こした事件は記憶に新しいところ。

欧州連合（ＥＵ）のギュンター・エッティンガー欧州委員（デジタル経済・社会担当）＝ドイツ＝が、中国人を「つり目」と呼ぶなど差別的な発言を繰り返していたことが暴露され、批判にさらされている。

差別発言に批判＝欧州委員、中国人を「つり目」：時事ドットコム

上の記事がYahoo!ニュースに転載されていた時に寄せたコメントが掲載終了で見えなくなっているので、こちらに転記しておきます。

つり目(slant-eyes)は、西洋において東アジア人の顔面の特徴を揶揄する際に使われる典型的な差別表現になっています。2008年にはスペインのバスケットボール・ナショナルチーム、2009年には歌手のマリー・サイラス、2013年にはスペインのバイクレーサー、マルク・マルケスがこの表現で炎上しています。

今回は中国人を指してのものですが、マルク・マルケスの時は日本人が対象でした。

今回のリーさんは、笑い話として共有して世界中に広まりましたが、そのコメント欄でやはり差別的な書き込みをするような人も出てくるわけです。

ニュージーランドのパスポートセンターも、悪気があってシステムを作ったわけではないと思いますが、機械学習のための元データの選定についても学習させるデータのセットが本当にそれでいいのか、というのを考えないといけないのでしょうね。

via Bored Panda

山道を自動で飛んで遭難者を発見するドローンの研究

Mon, 29 Aug 2016 00:00:00 +0000

チューリッヒ大学などのグループによる、無人ドローンを飛ばして山で遭難した人を探す研究が進んでいるそうです。

山の中の道がどちらに続いているか、は、これまでは自動で判断できなかったということですね。

スイス国内だけでも、山での怪我や迷子による救援要請は毎年1000件以上あるということ。安価なドローンを同時に多数飛ばし、山道を捜索させることで、発見・救助までの時間を大きく短縮できる可能性があるのだとか。

森の中の小道を自動的に判断して飛んでいかせるためには、人工知能の技術が使われています。森の中を飛ぶには、枝や葉などの障害物をうまく避けて飛ぶ必要があり、また道がどちらに続いているかは時として人間でも間違うこともあります。

ヘルメットをつけた人間がアルプスの中の山道を歩き回り、2万枚の写真を撮影し、そのデータを基にディープラーニングをさせたところ、まったく知らない新しい場所においても、85%の確率で正しい方向を当てられるようになったそうです。85%が高いかどうかですが、人間による判断では82%ということで、人間並みかそれ以上の能力と言えます。

人間の捜索隊には二次遭難の危険もあります。遭難が起こった状況では天候などの状況も悪いケースも多いでしょうし、ドローンによって遭難した人を素早く見つけられるとすれば、これまでは助からなかった遭難者も多くが助かるようになったりするのかもしれません。また、山での捜索の話で良く出てくる、多数の人間を長期間動員したために遭難者や家族が大金を支払わなければならなくなった、というような問題も減らせるかもしれません。

ドローンでピザを配達する研究もいいですが、人命救助ができるドローンも、ドローンの活用法として良いアイデアだし、早く実用レベルになって普及するといいですね。

via Trackimo

TERRAPATTERN - 航空写真地図の類似画像検索サービス

Thu, 02 Jun 2016 00:00:00 +0000

アルファ版として公開された TERRAPATTERN は、航空写真地図を使った類似画像検索サービスです。

GoogleマップやOpenstreetMapなどでおなじみの、航空写真をスクロールして閲覧できるUIの上で、適当なブロックを指定してみます。

たとえば、とあるテニスコートのところをクリックすると、同じ都市の中から、似たような場所を列挙してくれるというわけです。

こちらはとあるマリーナを選んだ時の結果

なお、現在は、タイル状の航空写真をその形で機械学習に掛けているということで、人間が認識する「目立った構築物」がすべて見つかるわけではなく、タイルの中の形や色のパターンが似ているものが出てくる仕組みということです。

TERRAPATTERN は今のところ、ピッツバーグ、サンフランシスコ、ニューヨーク、デトロイトの4つの都市だけに対応していますが、ソースコードはMITライセンスでGithub上に公開されているということなので、自分の見たいデータを入れて動かしてみることもできるでしょう。

via FlowingData

lexiconjure - 機械学習で英単語の意味を作り上げるツイッターbot

Mon, 22 Feb 2016 00:00:00 +0000

ロス・グッドウィンさん(Ross Goodwin)の手によるツイッターアカウント@lexiconjure は、それに向けてアルファベットの単語をつぶやくと、その単語の意味を「生成」して返してくれるという新しい自動応答ボットです。

たとえば、Hexidecimated, 「16進数にされた」的な造語を与えられて、こんな定義を生成しています。

Hexidecimated

[形] アメリカ合衆国ヘキシカ島時代に関する/意味する。Hexide は北半球で強調される音節を持ち、イスラム教徒とユダヤ教徒が住んでいた。

[名] Hexidecimateの子孫

19世紀後半: ギリシア語の hexis (健康) + kedimē (種) から

https://twitter.com/lexiconjure/status/701567785688657920

なんかもっともらしいんですが、デタラメです。

この定義、オックスフォード辞書のデータからディープラーニングを使って自動生成しているそうです。

既存の辞書の定義をなぞって、あるはずのない言葉の定義をそれらしい英語と辞書っぽいフォーマットで生成してくれるというわけですね。

PythonのソースコードがGitHubで公開されています。

もう一つ傑作を紹介。このbotが紹介されたHacker Newsのコメント欄より。

ycombinator

[名] 受け入れられる状況に対して騙したり敵意を見せたりするように設計された人物

Y Combinator はHacker Newsの運営元ですね。

辞書風の定義文はTwitterの(今の)文字数では収まらないので、完全版はTumblrの方で記録されています。

多数のツイッターユーザーから辞書にない単語も与えられていますし、“love"のような辞書に既にあるはずの単語も与えられ、それについても新しい「意味」が生成されています。

AWSの無料枠を使って運営され、90分に一個の定義を返すようになっているそうで、現在はリクエスト殺到のため返答が遅れている状況です。

辞書にない単語の定義をでっちあげるゲームとしては、昔フジテレビで深夜にやっていた「たほいや」がありました。英語圏では「ボルダーダッシュ」(たわごと)とか「フィクショナリー」(フィクション+ディクショナリー)と言うそうです。

https://www.amazon.co.jp/dp/4594012582/

via Hacker News

メールの返信をプログラムが「提案」する機能をグーグルが開発

Tue, 03 Nov 2015 00:00:00 +0000

本日、グーグルのリサーチブログで、メールの返答を勝手に考えてくれる機能 Smart Reply ができた、という発表がありました。smart reply = 賢い返答、ですね。

まだこの Smart Reply を試せるところは無いようですが、Gmailブログに出ているアニメーションGIFで、どんな感じの機能かが見て取れます。

(credit: Gmail Blog)

「来月休暇を取ろうと思うんだけど、あなたの休暇予定は決まってるか? 決まってたら教えてほしい」という、社内での休暇取得を調整するメールに対して、アプリの下部に3種類の回答案が表示されます。

「まだ計画してません」「ちょうどあなたに送ったところです」「今それについて検討していたところです」の3つの案が表示され、このユーザーは3つめの案を選び、そこに続けて自分の言葉でメールを続けていきます。

今回ブログで報告しているグーグルの研究者Greg Corradoさんは、モバイルでメールの返事を書くことのたいへんさから、もしメールの内容が簡単な返答で済むようなものかどうか判定できて、ワンクリックで選べる雛形が出てきたらどうだろう、という同僚のアイデアを聞いて、挑戦してみようと思ったとのこと。

6月に発表された論文では、大量の既存の会話データを使い、しかし英語についての知識は内蔵していないプログラムによって、人生の意味について人間とチャットするプログラムを作っていますが、今回の成果はその研究の延長にあるということ。

このスマートリプライシステムでは、時系列データ(この場合は単語-単語のつながり)を扱うリカレントニューラルネットワーク(RNN)二組の一方で受け取ったメールをエンコードしていき、他方で可能な返答を予測していくそうですが、この時に伝わるベクトルが、「あなたは明日フリーですか?」という文章と「明日は都合の良い日ですか?」という文章でちゃんと似たものになるそうです。

また、3つの提案がどれも似たものになってしまう、というプロトタイプの問題点は、3つの回答の意味がそれぞれ離れたものになるように調整したのだとか。あと何にでも「愛してるよ」と返してしまう癖があって困った、みたいな話もあって興味深いです。感謝の気持ちを表すのにそういう言葉も多々含まれるからだろう、ということで、そのへんは出にくくなるように調整したのだとか。

今週後半には、Android と iOS の Inbox アプリで、この Smart Reply が使えるようになるということです。残念ながら英語のみですが、アプリの対応版が出たらぜひ試してみたいところです。

こういう研究がさらに進んでいけば、提案から選ぶ、どころではなく、単純なものや定期的なものについては、プログラムが勝手に応答してしまうような未来も来るのかもしれないですね。

MarI/O - ニューラルネットワークと遺伝的アルゴリズムでマリオの早解き

Mon, 15 Jun 2015 00:00:00 +0000

ニューラルネットワークと遺伝的アルゴリズムの組み合わせにより、ゲーム「スーパーマリオブラザーズ」の一面を教師無し学習で解かせている動画です。

最初に学習が十分済んだ状態のプレイが実演されますが、1面を46秒で解いています。世の中には41秒で解いてる動画もあるようですが、かなり早い部類と言えるでしょう。

0:46 からは、今回の解法についての解説です。マリオを含む画面上の地形やキャラクターのスプライトを入力に、どのボタンを押すかを出力としたニューラルネットワークをランダムに作り、うまくいったネットワークを組み合わせて次の世代のネットワークを作り試行させます。これを繰り返し、この例では34世代目でマリオが46秒でゴールに到達する組み合わせが出来ています。

luaのソースコードがPastebinで公開されているので、追試も可能かもしれません。NESエミュレーター(Bizhawk Emulator)とマリオ本体が必要だと思いますが。

SethBling さんは、マインクラフトなどゲームを扱った多数のヒット動画を持つ人気ユーチューバーでもあり、今は抜かれました(この記事執筆次点で歴代9位)がスーパーマリオの早解きで世界一を取ったこともあります。もしかすると早解きのルートはこのようなプログラムの解析を参考にしたのかもしれません。

# あるいはその早解きプレイ動画自体がこうしたプログラムによるものだった可能性もあるのかも

via TNW

機械学習 on akky@サイボウズラボ・ブログ

ChatGPT で文面を書き換えることで Gmail のスパム(誤)判定を突破する

SimpleML - Googleスプレッドシート向けの機械学習アドオン

doodle:ai - Wikipediaの項目からAIの描いたイラストを基に、関連する単語を当てるクイズ

GitHub Copilot で TODO(@ を打つと誰かのToDoが表示される、かもしれない

GitHub Copilot は"gender"など特定用語を含むコードで動かなくなる

Hacker-AI - Hacker Newsでバズるタイトルを判定するサービス

機械学習で最密充填ピーナッツバナナサンドイッチづくり

CRAPPSY - 毎日トイレ(大)の写真を送って健康状態チェックするサービス

AIでネットミームを生成する This Meme Does Not Exist

AdBlock Radio - 機械学習+ユーザー投稿でラジオ番組の広告やトークを飛ばす

広告抜きpodcastラジオ再生ツール buffer

影響

米アニメエキスポで評判を呼んだ「俺の嫁(Waifu)自動販売機」

機械学習で3塁コーチの盗塁サインを見破る

Speech2Face - 声からあなたの顔つきを当てる研究

GrandType - キータイプの間隔データを機械学習させ、ユーザーを特定するプロジェクト

BugBug - 機械学習によるバグの自動トリアージ by Mozilla/Firefox

Gamedetect.io - ゲーム画面の画像からゲーム名を当てるサービス

Gmail の文章サジェスト機能、ジェンダーバイアスの強化を避け性別の人称代名詞を(当面は)避けることに

次を予測して文章を提案してくれるスマートコンポーズ機能

データ学習から提案される ‘he’ や ‘she’ のバイアス

履歴書の機械学習が女性差別になってしまい、Amazonが止めたというニュース

顔認識がアジア系男性を「目が開いてない」と拒絶 ニュージーランド

山道を自動で飛んで遭難者を発見するドローンの研究

TERRAPATTERN - 航空写真地図の類似画像検索サービス

lexiconjure - 機械学習で英単語の意味を作り上げるツイッターbot

メールの返信をプログラムが「提案」する機能をグーグルが開発

MarI/O - ニューラルネットワークと遺伝的アルゴリズムでマリオの早解き

顔認識がアジア系男性を「目が開いてない」と拒絶ニュージーランド