スパム on akky@サイボウズラボ・ブログ

ChatGPT で文面を書き換えることで Gmail のスパム(誤)判定を突破する

Mon, 23 Jan 2023 00:00:00 +0000

Tor ノードの運営者が Tor の濫用に関する苦情メールに返答する際に使うテンプレート文面でメールを送ろうとしたとき、Gmail のスパムフィルタにスパム認定されてしまったそうです。

この運営者は ChatGPT を使ってメール文を書き換えさせると、Gmail がスパムと判定しなくなったのでめでたしめでたし、という話。

書き換えてください(reword)で実際にどんな細かな指定をしたのかは書いていないのですが、少し長くなった文章でメールを送り直すと、こんどはスパム認定されなかった。今後はスパム認定されるたびに ChatGPT に書き換えさせようかな、と言っています。

今回はスパムでないメールを通すための正当な ChatGPT の利用でしたが、スパマーがスパムフィルタをかいくぐるために ChatGPT やそれに類する機械学習ツールを使うことは容易に予想できますし、すでにそれは行われているのかもしれないですね。便利なツールを使いたい人は善悪に関わらずいるわけで。

via Hacker News

履歴書は立派な職歴がすべてか? フェイクCV実験

Thu, 04 Nov 2021 00:00:00 +0000

アメリカのエンジニア採用シーンでは多くの企業が履歴書の自動スクリーニングシステムを利用しているそうです。人事の人間が読む前に、良さそうな履歴書だけを絞り込ませているのですね。

履歴書をいくら送っても企業からまったく連絡が来ないあるエンジニアが、バズワードだらけだけれども明らかにフェイクの履歴書を送ったところ、Notion, ApartmentList, Quizlet, Outschool, LiveRamp, AirBnB, Blend, Reddit, AirTable, Dropbox, Bolt, Robinhood, Mux, Solv, Grubhub, Scale.ai, Atlassian など名だたるIT企業から書類審査の通過と面接の連絡が来たそうです。その成功率なんと90%

UCBで学び、マイクロソフト、リンクトイン、Zillow、インスタグラムという職歴。すばらしいですね。

しかし中身を読んでみると、職歴の詳細がたいへんなことに。

This is brilliant: Software engineer got tired of getting rejected by automated screeners and tested a theory.

Real resume: 0% success

Obviously fake resume stuffed with buzzwords: 90% success rate

Calls from from Notion, AirBnB, Reddit, Dropbox, Robinhood, etc pic.twitter.com/m80GUnPsr2
— Coding Career (@Coding_Career) October 30, 2021

個人サイトのリンクを開くとリックロール
Node.js や C++ と並び、ミア・カリファ(ポルノ業界出身のタレント)のエキスパート
React を使ってブロックチェーン上にAIを実装
サーバーサイドReact 窃盗API によるチューニング
会社のサーバでマイニング
コーヒー豆を14ナノメートルの粒子に挽く
AIベースのGraphQL を追加
みのむし競争を通してチームの和を醸成
ラナ・ローデス(ポルノ女優)を420fpsで表示させるスクリーン体験を実装
ヴォルデモートDBやリザードンを使ったLinkedIn検索の改善
Reactベース(2012年に?)のビッグデータパイプライン構築
ブロックチェーン上にEdgeブラウザを実装
トランプを支持するマイクロソフト社員の会を先導 (2012年に?)
チームの6割に性病を普及させた
大学では友愛会で一晩のウォッカ最高杯数を記録

こんな感じの履歴書でも、次々とメールが届き、面接の調整に進むことができたそうです。

Straight2spam - スパムメールにする文面を入手できるサイト

Fri, 29 May 2020 00:00:00 +0000

メールのテンプレートを配っているサイトはいろいろありますが、Straight2spam ではあまり聞かないタイプのテンプレートを入手できます。それはスパムフィルタに引っ掛かるスパム文。

ここで入手できる文面、以下のように始まる文章です。

#1 $$$ 100% Act now Action Additional income Affordable All natural/new Amazed Apply now Avoid Be amazed/your own boss Beneficiary Billing Billion Bonus Boss Buy Call!!!!!! free/now …(以下続く)

この文面を貼り付けて送ると、メールは相手側でスパムと認定されるでしょう、ということです。

「来てほしくないけど母親に命令されて招待しないわけにもいかない知人はいますか? Straight 2 spam で、メールを相手のスパムフォルダへ直行させましょう」

有名WordPress プラグインのYoast SEO、500万+のブログ管理者に望まぬバナー広告を表示

Mon, 02 Dec 2019 00:00:00 +0000

Yoast SEOといえば、ワードプレスのSEO対策をしてくれるプラグインで最も有名なもののひとつです。

そのプラグインが、北米の国民的特売日であるブラックフライデー前に、ワードプレスの管理画面に派手な広告バナーを勝手に表示した、として騒ぎになっています。

I have a feeling you've mentioned this before. I'll take a look! Because this Yoast forced-banner-ad bullshit is *awful*. Have you seen it?

On. EVERY. PAGE. OF ADMIN. pic.twitter.com/zq2vhFd2dg
— Lawrie ✨ (@indextwo) November 28, 2019

バナーのサイズは 1015px x 102px、しかもYoast プラグインのページではなく管理画面のどのページにいっても表示されたそう。

Yoastプラグインのサポートフォーラムもたいへんなことになってます。

無料で使えて信頼もあり、2万5千件以上ある過去のレビューのほとんどは星5つなのですが、今回の件で雪崩のような不評コメントが延々と続いています。

WordPress のプラグインサイトによれば、アクティブなインストールが500万以上あるということで、この広告を見せられたブロガーの数もたいへんな人数になるでしょう。

高品質のワードプレスpluginによくある、追加機能を有料で買えるフリーミアムなビジネスモデルでやっているようですが、有料ビジネスがうまくいっていないのか、広告バナーを一斉配信できる立場での誘惑に逆らえなかったのでしょうね。競合プラグインもあるので、人気や勢力図の入れ替わりもあるかもしれません。

GoogleのChromebook宣伝動画、YouTube にスパムとしてはねられる

Mon, 20 Nov 2017 00:00:00 +0000

ツイッターにおけるヘイトスピーチ投稿の規制や、プログラムによる自動的なスパム判定がニュースとなっていますね。

そんな中、同じくスパム投稿や違法コピー投稿がなかなかなくならない YouTube で、有名企業によるプロモーション動画が誤判定でスパム扱いされた、と TheNextWeb が伝えています。

今回、スパム判定されてしまったのは、新しい Chromebook の宣伝動画(おそらく Pixelbook )、作ったのは Google 社です。YouTube を運営している会社ですね。自社サービスに自社動画がブロックされてしまったと。

スパム判定された状態の動画はすぐに撤回されてしまったようですが、消される前に Android 上の YouTube アプリで撮影された証拠動画というのがこちら

この動画はユーチューブのスパム・不正・詐欺行為に関するポリシーに違反したため削除されました

“This video has been removed for violating YouTube’s policy on spam, deceptive practices, and scams,”

ユーザー投稿がスパムや不正なものでないか、プログラムで機械的に判定するのがいかに困難か、という証拠のようにも思えます。

僕としては、「自社のアカウントは絶対スパム判定されないよう、特別扱いでホワイトリストに入っている」といった管理をしてないのはむしろ好感を持ちましたし、疑陽性で止められる経験によって機械学習等によるより正確なスパム判定をできるようにしなきゃ、と中の人も思ってるのではないかと思いました。

via TheNextWeb

[動画] スパムメール擬人化コメディ

Sat, 18 May 2013 00:00:00 +0000

迷惑メールが届く受信箱がもしもネットの外で起こっていたらこんなだろう、という短編動画The Inboxです。

「あなたは当選しました」スパム、

某国の秘密資金数億円を送るから最初に数万円振り込んでよ、の「ナイジェリア詐欺」、

なぜか父から送られてくる「このサイトいいよ。押してみな」メール、

一度開いてしまうと、消しても消しても出てくるポップアップ

などが擬人化されています。

すべてのスパムを撃退した、と思われたところに現れた美女、がどんな種類のスパムかは説明不要ですね。

CRAPCHA - マイナーな字やwebフォントを使った、まず解けないCAPTCHAサービス

Tue, 30 Apr 2013 00:00:00 +0000

二つの単語を読ませてユーザーが人間か、それともプログラムによるbotかを判定するreCAPTCHAを紹介したのは2007年のことで、当ブログではいまだに検索で見に来る人が多い人気の解説記事です。

webサービスで登録するときやコメントを書き込む際に現れるこれらのCAPTCHA(キャプチャ)は、“Completely Automated Public Turing test to tell Computers and Humans Apart”(コンピューターと人間を見分けるための完全に自動化された公開チューリングテスト)の頭文字を取ったもので、これが人間にだけ解けるからこそ、ユーザー書き込み型のwebサービスやブログのコメント欄が、プログラムによる宣伝などのスパムだらけにならないようになっているわけですね。

# サービスやブログによっては、すでにコメント欄がスパムだらけ、というところも多数ありますが

今回登場したCRAPCHA(クラプチャ)は、Crap(糞)という名前が示すように、まったく実用性がないCAPTCHAを提供するというreCAPTCHAのパロディサービスです。

ごらんのとおり、文字を入れる枠はあるのですが、表示された文字が謎の文字ばかりで、とても正しい文字を入力できる気がしません。

これらの文字は、Unicodeからおかしな文字を集めてきたり、webフォントで定義した独自のアイコンフォントなどを表示しています。前者はともかくとして、後者はフォントの形が独自なのですから、解きようがないですね。

CRAPCHAの目的はただ一つで、スパマーを退散させるのではなく、解けない問題でユーザーを困らせるために作られました。

ゲストが来るはずもないような隠しページ等に誰かが紛れ込んできた時のために、そのページにこのCRAPCHAを設置しておけば、そのユーザーは何度か試したあとに、諦めてページを去ることでしょう。

via Waxy.org