タグ: アメリカ

カテゴリー
ネットの事件

ローカルSNSのNextdoorが、差別的な投稿前に警告する機能を実装

ご近所の人とつながるアメリカのソーシャルネットワークサービス Nextdoor が、投稿の前に「人種差別的な」内容を検知して再編集を促す機能を実装済みだと発表しました。

これらのスクリーンショットでは、「黒人の命だって大事だ(BLM = Black Lives Matter)」運動に対して、「すべての命が大事だ(All Lives Matter)」や「制服で働く人たち(=主に警官)が大事だ(Blue Lives Matter)」というコメントをしようとする人に再考を促しています。

動画のデモもあります。

Black Lives Matter について話し合っているところに「どうして黒人の命(Black Lives)だけ? 私はすべての命が大事(All Lives Matter)と信じます」と書き込もうとしたら、警告画面が出てきます。

デモでは、打ち込んだ文章を全部消して「もっとあなたの考えを聞かせてください」に書き直して投稿しなおしています。穏当な文章ですが上記のような意見を書こうとした人が実際にこんな変更するかしら、という気もします。

ちなみに Nextdoor ではこれまでも、侮辱的な単語を含む書き込みをしようとした人に警告を出して翻意を促す機能を2019年からつけていて、それによって無礼な(incivil)書き込みのコンテンツが30%減少したんだそうです。今回はこれを人種差別的な書き込みにも展開したということ。

書き込む内容について書き込む前に「助言」されることはいいことなのか、論争になりそうではあります。ALM などについては、この言葉を持ち出す時点で批難されるSNSは(一部のSNSを除けば)多くなっているかと思いますし、投稿した後で通報が多数来て見えなくなる、というSNSもあるでしょう。投稿前の警告と投稿後に消されるので、結果としては同じようなものという場合もあるでしょうけど。

via The Verge

カテゴリー
ネットの事件

デリバリーで頼んだ有名店がニセモノだった – サンフランシスコで日本食の店名乗っ取り事例が発生

フグ寿司(Blowfish Sushi)と和牛マフィア(WAGYUMAFIA)、サンフランシスコ市内で Uber Eats などによってデリバリー販売されていた2つの日本食料理店が、店名やロゴを騙っただけのニセモノだと判明した、というニュースが出ました。

サンフランシスコ・ミッション地区の Blowfish Sushi は20年以上続いた営業を昨年12月に終了し閉店した有名日本食店。

この店の名前とロゴをそのまま使った店が、まったく同じ場所にデリバリー専門店としていつのまにか開店していたのを、最近になって本物の Blowfish Sushi のオーナーが現地で発見し、そこにいた従業員らと問答となり警察を呼ぶまでに至ったということ。

このニセ Blowfish Sushi、Uber Eats や Doordash などのデリバリー業者にしれっと登録しており、本物がデリバリー業態で復活したのかと思って注文してしまう人や、食べたレビューを投稿する人もいたとか。

店は名前もロゴも変え、各デリバリー業者も登録を取り消したということなのですが、ニセ Blowfish Sushi の従業員に聞いても、店のオーナーが誰なのかわからない、などと答えているそうです。

名前を騙ってビジネスを横取りということだと、インターネットで古くからあるドメイン乗っ取りを思い出しますね。役所がうっかり取った一時的なドメインや、配給会社が映画の宣伝で取ったドメインが放棄された後で、そこに検索で来るユーザーやSEOパワーを宛てにした悪徳業者がドメインを取って別のサイトを立ち上げるようなやつ。

テイクアウト業者にとっては、Uber Eats などに掲載されて注文されたものを届ければ、他店を騙るのは非常に簡単でしょう。それを審査するだけのリソースや能力も、デリバリー仲介業者には足りないのかもしれません。

今回の Blowfish Sushi は、住所まで同じ場所でやったために本物に検知されたわけですけど、それにしても開始してから見つかるまでの間には荒稼ぎしていたかもしれませんし、最近はやりのゴーストキッチン形式でやっていたら、さらに見つかるのは遅かったかもしれません。

閉店や廃業のあとに店名やロゴについて監視しているオーナーばかりではないでしょうし、有名店だと思って注文したらニセモノだった、とか、ニセモノだと気づかないまま食べて満足した、なんて事例、アメリカ以外でも今後出てくるのかもしれません。

via The Verge

カテゴリー
ネットの事件

娘のライバル達を追い出すためにディープフェイク動画をコーチに送り付けた母が逮捕される

ペンシルバニア州のチアリーディングチームに娘を通わせる母親が、ディープフェイクの不祥事動画を使ってライバルたちを陥れようとしたことがわかって逮捕されたそうです。罪状は子供へのサイバー・ハラスメント。

供述によれば、この50歳の母親は昨年、チームに所属する少女とコーチに加工された画像とテキストメッセージを匿名で送りつけたのですが、その画像は少女らが裸だったり飲酒やドラッグを吸う様子を表していたそう。動画は(映っていることが本当なら)チームを辞めさせられてもおかしくない内容だったという親の証言もあります。しかも、他の2人の少女についても同様の嫌がらせが行われていたと。

これらの動画を解析した警察は、これらの映像がデジタル的に書き換えられ本物そっくりに見える「ディープフェイク」だと判定したそうです。犯人が電話番号もIPアドレスも何の対策もせず使っていたことから、特定もすぐにされたと。

犯人の娘と少女たちは以前は友達付き合いをしていたそうですが、被害者の少女の両親が「素行の悪い(犯人の)娘とつきあわないよう」にさせたそうで、それがこのハラスメントを引き起こしたのかもしれないと話しているということ。

なお、複数のソースで「ディープフェイク」と言っていますが、これは警察の発表でそう言っているようで、Hacker News の議論ではAIを使った deepfake アルゴリズムを使ったというより、フォトショップ等の旧来の加工をも含めてリアルなニセの画像/動画を作ることを「ディープフェイク」と警察もメディアも呼ぶようになってしまっているのでは、という考察が出ていました。

どのレベルの加工かはわかりませんが、フォトショップの類であっても昔より簡単にうまく加工ができるように進化していますし、deep fake を一般家庭で素人が利用することもすぐに普通となるかもしれません。写真や動画が流れてきたからといってなんでも真に受けてはいけませんね。

via Hacker News