ペンシルバニア州のチアリーディングチームに娘を通わせる母親が、ディープフェイクの不祥事動画を使ってライバルたちを陥れようとしたことがわかって逮捕されたそうです。罪状は子供へのサイバー・ハラスメント。
供述によれば、この50歳の母親は昨年、チームに所属する少女とコーチに加工された画像とテキストメッセージを匿名で送りつけたのですが、その画像は少女らが裸だったり飲酒やドラッグを吸う様子を表していたそう。動画は(映っていることが本当なら)チームを辞めさせられてもおかしくない内容だったという親の証言もあります。しかも、他の2人の少女についても同様の嫌がらせが行われていたと。
これらの動画を解析した警察は、これらの映像がデジタル的に書き換えられ本物そっくりに見える「ディープフェイク」だと判定したそうです。犯人が電話番号もIPアドレスも何の対策もせず使っていたことから、特定もすぐにされたと。
犯人の娘と少女たちは以前は友達付き合いをしていたそうですが、被害者の少女の両親が「素行の悪い(犯人の)娘とつきあわないよう」にさせたそうで、それがこのハラスメントを引き起こしたのかもしれないと話しているということ。
なお、複数のソースで「ディープフェイク」と言っていますが、これは警察の発表でそう言っているようで、Hacker News の議論ではAIを使った deepfake アルゴリズムを使ったというより、フォトショップ等の旧来の加工をも含めてリアルなニセの画像/動画を作ることを「ディープフェイク」と警察もメディアも呼ぶようになってしまっているのでは、という考察が出ていました。
どのレベルの加工かはわかりませんが、フォトショップの類であっても昔より簡単にうまく加工ができるように進化していますし、deep fake を一般家庭で素人が利用することもすぐに普通となるかもしれません。写真や動画が流れてきたからといってなんでも真に受けてはいけませんね。
via Hacker News