ディープフェイク動画 かつてのアイコラと同様に拡大へ

ディープフェイク動画 かつてのアイコラと同様に拡大へ

記事画像

 1990年代に流行したアイドルコラージュ、いわゆる「アイコラ」は、2000年代になりネットの世界にも広がった。その多くは、芸能人(アイドル)の顔写真と別人のセクシーな写真を組み合わせるなど、様々な権利を侵害し、使用された被写体を深く傷つけるものだった。そしていま、AIの一種である「ディープラーニング(深層学習)」と「フェイク(偽物)」が合わさった「ディープフェイク」技術によって制作された動画によって、新たな被害が生まれつつある実態を、ライターの森鷹久氏がレポートする。

 * * *
 来年の大統領選や株価に重大な影響を与える可能性がある──アメリカ下院の情報特別委員会で、出席者が懸念したのは人工知能を使って偽の動画を作る「ディープフェイク」と呼ばれる技術についてである。

 個人や一部のメディアが特定層に利益を誘導させ、相手を貶めるために嘘を流布させる「フェイクニュース」といえば、前回のアメリカ大統領選ごろから話題になったことも記憶に新しい。悪い意味での影響が大きすぎると、大手メディアが「フェイクニュース」を見分ける専門部隊を創設させるなど、情報戦争の様相を呈しているが、次は「ディープフェイク」を使った「動画」だというわけだ。

 6月8日にインスタグラムへアップされた「フェイスブックの真実を明かす」という説明がついた15秒の動画は、その内容と、語っているかのように見える人物が人物だっただけに、世界に衝撃を与えた。

「フェイスブック創設者のマーク・ザッガーバーグ氏が“1人の男が、数十億人の秘密や暮らし、未来に関する個人データをコントロールできることを想像してみろ”と話しているように見える動画がSNS上に公開されました。氏がフェイスブック上の情報を"自由に利用できる"と話しているようなものでゾッとしますが、これがディープフェイク動画だったんです」(大手紙記者)

 筆者も動画を見たが、ザッガーバーグ氏が話しているかと一瞬、錯覚をしてしまう。もっとも、しばらく聞いていると声が違う(実際には俳優が声をあてているのだという)ので、最終的には本物ではないと分かる。結局、この映像はアート作品のひとつだったため制作者から「ディープフェイク」動画であると公表されてネット世界のざわつきはおさまった。

 だが、似たような技術を駆使した動画を見たとき、文章の冒頭だけを読んで全体を判断してしまうような人や、タイトルだけを見てすべてを早とちりするような人だったら、本物だと信じてしまいそうだ。

 SNSユーザーらの手によってあっという間に「フェイクニュース」が拡散されてしまうのと同様か、動画という信ぴょう性もあいまって、それ以上の影響が出るおそれもある。米下院が公聴会を開き、SNS企業に対策の協力をよびかけるほどの“効果”は確かにあるのかもしれない。そしてこれは、IT大国アメリカで起きている対岸の火事ではない。都内の芸能事務所担当者が打ち明ける。

「おたくの女優のアダルト映像が流出している、と連絡があったのは昨年末ごろ。映像を見ると、確かに弊社に所属している女優・Xが男性と関係を持っている映像でした。しかしよく見てみると髪型がおかしく、映像も不鮮明。たまに顔が別人と入れ替わる。なんなんだと思いました」 ドラマやCMに出演し、押しも押されぬ大女優の地位にのし上がった・Xの流出映像となれば大問題だが、実はこれも「ディープフェイク」による偽の映像だった。よく確認すると、顔の表情はXそのものだが、髪型や耳の形、そして体型はXとは異なる。こうした偽のアダルト映像が今、ネット上で急速に広まっている。アダルト業界に詳しいライターが次のように解説する。

「ネット黎明期に流行った"アイコラ"(アイドルコラージュ)は、ヌード写真の顔を有名人とすり替えたもので、アイコラ専門サイトが林立するほどの人気でしたが、今はその映像版であるディープフェイク専門サイトが国内外で立ち上がっています。ターゲットとなるアイドルの映像をAI(人工知能)に学習させ、表情のパターンを作らせる。それを既存のアダルトビデオに出演する女優の顔にはめ込むわけです。半年前と比べても技術は進化していて、顔がどちらを向こうがうまく有名人の顔とすげ替えられており、一見すると“本人の流出映像か”と思ってしまいます」(アダルトライター)

 ネット上に開設された非合法のアダルトサイトを確認したところ、確かにありとあらゆる女性芸能人、有名人ら出演しているように見える動画が大量に投稿されていた。そして、そこには閲覧者らによる「素晴らしい」「もっと作って」「次は女優の××で」などと言った賞賛のコメントが多く寄せられている。著作権侵害、名誉毀損など多くの罪に問われそうな行為にも関わらず、問題視するもの、咎めるものはほとんど見当たらない。

 筆者は、こうした動画を制作し、ネット上にアップロードしていると見られる複数のユーザーに接触し、そのうちの一人に話を聞いた。

「本職はデザイナーですが、AIに興味があり、趣味で作ったディープフェイクのアダルト映像をSNSにあげたところ、大変な反響があったんです。ビットコインで支払うから、この女優で映像を作って欲しいなどの要望もあり、実際にそうした取引に応じたこともあります。ダークウェブ界隈の取引サイトでも動画の売買が行われているようで、海外では専門のサイトが多く立ち上がっています。大きな収益になるかもしれませんが、僕はまだ小遣い程度。趣味の範疇を超えないですね」

 この人物、一貫して悪びれることはなく「単なるお遊び」といって憚らないが、やっていることが様々な権利を侵害しているのは明らかだ。にも関わらず、彼らが「悪びれない」ことの背景には、特にセクシーなディープフェイク動画の場合は、見た人を「騙してやろう」という目的で作成されていないこともある。先に紹介したネットユーザーらの「賞賛コメント」を見てもわかるように、皆が「偽物だとわかった」上で、動画を作成したり閲覧したりする。課金型のアダルトサイトにもディープフェイク動画は多数アップされているが、金を払ってでもいいから「偽動画」を見たい、というユーザーも確かに存在するのだ。しかし彼の言動からは、後ろめたさを抱いていることも感じさせる。

「動画の投稿は全て、簡単には足がつかない特殊なWebブラウザを通じて行なっています。こんな馬鹿なことで逮捕されたら恥ずかしいじゃないですか」

 こんな「馬鹿なこと」ではあるが、すでに傷つき、実生活や仕事に影響が及んでいる被害者に思いを馳せる様子は微塵もない。次の大統領選など世界経済、世界秩序に悪影響を及ぼすかもしれないのに、だ。技術の進歩は歓迎すべきだが、それを作り上げた人間、利用する人間の秩序は、いつも出遅れるばかり。「本人が喋っているように見える映像も疑うべき」という殺伐とした世界の到来はすぐそこだ。

関連記事(外部サイト)