TOPマネジメント > ディープフェイクの技術と現状、そして危険性(下)

マネジメント

ディープフェイクの技術と現状、そして危険性(下)

2020/10/09

Martin Heller InfoWorld

 ディープフェイクとは、ディープラーニングの技術を利用して加工されたメディアのことで、その多くは動画だが、音声の場合もある。実際にはなかった出来事や光景、発言が存在しているかのように信じさせることを狙いとして、作成や改変、合成が行われている。

前回から続く)

ディープフェイクと性的コンテンツ

Credit: Maksim Tkachenko / Getty Images

 前述のとおり、最初に登場したディープフェイクは、ポルノ動画の顔を女優に置き換えたものだった。Redditはその後、この動画をはじめとするポルノ系ディープフェイクを扱っていたSub-Redditの/r/deepfakeを閉鎖した。大半のコンテンツは対象者の同意のない性的な動画や写真だったからだ。こうしたコンテンツは、現在では地域によっては違法である。

 ポルノ系ではないディープフェイクを今も扱っているSub-Redditとしては、/r/SFWdeepfakesがある。ここの住人は、自分たちは良い仕事をしていると主張しているが、例えば「トワイライトゾーン」のRod Serling氏の顔をJoe Biden氏に雑に置き換えた動画に価値があるのかどうかは、皆さんの判断にお任せしたい。また、こうしたディープフェイクの中に、違和感を覚えないものが果たしてあるかどうかもお考えいただきたい。私見では、あと少しで本物と主張できそうなフェイクも一部にあるものの、大半は、せいぜい荒削りという表現止まりだ。

 もちろん、Redditの/r/deepfakeが閉鎖されたからといって、対象者の同意のない性的な動画や写真はなくならない。こうしたコンテンツを作成する動機はいくつか考えられ、例えばリベンジポルノもあり得る(米国ではリベンジポルノは犯罪)。そのほか、同意のないディープフェイクを禁じたサイトには、Gfycat、Twitter、Discord、Google、Pornhubがあり、後にFacebookとInstagramも重い腰を上げた。

 カリフォルニア州では、性的なディープフェイクコンテンツを勝手に作られた人は、その作成者を訴えることができる。また、選挙前の60日間は、その立候補者に関して悪意あるディープフェイクの動画や音声を配布することを禁じている。中国では、ディープフェイクはその旨を明示するよう定めている。

↑ページ先頭へ