顔が別人に差し替えられた映像を初めて見たときはとても驚いて、気持ち悪いけれど、わくわくもしました。ディープフェイクっていうんだなあ、ＡＩってやっぱり凄いなあと思いました。
ディープフェイクでしびれまくった動画がありまして、シャイニングのジャック・ニコルソンをジム・キャリーにしちゃったこちらの作品です。ジム・キャリーのシャイニングもめちゃくちゃ怖いです。
ディープフェイクの映像は顔のパーツの位置や輪郭に違和感を感じやすいですが、この映像はほぼ違和感がなくて感動します。
もとはGIGAZINEさんで知りました。シャイニングの他のシーンも紹介されています。
ディープフェイクの動向を調べたら、今や一般の人が動画を作れるサービスもあるのですね。
この会社がサンプルで公開しているのがこのエントリのタイトル画像に使ったこちら。技術的な凄みと不気味さが同居していて、ぞわぞわします。
別のサンプルではマツコ・デラックスさんが阿炎関にはめ込まれていたり。
少し前の「Zao」というスマホアプリも凄かったです。画質は荒いもののディープフェイク動画を手軽に作れて爆発的に広がりました。現在は非公開になっていますが、フェイク動画作成のハードルが非常に低くなったことを思い知りました。
音声はどうなのだろうと調べたら、おもしろそうなサービスがリリース目前のようです。自分の声を学習させると、文字の文章から自分の声のナレーションを作ってくれるそうです。自分が言ってない言葉を生成してくれるのですね。
いろんな音を含んでいる音声データから特定の声だけを差し替えるのはとても難しいと思うので、顔の差し替えのようにはいかないと思うのですが、いずれ実現するのでしょう。
フェイクの動画や音声を使って、世論や特定の人物の印象などが意図的に操作されると怖いです。Facebookとかマイクロソフトやグーグルなどの巨大テック企業がフェイク動画の検出技術の開発を進めているのも、そういった脅威や社会的な要請を感じてなのだと思います。
ただ、対象が著名であればあるほどフェイクであることがはっきりしやすいと思うので、やられた方はたまったものではないでしょうけれど、大した脅威にはならない気もします。動画や音声など使わずに、出所不明の文字情報を流布した方がよほど効果的です。
一方、ごく一般の人に向けたハラスメント目的で使われてしまうと、やられた方の精神的なダメージはかなり大きいでしょうから、刑事罰による抑止が必要だと思います。
ディープフェイクの利用のされ方について、先日、レポートが出ました。
身も蓋もないですが、現状はポルノへの利用が一番大きいとのこと。珍しさがある今が儲け時なのかもしれません。今後、フェイクポルノが公衆の目に触れる程度に広がって、作成者が捕まって、アンダーグラウンドに引っ込む、ということになるのだろうと思います。
より悪質な犯罪に使われる可能性はどうなのかなと調べたところ、ありました。詐欺師がディープフェイクでCEOの音声を真似て、会社にお金を送金させたという手口のようです。振り込め詐欺の企業版ですね。
もっと前向きな使い道はないものでしょうか。アートの映像作品にはすぐに使われると思いますが、それ以外に良さそうな用途が思い当たりません。別のエントリでご紹介した、リアルな顔を人工的に生成する技術など、他の技術と組み合わせて真価を発揮するのだと思います。
AIが生み出した10万枚の顔にしびれる (hokori.work)
コメント