ディープフェイクとは?実例を含めてわかりやすく解説!

目次

  1. 1. ディープフェイクとは?
  2. 2. ディープフェイクでできること
  3. 3. ディープフェイクの問題点
  4. 4. ブロックチェーンとディープフェイク
  5. 5. ディープフェイクの今後
  6. 6. クリスタルメソッドでの対策

ディープフェイクとは?実例を含めてわかりやすく解説!

今話題のディープフェイクという言葉をご存じでしょうか?
ディープフェイクとは、ディープラーニング(AIの深層学習)とフェイク(偽物)を組み合わせた造語です。
映画やゲームなどで使われていた技術ですが、最近ではディープフェイク動画を作成できるアプリが登場するなど一般の方にも広く認知されるようになりました。

その一方で、悪用される心配も危惧されていることから、ディープフェイクの技術に対する対策も始まっています。

この記事では、AIを専門に研究開発する会社の視点からディープフェイクのメリットやデメリット、今後の可能性などを解説していきます。

ディープフェイクとは?

ディープフェイクで人間の動きを抽出する過程 ディープフェイクで作成された人の画像と元々の画像の比較

テクノロジーの進化、発展に伴い、様々な分野でAIが使われています。

そのAI技術を応用し、動画の中の人の顔を別の人の顔に入れ替えたフェイク動画のことを“ディープフェイク”といいます。

Photoshopなどの画像編集ソフトを使用し、画像の顔を差し替えたり合成したりすることは過去にもありましたが、近年ではディープフェイクを用いて顔を差し替えるだけでなく、発する言葉に合わせて口を動かしたり表情を変えたりと、まるで本人が話しているのと区別がつかないレベルにまで技術が急成長してきました。最近ではマスクを付けた人の顔をディープフェイクにより検出するような研究も進んでいます。
こうしたディープフェイク動画は動画コンテンツとして様々な可能性がある一方で、悪用される危険性もあるため、注目を集める一方、脅威となるともみなされています。

GANとは一体何か?

GANを使ったディープフェイクで作成した顔の比較

ディープフェイク動画を作るうえで使われる、GANというAIの技術があります。
GANは、2014年に発表されたもので、主にGenerator(生成ネットワーク)とDiscriminator(識別ネットワーク)という、2つの過程からなっています。1つめの過程が偽のデータ(例えばディープフェイク動画)を作成する技術のことです。偽のデータは可能な限りハイクオリティを目指して作られ、本物により近いデータを作りだします。そして作った偽のデータが偽であるか、そうでないか(ディープフェイク動画が本物かどうか)を判断するのがもうひとつの過程です。このふたつの過程を通して、偽のデータの作成、そのデータが偽であるかどうかの判定をし、精度を改善していくことで、より偽のデータを本物に近づけていきます。

例えるならば「どろけい」のように、警察(偽物であるか判断をする)が泥棒(偽のデータを生成する)を捕まえる(偽物であることをみやぶる)をしても、仲間の泥棒により捕まった泥棒が逃げ出す(偽物の動画を作成する技術が向上する)。そして警察が再び逃げた泥棒を捕まえるために、策をねったりする(偽物を判定することが出来る技術の向上をする)を繰り返すということに似ています。

ディープフェイクはこのGANと呼ばれる手法のAI技術などを応用したものです。

単純に顔を挿げ替えているのではなく、Aさんの顔の表情筋を細かくパーツ毎に分解して解析します。そして学習(ディープラーニング)した結果をもとに、Bさんの表情筋を解析してAさんのパーツを当てはめることで、自然な表情を作ることができるのです。パーツ自体はAさんのものを使用していますので、表情も滑らかに変化し違和感はありません。何も知らない人がディープフェイク動画だと気付くのは困難です。

GANが別人の顔を生成する過程

GANなどの技術の進歩により、安価な費用で精度の高いディープフェイクが作成できるようになった一方、簡単に作られるようになったことで、2022年2月ごろから始まったロシアとウクライナでの戦争でも、SNS上などでディープフェイク動画を使用し、混乱を引き起こそうとする出来事が数多く見受けられています。
>> ウクライナのゼレンスキー大統領のディープフェイクニュース
※弊社の代表が、こちらのニュースでディープフェイクについてコメントしました。

GANには様々な種類があり、代表的なものではpix2pix、CycleGAN、StyleGAN、BigGANなどがあります。GANについて詳しく知りたい方はこちらに詳細を記載しておりますのでご参考にしてください。
>> GAN(敵対的生成ネットワーク)について説明します!

ディープフェイクでできること

ディープフェイクはもともと、2つ以上の動画や画像の一部を交換する技術として発展してきました。ここではディープフェイクが使われている例をいくつか紹介します。

映画・映像

ディープフェイクは映画やCG映像などでよく使われています。

映画「アバター」のように、人間以外の生き物でありながら、表情やパーツは人間のものを使用しているので非常に表情豊かです。

ディープフェイクアバター

ディープフェイクが映画業界にもたらすメリットは非常に大きなものです。例えば、セリフを変更する必要が生じた時も、大量のデータを用いることで再撮影を行わなくても映画を完成させることができます。また、特殊メイクでは時間がかかったり限界がある表現もディープフェイクであれば可能になります。

ニュースキャスター

また、近年はニュースキャスターの代わりをAIが務めるといった実験も進んでいます。中国の国営メディアである新華社通信はAIのアナウンサーを本格的に起用したことで話題になりました。

原稿をAIが読み上げるだけでなく、キャスターもディープフェイクで代用できれば、その場にアナウンサーがいなくても放送できたり、深夜の生放送のために出勤しないでよくなったり、危険な現場に行かなくても良くなったりなど、今後の働き方が見直されるかもしれません。

モデル

ディープフェイクは複数の人間を合成した架空の人間を作りだすことが可能です。理想の顔のパーツを持つモデルがいない場合は、ディープフェイクで思い通りに作り上げることができます。
また、この場合は著作権や肖像権なども回避できるといったメリットがあります。

ディープフェイクで作成された複数の顔写真

 

ディープフェイク作成アプリ3選

最近ではカメラ機能を利用して簡単に顔を入れ替えたりできるディープフェイク作成アプリなども登場しています。以前はハイスペックなコンピュータでないと作成不可能でしたが、技術の進歩でスマホでも簡単に作成できる身近な技術になっています。

1.Deepfakeswebβ
こちらのアプリは、カナダを拠点にした、クラウドベースのソフトウェアを提供しているDeepFakeWebが制作しています。動画と顔を入れ替えるための2つの画動画をアップロードするだけで、オンラインでディープフェイク動画を作成できるアプリです。とても品質の高いディープフェイク動画を作成できるサービスとして世界中で人気です。

2.スマホアプリで簡単に作成できるXpressionーバーチャル乗っ取りフェイス
AIを用いて、動画の中の人の顔を乗っ取って、リアルタイムで動かすことができるアプリです。どんな動画や画像でも一枚用意するだけで、好きなセリフをしゃべらせて新しい動画が作れます。

3.クリスタルメソッドのアバター作成ツール
クリスタルメソッドでもディープフェイクを利用したアバター作成アプリを開発しています。スマホで簡単に誰でもアバターが作れるサービスを、今期ローンチ予定です。
その他、つくったアバターで動画作成もできる「DeepMovieCreator」をサービス提供しています。自分が登場しなくても自分のアバターが動画に出てくれるので、忙しい人にはピッタリのサービスです。
クリスタルメソッドのYouTubeは、全てアバターが配信しています。⇩

ご自身のアバターを作りたい方はこちらからお問い合わせください。

Twitter上で話題になったディープフェイクについて

テレビなどメディアで紹介されているディープフェイクについて、Twitterでも数年前から取り上げられ話題になっています。
「本物かどうか分からない」「これ、本人じゃなかったの!?騙された~」という話題から、「ゲームや映画の世界では革新的な技術革命」などのプラスな話題まで、ディープフェイクという新しい技術について、まだまだどのように捉えてよいのか戸惑う人も多いようです。

 

ディープフェイクの問題点

ここまでディープフェイクのメリットをお話ししてきましたが、当然悪い面もあります。

技術が進化し、本人と見分けがつかないディープフェイクが作られることで、悪用され大きな問題に発展するケースについても考えなければなりません。

ディープフェイクによるなりすまし

2018年にはアメリカの元大統領であるオバマ氏、2019年にFacebookCEOのマーク・ザッカーバーグ氏がディープフェイクにより公開された動画が話題を集めました。

後に、どちらもディープフェイクで作成されたフェイクニュースだったことがわかったのですが、あまりの巧妙さに信じてしまった方も多いのではないでしょうか?

ディープフェイクで影響力のある著名人になりすまし、たった一言発した言葉に惑わされて、社会が混乱する事態が起こるのは容易に想像できるでしょう。

さらに「チープフェイク」と呼ばれる低精度のフェイク動画であれば個人でも作成できてしまいます。ディープフェイクと比較すると粗が目立ちますが、それでも素人目に見て瞬時に偽物だと判断するのは難しいでしょう。

ディープフェイクやチープフェイクの進歩を示した年表

ディープフェイクを利用したポルノのフェイク動画も増えています。女性のセレブ、有名人などが対象となり加工されています。Sensityは、2019年7月にオンライン上で検出されたディープフェイク動画は14,678本だったと報告をしており、約96パーセントが女性のポルノ動画であったと報告しています。今後は一般人も巻き込まれると予想されており、多くの人に脅威がせまっています。

さらに、ディープフェイク動画や、ディープフェイクボイスによる音声を用いた、詐欺事件が発生しています。詐欺だと気づかずに登録してしまったり契約してしまうという事例が報告されています。ディープフェイクを用いた広告を用いて宣伝する手法もネット上などで見かけられています。

まずは正しい知識を持って、ディープフェイクに惑わされない目を養うことが重要です。

ディープフェイクをはじめとしたAI技術は想定外の結果を生んだり、誤った使われ方をされてしまい、現行法に違反してしまうことが多々あります。

個人で利用する場合も、学習用データの収集や共有が個人情報保護法や著作権法に抵触するおそれもあるなど、その使い方に責任を持たなければなりませんので注意が必要です。

さて危機感を煽ることになってしまいましたが、ではどのようにディープフェイクを見分ければよいのでしょうか?
以下のページで、ディープフェイクの見破り方について解説しておりますので、是非ご覧ください。
>> ディープフェイクの見破り方

 

ブロックチェーンとディープフェイク

ビットコインとイーサリアムコイン

ディープフェイク対策として活用されるブロックチェーン技術について説明します。

ネットワーク上で自身が持つパスワードを入力した際、そのパスワードをそのままサーバーに保存しておくのはセキュリティの関係上あまり好ましくなく、一般的にパスワードを非公開の数式によって暗号化(ハッシュ化)します。この暗号(ハッシュ値)はパスワードを一文字でも変更すれば、全く別のものに変わってしまいます。

ブロックチェーン技術はこの時作成されたハッシュ値をブロック状の記録の塊に保存し、それぞれのブロックをチェーンのようにつなげていくことで、正確にネットワーク上での一連のやり取りを記録することを可能にしています。ブロックチェーンは、はじめに作成されたハッシュ値を保持し続ける上、ハッシュ値の改ざんは非常に困難なので、仮にデータを改ざんしようとしてもすぐに検出することができます。

これはディープフェイク対策にも有効です。例えば、今すでに存在する動画を用いて、ディープフェイク動画を作成しようとした場合、ハッシュ値は全く別のものに置き換わるので動画に何か変更を加えたことが一瞬でわかるのです。

ブロックチェーンはありとあらゆるデマ情報を判別できるわけではありませんが、新技術の悪用に対する一つの解決策になるかもしれません。

ディープフェイクの今後

スマホを未来へ向けて

これまではディープフェイクを作るには高価な機材と高性能なコンピュータなどが必要で、映画業界や会社規模でしか作成できませんでした。

しかし、技術の進化により簡単に作成できるようになり、今では無料のツールが出たり、ディープフェイク動画を作成できるアプリが登場したりと、一般人にも馴染みのあるものになりました。

カメラ機能の向上もあり、お互いの顔を交換した写真をSNS上にアップロードしたり、理想の顔になれるアプリで楽しむ若者も目立ちます。
さらに、このご時世でオンライン化が進み、ZOOMなどでカメラ越しに会話する場面が増えました。

オンライン授業、オンラインミーティングなどが当たり前になる一方で、カメラの向こうにいる相手が本当に本人なのか、考えると恐ろしくなります。

悪い面が目立ってニュースになりがちですが、一方でディープフェイクの良い面もたくさんあります。
映像作品では、故人を登場させたり、CGとディープフェイクを駆使することで役者に危険をさらすことなく派手なアクションシーンが制作できます。

ゲームなどでは、自身の顔を取り込みキャラクターに再現することで、より世界観に没頭できます。
アパレルのオンラインショッピングや美容室などは直接足を運ばなくても、自身に近いバーチャルモデルを作成することで着用した際のイメージが湧きますし、バーチャルアイドルなどもより自然な動きに近づいていくでしょう。

ますますAIの発展・進化に伴い、私たちの娯楽をより豊かにし、生活になくてはならないものになるでしょう。

生活をより豊かにするために

ここまでディープフェイクの現状やメリット・デメリット、今後について解説してきました。

映像作品においてはディープフェイクは必須になりつつありますし、今後オンラインが主流になれば私たちの生活にも一層馴染み深いものになっていくでしょう。

しかし、高精度がゆえに悪用される危険性があることを忘れてはいけません。今はディープフェイクを見破る技術も開発されていますが、個人個人が正しい知識と理解を持って有意義に使っていきたいものです。

AIの法と倫理のルール化

法律への侵害、倫理、社会受容性の観点の問題から国内外で、AIへの規制が増えてきています。

AIビジネスを始めようとする、大企業とスタートアップともに、ステークホルダー、法律の無視より、非難を受け、ビジネスが止まるという事例が相次いできています。

2018年10月24日には、国立国際臨床医療研究センターのAIプログラムは、糖尿病リスク予想ツールを作成し、公開したところ、厚生労働省より、プログラム医療機器に当たるとして、翌日には公開停止となりました。(現在は再公開されています。)

顔認証システムについても問題が起こっています。
2017年5月には、米国でサウスウェールズ警察による顔認証システムに対して、市民自由活動が提訴を行い、AI利用停止となっています。

このように幅広いステークホルダーの調査がビジネスを継続するには必要不可欠となってきています。AIは現行法に違反しやすく、米欧では、AIの法と倫理のルール化に着手が進んでいます。
それに従い、信頼できるAIのための倫理ガイド、社内体制を整える企業が増えてきています。

2021年には、バイデン大統領が、AIルールが必要と宣言をし、2021年4月21日、AI規則案として、EU全体に直接適用法則が公表されました。AI規則案では、明確な人権侵害を行うAIは禁止するとしていて、規則を守らないと制裁金が課されるとされています。一方ディープフェイクはローリスクであると考えられていて、弱い規則が適用されるとされています。

国内外で、AIビジネスを行う上で問題が上がっています。2つの例を挙げてお話します。

◆VIP接客における顔認証
1つ目にVIP接客事例に関するお話です。AIによる顔認証により、金融業界と旅館業界でVIPに対して優遇した接客を行うものです。顧客の個人情報をVIPに使うことに対する本人同意がなく、個人情報保護法との兼ね合いが問題となります。一般顧客からの同意を得づらく、倫理、社会受容性の視点からは、重要顧客の個人情報が割れる恐れがあり、犯罪を誘発するのではないかという問題も考えられます。銀行でのリスクは高く導入は困難と予想されます。

顔認証のために収集する必要のある顔の情報

◆介護施設における生体認証機能カメラ
2つめに介護施設における生体認証機能カメラについてのお話です。被介護者の保護と介護者の効率及び負担を軽減する目的を持ちます。プライバシー及び、高齢者への心理的、性的虐待へ該当するかどうかが問題となります。撮影箇所と方法を限定し、利用者、家族へ事前に相談しておくこと、同意しない人、すべての恥部が映り込まないことが大切となります。技術的解決を施すことによって可能となっています。

時には規制緩和が必要となってきますが、国際ビジネスをするには、海外の法律、倫理を守ることが重要であり、リテラシーを持つことが重要となってきています。

クリスタルメソッドの技術「DeepAICopy」

弊社では、法と倫理に配慮しながら、アバターがカメラに写る人の動きを追従して同じ動きをするフェイストラッキングというシステムを開発しましました。


※こちらの機能が導入され、さらに誰でも自分のアバターが作れるアプリも開発中です。
2022年中にはローンチ予定です。お楽しみに!

また、弊社では、個人の見た目・声 趣味、思考、知識、自己認識などをAIにインストールするDeep AI Copyというサービスを開発しております。Deep AI Copyについて動画も交えてご紹介します。

以下の動画、1つは本物で1つは弊社が開発したDeep AI Copyによるアバターです。

どちらが本物か分かりますか?
正解は...上の動画が、本人による動画で、下の動画が本人のデータをもとに作成したAIアバターです。
精巧なコピーを作成できていることを分かって頂けたのではないでしょうか。
こちらの2本の動画はどちらもAIコピーの動画ですが、ご覧いただける様に、身体の動きを交えた動画を生成することができるようになりました。これによってできることの幅が一気に広がりました。

このような技術によって期待できることは、聴覚障害を持つ方に対しての手話の対応、
指を指示しながら喋る動画の生成(天気予報や授業風景など)といったことも可能になります。

そして、このAIアバターは、誰でも作成することが可能です。

・今のわたしの姿と声で、永久にメッセージを残したい。
・毎日忙しくて自分が撮影に参加できない。(YouTube動画などに適応可能です。)
・自分の代わりに、アバターに会議に出席してほしい。
などなど、あなたの代わりにあなたのアバターがインターネット上で活躍します。

弊社のアバターの作成やAIサービスに関心をお持ちいただけましたら、お問い合わせフォームからお気軽にご連絡ください。費用のご相談なども承っております。

ディープフェイクとDX

最近DX化という言葉を聞くことが増えてきたのではないでしょうか。DXとはデジタルトランスフォーメーションとも呼ばれます。DXは、デジタルテクノロジーを用いて、経営やビジネスプロセスの再構築を行い、今後の社会で生き残ろうとするものです。ディープフェイクはここまで紹介したように、既に現代社会で使われている技術となっています。ディープフェイク技術はDX化を促進する一つの技術となりうるのは間違いないでしょう。

DXについて詳しく知りたい方はこちらをご覧ください。
>> DXとは?定義や意味を解説!

クリスタルメソッドでの対策

一定のAIと呼ばれるチャットボットやFAQシステムなどの技術はローリスクであるが、反対にハイリスクとなるAIは、産業機械、医療機器、教育や雇用など社会や人間の身体に影響を及ぼす可能性のあるAIです。

欧米ではAIに関する新たな法律や規則の整備が進められていますが、最近では日本もこの影響を受けつつあります。
幅広い分野の業種が、従来なかった法規則の対象となり得るでしょう。
日本の企業ではAIビジネスについての様々な法的・倫理的な危険性にまで意識が回らないことがあり、こうした新たな規則に対する認識が曖昧になったまま、ビジネスが進んでしまうケースがあります。

そうした事情も踏まえて、弊社は日本国内の法制化の動向だけではなく欧米の動きや倫理についても考慮しながら、技術開発を進めています。

本ディープフェイクの記事を最後までお読み頂き、ありがとうございました。
ディープフェイクとは?という疑問に答えることができていれば幸いです。

【関連】
・【newszero】弊社の代表がディープフェイクについて日テレNEWSにてコメントしました
・ディープフェイクの見破り方

またよろしければ弊社SNSもご覧ください!
Twitter https://twitter.com/CrystalmethodZ9
Facebook https://www.facebook.com/クリスタルメソッド株式会社-100971778872865/