ディープフェイクについてAI研究所が解説！

ディープフェイクという言葉をご存じでしょうか？
ディープフェイクとは、ディープラーニング（AIの深層学習）とフェイク（偽物）を組み合わせた造語です。

ディープフェイクは、映画やゲームなどの映像、動画の分野で使われていた技術ですが、最近ではディープフェイク動画を作成できるアプリが登場するなど一般の方にも広く認知されるようになりました。
その一方で、悪用される心配も危惧されていることから、ディープフェイク動画の技術に対する対策も始まっています。

この記事では、「ディープフェイクとは？」という問に答えられるように、AIを専門に研究開発する会社の視点から
・ディープフェイクでできること
・ディープフェイクの問題点
・ディープフェイクの今後の可能性
などを実際のディープフェイク動画を用いて解説していきます。
また、ディープフェイクを身近に感じていただくため、映像、動画、アプリ、Twitterでのディープフェイクも紹介します。

クリスタルメソッドでは、「DeepAI」というAIアバター開発システムをご提供しています。ChatGPTも使って対話ができます。

自身のアバターを作りたい方はこちらのページからお問合せください。
DeepAI

ディープフェイクとは

本来のディープフェイクとは、AI技術を応用し、動画の中の人の顔などの一部を入れ替える技術のことです。
ですが、世間ではディープフェイクという言葉を偽動画、フェイク動画という意味で使用することが増えてきています。

Photoshopなどの画像編集ソフトを使用し、画像の顔を差し替えたり合成したりすることは過去にもありましたが、近年ではディープフェイクを用いて顔を差し替えるだけでなく、動画中で発する言葉に合わせて口を動かしたり表情を変えたりと、まるで本人が話しているのと区別がつかないレベルにまで技術が急成長してきました。最近ではマスクを付けた人の顔をディープフェイクにより検出するような研究も進んでいます。
こうしたディープフェイク動画は動画コンテンツとして様々な可能性がある一方で、悪用される危険性もあるため、注目を集める一方、脅威となるともみなされています。

ディープフェイクの作り方について興味のある人は、以下の２つの記事を見て下さい。

>> ディープフェイクの作り方を解説！

>> GAN(敵対的生成ネットワーク)について説明します!

ディープフェイクでできること

ディープフェイクはもともと、２つ以上の動画や画像の一部を交換する技術として発展してきました。ここではディープフェイクが使われている例をいくつか紹介します。

動画・映像

ディープフェイクは映画やCG映像、動画などでよく使われています。
映画「アバター」のように、人間以外の生き物でありながら、顔の表情やパーツは人間のものを使用しているので非常に表情豊かです。
ディープフェイクが映画業界にもたらすメリットは非常に大きなものです。例えば、セリフを変更する必要が生じた時も、大量のデータを用いることで再撮影を行わなくても映画を完成させることができます。また、特殊メイクでは時間がかかったり限界がある表現もディープフェイクであれば可能になります。

また、現在ではディープフェイク作成アプリで簡単にディープフェイク動画、画像などが作成できます。つまり、映画だけでなく娯楽の場面でもディープフェイク動画や画像、その様な映像が使われています。

ChatGPTで対話

弊社のDeepAIはChatGPTも活用しており、この動画のように自由に対話が出来るので、悩み相談を受け付けてくれます。同じ人間のコピーを作成しておりますが、AIの方が化粧をして整えた映像になっているので、いつでも整った姿にしたい方にとっては便利だと思います。

ニュースキャスター

また、近年はニュースキャスターの代わりをAIが務めるといった実験も進んでいます。中国の国営メディアである新華社通信はAIのアナウンサーを本格的に起用したことで話題になりました。
原稿をAIが読み上げるだけでなく、キャスターもディープフェイクで代用できれば、その場にアナウンサーがいなくても放送できたり、深夜の生放送のために出勤しないでよくなったり、危険な現場に行かなくても良くなったりなど、今後の働き方が見直されるかもしれません。

モデル

ディープフェイクは複数の人間を合成した架空の人間を作りだすことが可能です。理想の顔のパーツを持つモデルがいない場合は、ディープフェイクで思い通りに作り上げることができます。
また、この場合は著作権や肖像権なども回避できるといったメリットがあります。

ディープフェイク作成アプリ3選

最近ではカメラ機能を利用して簡単に顔を入れ替えたりできるディープフェイク作成アプリなども登場しています。ディープフェイクでの動画作成は、以前までハイスペックなコンピュータでないと作成不可能でしたが、技術の進歩でスマホでも簡単に作成できる身近な技術になっています。

１．Deepfakeswebβ
こちらのアプリは、カナダを拠点にした、クラウドベースのソフトウェアを提供しているDeepFakeWebが制作しています。動画と顔を入れ替えるための置き換える顔の動画をアップロードするだけで、オンラインでディープフェイク動画を作成できるアプリです。とても品質の高いディープフェイク動画を作成できるサービスとして世界中で人気です。

２．スマホアプリで簡単に作成できるXpressionーバーチャル乗っ取りフェイス
AIを用いて、動画の中の人の顔を乗っ取って、リアルタイムで動かすことができるアプリです。どんな動画や画像でも一枚用意するだけで、好きなセリフをしゃべらせて新しい動画が作れます。

３．クリスタルメソッドのアバター作成
クリスタルメソッドでは、数秒の録画と、数文章の録音で自分の外見、声を再現できるAIアバターツールを提供しています。
その他、つくったアバターで動画作成もできる「DeepAIMovie」では、自分が登場しなくても自分のアバターが動画に出てくれる忙しい人にはピッタリのサービスなどもあります。
クリスタルメソッドのYouTube動画は、全てアバターが配信しています。⇩

ご自身のアバターを作りたい方はこちらからお問い合わせください。

Twitter上で話題になったディープフェイクについて

テレビなどメディアで紹介されているディープフェイクについて、Twitterでも数年前から取り上げられ話題になっています。
「本物かどうか分からない」「これ、本人じゃなかったの！？騙された～」という話題から、「ゲームや映画の世界では革新的な技術革命」などのプラスな話題まで、ディープフェイクという新しい技術について、まだまだどのように捉えてよいのか戸惑う人も多いようです。

クリスタルメソッドでは、本人にそっくりなアバターを作成できるアプリを開発しています。
しゃべる言葉に合わせて顔の表情や声色が変化し、身体の動きもコピーします。
これにより、今の自分を永遠にのこしておきたいという願望が叶えることが可能になりました。

ルーカスフィルム、ディープフェイクYouTuberを採用

「#マンダロリアン」ルークの顔を調整した動画などで話題。#ディープフェイク技術が『#スター・ウォーズ』に活かされる？#スターウォーズ
— THE RIVER (@the_river_jp) July 27, 2021

Twitter上でも話題に上がるディープフェイクですが、メリットがある半面、当然デメリットもあります。
次では、ディープフェイクの問題点について解説します。

ディープフェイクの問題点

技術が進化し、本人と見分けがつかないディープフェイク動画が作られることで、悪用され大きな問題に発展するケースについても考えなければなりません。

ディープフェイク動画によるなりすまし

2018年にはアメリカの元大統領であるオバマ氏、2019年にFacebook・CEOのマーク・ザッカーバーグ氏がディープフェイクにより公開された動画が話題を集めました。

https://www.youtube.com/watch?v=cQ54GDm1eL0

後に、ディープフェイクで作成されたフェイク動画だったことがわかったのですが、あまりの巧妙さに信じてしまった方も多いのではないでしょうか？

今回は、この動画が拡散された直後にゼレンスキー大統領、自らこのフェイク動画を否定したため大きな問題にはなりませんでした。ですが、以上で説明したディープフェイク動画の拡散は今後も広がっていくと考えられます。

降伏の呼びかけをする、偽ゼレンスキー大統領のフェイク動画も話題を集めました。

この動画を実例としてディープフェイクの見破り方について解説してみました。
ディープフェイクの見破り方

このように、ディープフェイクで影響力のある著名人になりすまし、たった一言発した言葉に惑わされて、社会が混乱する事態が起こるのは容易に想像できるでしょう。

さらに「チープフェイク」と呼ばれる低精度のフェイク動画であれば個人でも作成できてしまいます。ディープフェイクと比較すると粗が目立ちますが、それでも素人目に見て瞬時に偽物だと判断するのは難しいでしょう。

ディープフェイクを利用したポルノのフェイク動画も増えています。女性のセレブ、有名人などが対象となり加工されています。
2017年にRedditで公開された有名女優の顔を合成したポルノ動画は、ディープフェイク技術の悪用例として広く知られています。
この動画は、人物の許可なく作成され、拡散されました。この事件をきっかけに、ディープフェイク技術が注目されるようになりました。

Sensityは、2019年7月にオンライン上で検出されたディープフェイク動画は14,678本だったと報告をしており、約96パーセントが女性のポルノ動画であったと報告しています。今後は一般人も巻き込まれると予想されており、多くの人に脅威がせまっています。

さらに、ディープフェイク動画や、ディープフェイクボイスによる音声を用いた、詐欺事件が発生しています。詐欺だと気づかずに登録してしまったり契約してしまうという事例が報告されています。ディープフェイクを用いた広告を用いて宣伝する手法もネット上などで見かけられています。
まずは正しい知識を持って、ディープフェイクに惑わされない目を養うことが重要です。

ディープフェイクをはじめとしたAI技術は想定外の結果を生んだり、誤った使われ方をされてしまい、現行法に違反してしまうことが多々あります。
AI技術の利用者は、自己規制を行うことで、悪意のある使用を防ぐことができます。また、AI技術を使用する際には、正確な情報と適切な教育が必要です。
個人で利用する場合も、学習用データの収集や共有が個人情報保護法や著作権法に抵触するおそれもあるなど、その使い方に責任を持たなければなりませんので注意が必要です。

さて危機感を煽ることになってしまいましたが、ではどのようにディープフェイクを見分ければよいのでしょうか？
以下のページで、ディープフェイクの見破り方について解説しておりますので、是非ご覧ください。

ディープフェイクの見破り方

ブロックチェーンとディープフェイク

ディープフェイク対策として活用されるブロックチェーン技術について説明します。
ネットワーク上で自身が持つパスワードを入力した際、そのパスワードをそのままサーバーに保存しておくのはセキュリティの関係上あまり好ましくなく、一般的にパスワードを非公開の数式によって暗号化（ハッシュ化）します。この暗号（ハッシュ値）はパスワードを一文字でも変更すれば、全く別のものに変わってしまいます

ブロックチェーン技術はこの時作成されたハッシュ値をブロック状の記録の塊に保存し、それぞれのブロックをチェーンのようにつなげていくことで、正確にネットワーク上での一連のやり取りを記録することを可能にしています。ブロックチェーンは、はじめに作成されたハッシュ値を保持し続ける上、ハッシュ値の改ざんは非常に困難なので、仮にデータを改ざんしようとしてもすぐに検出することができます。

これはディープフェイク対策にも有効です。例えば、今すでに存在する動画を用いて、ディープフェイク動画を作成しようとした場合、ハッシュ値は全く別のものに置き換わるので動画に何か変更を加えたことが一瞬でわかるのです。
ブロックチェーンはありとあらゆるデマ情報を判別できるわけではありませんが、新技術の悪用に対する一つの解決策になるかもしれません。

ディープフェイクの今後

これまではディープフェイクを作るには高価な機材と高性能なコンピュータなどが必要で、映画業界や会社規模でしか作成できませんでした。
しかし、技術の進化により簡単に作成できるようになり、今では無料のツールが出たり、ディープフェイク動画を作成できるアプリが登場したりと、一般人にも馴染みのあるものになりました

カメラ機能の向上もあり、お互いの顔を交換した写真をSNS上にアップロードしたり、理想の顔になれるアプリで楽しむ若者も目立ちます。
さらに、このご時世でオンライン化が進み、ZOOMなどでカメラ越しに会話する場面が増えました。
オンライン授業、オンラインミーティングなどが当たり前になる一方で、カメラの向こうにいる相手が本当に本人なのか、考えると恐ろしくなります。

悪い面が目立ってニュースになりがちですが、一方でディープフェイクの良い面もたくさんあります。
映像作品では、故人を登場させたり、CGとディープフェイクを駆使することで役者に危険をさらすことなく派手なアクションシーンが制作できます。
ゲームなどでは、自身の顔を取り込みキャラクターに再現することで、より世界観に没頭できます。
アパレルのオンラインショッピングや美容室などは直接足を運ばなくても、自身に近いバーチャルモデルを作成することで着用した際のイメージが湧きますし、バーチャルアイドルなどもより自然な動きに近づいていくでしょう。
ますますAIの発展・進化に伴い、ディープフェイクは、私たちの娯楽をより豊かにし、生活になくてはならないものになるでしょう。

生活をより豊かにするために

ここまでディープフェイクの現状やメリット・デメリット、今後について解説してきました。
映像作品においてはディープフェイクは必須になりつつありますし、今後オンラインが主流になれば私たちの生活にも一層馴染み深いものになっていくでしょう。
しかし、高精度がゆえに悪用される危険性があることを忘れてはいけません。今はディープフェイクを見破る技術も開発されていますが、個人個人が正しい知識と理解を持って有意義に使っていきたいものです。

AIの法と倫理のルール化

法律への侵害、倫理、社会受容性の観点の問題から国内外で、AIへの規制が増えてきています。

AIビジネスを始めようとする、大企業とスタートアップともに、ステークホルダー、法律の無視より、非難を受け、ビジネスが止まるという事例が相次いできています。

2018年10月24日には、国立国際臨床医療研究センターのAIプログラムは、糖尿病リスク予想ツールを作成し、公開したところ、厚生労働省より、プログラム医療機器に当たるとして、翌日には公開停止となりました。（現在は再公開されています。）

顔認証システムについても問題が起こっています。
2017年5月には、米国でサウスウェールズ警察による顔認証システムに対して、市民自由活動が提訴を行い、AI利用停止となっています。

このように幅広いステークホルダーの調査がビジネスを継続するには必要不可欠となってきています。AIは現行法に違反しやすく、米欧では、AIの法と倫理のルール化に着手が進んでいます。
それに従い、信頼できるAIのための倫理ガイド、社内体制を整える企業が増えてきています。

2021年には、バイデン大統領が、AIルールが必要と宣言をし、2021年4月21日、AI規則案として、EU全体に直接適用法則が公表されました。AI規則案では、明確な人権侵害を行うAIは禁止するとしていて、規則を守らないと制裁金が課されるとされています。一方ディープフェイクはローリスクであると考えられていて、弱い規則が適用されるとされています。

国内外で、AIビジネスを行う上で問題が上がっています。2つの例を挙げてお話します。

◆VIP接客における顔認証

1つ目にVIP接客事例に関するお話です。AIによる顔認証により、金融業界と旅館業界でVIPに対して優遇した接客を行うものです。顧客の個人情報をVIPに使うことに対する本人同意がなく、個人情報保護法との兼ね合いが問題となります。

一般顧客からの同意を得づらく、倫理、社会受容性の視点からは、重要顧客の個人情報が割れる恐れがあり、犯罪を誘発するのではないかという問題も考えられます。銀行でのリスクは高く導入は困難と予想されます。

◆介護施設における生体認証機能カメラ

2つ目に介護施設における生体認証機能カメラについてのお話です。被介護者の保護と介護者の効率及び負担を軽減する目的を持ちます。

プライバシー及び、高齢者への心理的、性的虐待へ該当するかどうかが問題となります。撮影箇所と方法を限定し、利用者、家族へ事前に相談しておくこと、同意しない人、すべての恥部が映り込まないことが大切となります。これは技術的解決を施すことによって可能となっています。

時には規制緩和が必要となってきますが、国際ビジネスをするには、海外の法律、倫理を守ることが重要であり、リテラシーを持つことが重要となってきています。

クリスタルメソッドの技術「DeepAICopy」

弊社では、法と倫理に配慮しながら、アバターがカメラに写る人の動きを追従して同じ動きをするフェイストラッキングというシステムを開発しましました。

また、弊社では、個人の見た目・声　趣味、思考、知識、自己認識などをAIにインストールするDeep AI Copyというサービスを開発しております。Deep AI Copyについて動画も交えてご紹介します。

以下の動画、1つは本物で1つは弊社が開発したDeep AI Copyによるアバターです。

どちらが本物か分かりますか？
正解は…右の動画が、本人による動画で、左の動画が本人のデータをもとに作成したAIアバターです。
精巧なコピーを作成できていることを分かって頂けたのではないでしょうか。
こちらの2本の動画はどちらもAIコピーの動画ですが、ご覧いただける様に、身体の動きを交えた動画を生成することができるようになりました。これによってできることの幅が一気に広がりました。

このような技術によって期待できることは、聴覚障害を持つ方に対しての手話の対応、
指を指示しながら喋る動画の生成(天気予報や授業風景など)といったことも可能になります。

そして、このAIアバターは、誰でも作成することが可能です。

・今のわたしの姿と声で、永久にメッセージを残したい。
・毎日忙しくて自分が撮影に参加できない。（YouTube動画などに適応可能です。）
・自分の代わりに、アバターに会議に出席してほしい。
などなど、あなたの代わりにあなたのアバターがインターネット上で活躍します。

弊社のアバターの作成やAIサービスに関心をお持ちいただけましたら、お問い合わせフォームからお気軽にご連絡ください。

ディープフェイクとDX

最近DX化という言葉を聞くことが増えてきたのではないでしょうか。DXとはデジタルトランスフォーメーションとも呼ばれます。DXは、デジタルテクノロジーを用いて、経営やビジネスプロセスの再構築を行い、今後の社会で生き残ろうとするものです。ディープフェイクはここまで紹介したように、既に現代社会で使われている技術となっています。ディープフェイク技術はDX化を促進する一つの技術となりうるのは間違いないでしょう。

DXについて詳しく知りたい方はこちらをご覧ください。
>> DXとは？定義や意味を解説！

クリスタルメソッドでの対策

一定のAIと呼ばれるチャットボットやFAQシステムなどの技術はローリスクですが、反対にハイリスクとなるAIは、産業機械、医療機器、教育や雇用など社会や人間の身体に影響を及ぼす可能性のあるAIです。

欧米ではAIに関する新たな法律や規則の整備が進められていますが、最近では日本もこの影響を受けつつあります。
幅広い分野の業種が、従来なかった法規則の対象となり得るでしょう。
日本の企業ではAIビジネスについての様々な法的・倫理的な危険性にまで意識が回らないことがあり、こうした新たな規則に対する認識が曖昧になったまま、ビジネスが進んでしまうケースがあります。

そうした事情も踏まえて、弊社は日本国内の法制化の動向だけではなく欧米の動きや倫理についても考慮しながら、技術開発を進めています。

本ディープフェイクの記事を最後までお読み頂き、ありがとうございました。
ディープフェイクとは？という疑問に答えることができていれば幸いです。

【関連】

・【newszero】弊社の代表がディープフェイクについて日テレNEWSにてコメントしました
・ディープフェイクの見破り方
・ディープフェイクについて、取材を受けました。

またよろしければ弊社SNSもご覧ください！
クリスタルメソッド公式note：https://note.com/crystalmethod/
X：https://x.com/YCrystalmethod
YouTube：https://www.youtube.com/@haltalktube
TikTok：https://www.tiktok.com/@crystalmethod.jp