AIフェイクニュースとは？偽動画・偽情報の実例と見分け方・対策

AIフェイクニュースとは

AIフェイクニュースとは、生成AIを使って作られた偽の動画・音声・文章が、あたかも本物のニュースや発言であるかのように拡散される現象を指します。従来の「加工写真」や「切り取り報道」と異なり、生成AIは実在の人物が言っていない言葉を、本人そっくりの映像・音声で作り出せるため、真偽の判断が格段に難しくなっています。SNSを通じて短時間で拡散すると、個人の名誉毀損から、企業の信用失墜、社会的な混乱まで大きな被害につながりかねません。

ディープフェイクとは（仕組み・悪用リスク・見分け方） は各正本で詳しく解説しています。本記事はAIフェイクニュース（偽情報）の見分け方と企業・個人の対策に特化します。

AIはどのように偽動画・偽情報を作るのか

AIによる偽情報は、おもに次の技術の組み合わせで作られます。いずれも本来は有用な技術であり、悪用が問題となる点に注意が必要です。

• ディープフェイク（顔・映像の合成）：実在の人物の顔や表情を別の映像に合成します。仕組みは ディープフェイクとは で解説しています。
• 音声合成・ボイスクローン：数十秒の音声から本人そっくりの声を再現し、話していない内容を喋らせます。
• 生成AIによる文章：それらしいニュース記事やコメントを自動生成し、偽動画に説得力を持たせます。
• AI生成画像：存在しない出来事の「証拠写真」を作り出します。画像の見分け方は AI生成画像の見分け方 をご覧ください。

AIフェイクニュース・偽動画の見分け方

完全に見抜くことは年々難しくなっていますが、次のチェックポイントは有効です。

• 出所（一次ソース）を確認する：公式サイト・公式アカウント・報道機関の原典に当たる。発信元が不明な動画は疑う。
• 不自然な点を探す：口元と音声のズレ、まばたきや輪郭の乱れ、照明や影の不整合、抑揚のない音声など。
• 他の信頼できる媒体で裏を取る：本当に重大な発言なら、複数の信頼できるメディアが報じているはず。1か所だけの情報は保留する。
• 拡散を煽る内容ほど慎重に：強い怒りや不安をかき立てる動画は、拡散を狙った偽情報の可能性を疑う。

個人・企業ができる対策

個人は「すぐに信じない・すぐに拡散しない」を徹底し、一次ソースの確認を習慣づけることが最大の防御になります。企業は、自社の経営者や商品を騙る偽動画への備えとして、(1) 公式発信チャネルの明確化、(2) 偽情報を発見した際の通報・訂正フロー、(3) 社内のメディアリテラシー教育、を整えておくことが重要です。なりすまし被害は早期発見・早期対応が被害を最小化します。

実例：AI技術がテレビ番組でフェイクニュースの危険性を実演

ここからは、当社クリスタルメソッドが開発したAI技術が、実際にテレビ番組で「AIによるフェイクニュースがどれほどリアルになり得るか」を伝える題材として使われた事例を紹介します。技術がここまで進んでいることを知ること自体が、偽情報に備える第一歩になります。

先日インフォーメーションの方でお知らせさせて頂いた通り、弊社で開発を行ったAI技術・Deep AI Copyが、日本テレビ「教科書で学べない 今そこにある危機」に取り上げられました！

番組では、Deep AI Copyで作成された、平成ノブシコブシ・吉村崇さんのAIがお弁当泥棒の犯行動画(フェイクニュース)に使われている様子、MC櫻井翔さん、広瀬すずさんとのQ&Aが放送されました。

▼ 番組で取り上げられたシーン

動画プレーヤー

00:00

02:37

〜Q&Aの内容〜

櫻井(敬称略) Q:「自己紹介をお願いします」
ＡＩ吉村(敬称略)  A:「私の名前は、吉村崇です。職業はお笑い芸人のＡＩです」

櫻井)  Ｑ:「あなたの夢はなんですか？」
ＡＩ吉村)  A:「世界一の芸人になることです」

櫻井) Ｑ:「お弁当を盗んだのはあなたですね！」
ＡＩ吉村) A:「いやー、ばれちゃいましたか！まさかカメラがあるとは思いませんでしたでも櫻井さんだったら、お弁当の１つや２つで怒る人じゃないですよね？あはははは！」

広瀬) Ｑ:「好きなドラマは何ですか？」
ＡＩ吉村)  A:「櫻井さん演じるポンコツ探偵と天才過ぎる助手を広瀬すずさんが演じる「ネメシス」です。極上のミステリーエンターテイメントに仕上がっています。ぜひご覧下さい！そこにいる吉村より使えるでしょ！あはははは」

〜以上、番組内容より抜粋〜

いかがだったでしょうか？
こちらの番組を通して少しでも、自社のAI技術・Deep AI Copyについて伝わったのなら幸いです！

弊社のDeepAICopy技術についての詳細をご希望の方、ご利用になりたい方は、こちらのフォームに必要事項をご記入の上お問い合わせください。

またよろしければ弊社SNSもご覧ください！
Twitter https://twitter.com/crystal_hal3
Facebook https://www.facebook.com/クリスタルメソッド株式会社-100971778872865/