AIを使ったサイバー攻撃とは？手口・事例・企業の防ぎ方を解説

結論：AIを使ったサイバー攻撃とは、攻撃者がAIで文面づくり・プログラム作成・脆弱性の探索・攻撃の実行を効率化する攻撃の総称です。新しい攻撃の種類ではなく、既存の攻撃が速く・大量に・低いハードルで行えるようになりました。企業の備えは、脆弱性の修正や権限の見直しといった基本の徹底と、見つけて止めるまでの時間を縮めることです。

AIを使ったサイバー攻撃とは？何が変わったのか

AIを使ったサイバー攻撃とは、攻撃者が生成AIや機械学習の仕組みを、攻撃の準備・実行のどこかに使う攻撃の総称です。攻撃の種類が新しく生まれたというより、これまで人手と時間が必要だった作業（文面づくり、プログラムの作成、弱点の探索）をAIが肩代わりして、攻撃が速く・安く・大量に行えるようになった点が変化の中心です。

この変化は公的機関も重く見ています。IPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」では、組織向けの脅威の3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました（2026年1月29日公開）。同年の解説書は、生成AIをサイバー攻撃のアシスタントとして使うことで、対処しなければならないインシデントの頻度や数量が増え、平均的な攻撃の技術水準が高まっていると述べています（出典：IPA「情報セキュリティ10大脅威 2026」解説書［組織編］、確認日 2026年11月2日）。

一方で、AIを使えば何でも自動で突破できるわけではありません。次の節で、AIがどの作業を肩代わりしているのかを手口ごとに整理します。

従来型の攻撃とAIを使った攻撃の違い（整理）

観点	従来型	AIを使った攻撃
文面・翻訳	不自然な日本語で見分けられることが多い	母国語で違和感のない文面を短時間で量産できる
プログラムの作成	専門知識と時間が必要	専門知識が乏しくても、AIの支援で試作できる
弱点の探索	人が手作業やツールで順に調べる	探索や試行の自動化で、対象数と速度が増える
攻撃の実行	工程ごとに人が判断する	工程の大半をAIが進め、人は要所で判断する例がある
守る側の前提	パターンや見た目の違和感で気づける場面がある	見た目では判別しにくく、修正の速さと検知の速さが問われる

このほかにどのような被害が起きているかは、日本・世界の主な被害一覧で説明しています。

関連記事AIによる情報漏洩とは？原因・事例は？

AIを使ったサイバー攻撃の手口の種類

一次情報で確認できる範囲で、AIが使われる主な場面を整理します。「確認できる根拠」の欄は、本稿で実際に読んだ公的機関・企業の公表資料に限っています。

①下調べ標的・弱点の探索アプリの解析 ②道具づくり文面・翻訳の作成プログラムの作成 ③侵入・実行攻撃の試行侵入後の作業 ④窃取・脅迫データの持ち出し公開・金銭要求 青色の①〜③でAIの利用が公表されています（灰色の④は本稿では確認していません）

AIを使ったサイバー攻撃の主な手口と確認できる根拠

手口	AIが肩代わりする作業	確認できる根拠
フィッシング・なりすまし文面の生成	標的の母国語で違和感のない文面や翻訳を作る	IPA解説書：翻訳能力の向上で多言語での攻撃が格段に容易になると指摘
マルウェア作成の支援	プログラムの設計・コード作成	警視庁によるランサムウェア作成での逮捕（2024年5月）、中高生3人の逮捕（2025年2月）
脆弱性探索・API攻撃の自動化	既知の脆弱性の探索、アプリ解析、攻撃の試行	JPCERT/CCの注意喚起：AIを用いた攻撃基盤による攻撃試行を確認
AIエージェントによる攻撃の実行	偵察から侵入後の作業まで、一連の工程を自律的に進める	Anthropicの報告（2025年11月13日）：作業の80〜90%をAIが実行
ディープフェイクによるなりすまし（ビジネスメール詐欺の発展形）	音声・映像・画像の偽造	香港のArup社が約2,560万米ドルをだまし取られた事例（CNN報道）。CrowdStrikeも、送金やパスワード変更の指示に使われる手口として挙げています
AIそのものを狙う攻撃	（攻撃の対象がAI）学習データの汚染、入力の細工、不正な指示文の注入など	IPA解説書：2025年6月にMicrosoft 365 Copilotの脆弱性「EchoLeak」が報じられた。CrowdStrikeはポイズニング・回避・モデル改ざんの3種を整理

このうち、メールの文面や電話・動画のなりすましで人をだます手口は、AIで守る側の対策も含めてフィッシングとAI対策の記事で、映像や音声の偽造はディープフェイクの解説で扱っています。AIの弱点を突く攻撃は、プロンプトインジェクションの仕組みと企業の対策が各論になります。

ビジネスメール詐欺とニセ社長詐欺：なりすましの送金詐欺

経営者や取引先になりすまして送金させる詐欺は、ビジネスメール詐欺（BEC）として知られ、IPAの10大脅威 2026では組織向けの10位に入っています。警察庁の令和8年上半期の資料は、2026年1月ごろから、実在する社長名や会社名を使ったメールで業務を装い、SNSのグループ作成を指示してから、事業資金が至急必要だとして指定口座へ送金させる「ニセ社長詐欺」が発生していると説明しています。2026年1月から6月までの認知件数は127件、被害額は約38億8,000万円、既遂1件あたりの被害額は約3,100万円でした。同資料は、この種の事案の社内共有、送金ルールの再確認、SNSグループへの誘導への注意を対策に挙げています（出典：警察庁、確認日 2026年11月2日）。この資料にAIの関与は書かれていませんが、文面の自然さを高めるAIが加わると、見分けるための手がかりはさらに減ります。映像や音声を偽造して送金させた例は、次の節で取り上げるArupの事例のとおりです。

公的機関・一次情報で確認されているAIサイバー攻撃の事例

ここでは、公的機関や当事者の公式発表で確認できた事例だけを挙げます。被害の一覧や個別企業の事件は、AIハッキングによる情報漏洩の被害一覧で時系列に追えます。

警察庁が公表した生成AI悪用の事案（令和7年）

警察庁の「令和7年におけるサイバー空間をめぐる脅威の情勢等について」は、AIをめぐる脅威を特集で取り上げています。同資料に載っている事案を整理します（出典：警察庁、確認日 2026年11月2日）。

警察庁の資料に載っている生成AI悪用の主な事案

時期	事案	AIの使われ方
2025年7月（海外）	政府職員を装い、政府機関宛てのメールにマルウェアを添付	マルウェア本体には攻撃の命令がなく、感染した端末が使う生成AIサービスを悪用して不正な命令を生成する
2025年6月逮捕（大阪）	大手ECサイトを装ったフィッシングサイトの公開	サイトを作る際に、生成AIを悪用して改修していた
2025年12月逮捕（警視庁）	17歳の高校生が複合カフェのアプリのサーバに約724万件の不正な指令を送り、会員情報を漏えいさせて業務を妨害	生成AIを悪用して不正プログラムを作成
国際共同捜査	日本人を標的にしたサポート詐欺	標的の特定、ポップアップの生成、日本語への翻訳に生成AIを悪用

同資料は、AIを悪用すると専門知識のない者でも攻撃に使える情報に触れやすくなると考えられるとし、国家を背景とするグループがAIで人間の介入なしに攻撃を実施したという民間企業の報告に触れて、AIエージェントが攻撃の全工程をほぼ自律的に実行できることを示す例だと位置づけています。

統計で見る攻撃の増え方：警察庁とCrowdStrike

AIの関与まで切り分けた公的統計は、本稿で確認した範囲では見つかりませんでした。攻撃全体の動きとして、次の数値が公表されています。

公表されている攻撃の統計（AIの関与を区別したものではありません）

数値	内容	出典
1日・1IPアドレスあたり1万3,687件（前年比50.7%増）	2026年上半期に、警察庁のセンサーが検知した脆弱性探索行為等の不審なアクセス。大部分が海外発	警察庁「令和8年上半期におけるサイバー空間をめぐる脅威の情勢等について」
226件／123件	ランサムウェアの被害報告件数。令和7年は226件、令和8年上半期は123件で、半期としては統計開始（令和2年下半期）以降で最多	警察庁（令和7年版、令和8年上半期版）
平均29分	2025年の攻撃で、最初の侵入から他の機器へ広がるまでの平均時間（eCrime）。最短は27秒	CrowdStrike「2026 Global Threat Report」
82%	2025年の検知のうちマルウェアを使わないものの割合	CrowdStrike「2026 Global Threat Report」
89%増	AIを使う攻撃者による攻撃の増加（同社の集計）	CrowdStrike「2026 Global Threat Report」

「マルウェアを使わない攻撃」は、盗んだ認証情報で正規のログインをする、正規の管理ツールを悪用するなど、ファイルの検査では見つけにくい攻撃を指します。この割合が高いことは、パターンを照合するだけの対策では足りず、普段と違う振る舞いを見つける検知が必要になる理由の一つです。侵入から広がるまでが平均29分という速さは、人が気づいてから動く運用では間に合わない場面があることも示しています。ただし、CrowdStrikeの数値は同社の観測に基づくもので、日本国内に限った数字ではありません（出典：CrowdStrike公式サイト、確認日 2026年11月2日）。

生成AIでランサムウェアを作った男性の逮捕（日本・2024年）

2024年5月27日、警視庁は川崎市の男性を不正指令電磁的記録作成の容疑で逮捕しました。複数の生成AIサービスを使い、ファイルを暗号化して暗号資産を要求する機能を持つランサムウェアのソースコードを作ったとされます。生成AIを使ったマルウェア作成での摘発は国内初の事例と位置づけられています。同じ記事によると、2024年10月25日に懲役3年・執行猶予4年の判決が報じられています（出典：トレンドマイクロ「生成AIでランサムウェアを作成した容疑者の摘発事例を考察」、確認日 2026年11月2日）。

この事例で重要なのは、専門的な知識が乏しくても、AIの助けでマルウェアに近いものが作れてしまう点です。IPAの解説書にも、2025年2月に、不正に入手したIDとパスワードを機械的に入力して携帯電話の回線契約まで行うプログラムを、生成AIを補助的に使って自作した中高生3人が逮捕された事例が載っています。

AIが攻撃の大半を実行した事例（Anthropicの報告・2025年）

Anthropicは2025年11月13日、同年9月中旬に検知した、AIが主導するサイバースパイ活動を公表しました。同社の評価では、中国の国家支援型グループの可能性が高いとされています。標的は大手テクノロジー企業、金融機関、化学製造企業、政府機関など世界の約30組織で、少数の組織への侵入に成功したと説明されています。キャンペーン全体の80〜90%をAIが実行し、人間の判断が必要だった場面は1回のキャンペーンあたり4〜6回程度だったとされています。

同じ報告は、AIが認証情報をでっち上げたり、公開情報を秘密情報のように示したりすることがあり、完全な自律攻撃の妨げになっているとも述べています（出典：Anthropic「Disrupting the first reported AI-orchestrated cyber espionage campaign」、確認日 2026年11月2日）。AIが万能の攻撃者になったのではなく、人間の作業の大半を代わりに行える段階に入った、という理解が実態に近いといえます。

ディープフェイクのビデオ会議で送金させた事例（Arup・香港）

英国の設計・エンジニアリング企業Arupの香港の財務担当者は、最高財務責任者（CFO）など同僚の姿と声を再現したビデオ会議に参加し、指示に従って送金しました。香港警察の発表を受けたCNNの報道では、被害は2億香港ドル（約2,560万米ドル）で、15回に分けて送金されたとされています。会議の参加者は全員がディープフェイクで作られた偽物でした。Arupの広報は、偽の声と映像が使われたことを確認し、同社の財務や社内システムには影響がないと説明しています（出典：CNN、2024年5月16日付［ABC17による転載］、確認日 2026年11月2日）。メールを疑っていた担当者が、顔と声の見慣れた会議で疑いを解いた点が、この手口の怖さです。

国内で相次ぐ不正アクセスとAIを用いた攻撃基盤（JPCERT/CC・2026年）

JPCERT/CCは2026年10月8日（10月23日更新）の注意喚起で、2026年9月前後から国内組織への不正アクセスによる個人情報などの漏えいが相次いでいると発表しました。一般向けアプリだけでなく、BIツールや従業員向けの管理システムなど、不特定多数の利用を想定しないシステムも被害に遭っています。更新分では、CairnやCyberStrikeAI、ARTEXといったAIを用いたペネトレーションテスト基盤が悪用された攻撃の試行も確認されたと記載されています。攻撃は主にインターネットに公開されたWebアプリケーションを対象に、脆弱性の探索や設定ファイル・バックアップファイルの窃取を試みるものでした（出典：JPCERT-AT-2026-0030、確認日 2026年11月2日）。

さらに2026年10月15日のJPCERT/CCのブログ記事では、調査の過程で、攻撃者がAIを利用して既知の脆弱性のスキャンやAPI経由の攻撃を行っていたことを確認したとしています。AIの具体的な使われ方や自動化の仕組みまでは、記事中では示されていません（出典：JPCERT/CC「連続不正アクセス事案の攻撃手法に関する調査」、確認日 2026年11月2日）。

国内の事案：GMO不正アクセスと脅迫型攻撃

2026年10月に起きたGMOインターネットグループへの不正アクセスは、盗んだ個人情報を公開して脅す手口の実例です。この事案でAIが使われたかどうかは、本稿で確認した報道には書かれていません。被害を受けた方々のプライバシーに配慮しつつ、報じられている事実を整理します。攻撃者は顧客の個人情報を窃取・公開するサイトを設置しました。総務省は2026年10月27日付で業界団体を通じて通信事業者にそのサイトへの接続遮断（ブロッキング）を要請し（日本経済新聞）、GMOは翌28日に攻撃者サイトおよびミラーサイトの表示停止・ドメイン停止を確認したと発表しました。総務相は詳細について「回答を控える」と述べるにとどめました（日本経済新聞）。

ブロッキングは全ネットユーザーの通信の把握を前提とするため、憲法の「通信の秘密」に抵触する恐れがあります。今回は事案の重大性を考慮した判断とみられますが（日本経済新聞）、こうした後処理に頼らず、侵入・窃取・公開という連鎖を上流で断つ仕組みが求められています。

脅迫型サイバー攻撃が見落とされる3つの段階

「窃取→公開脅迫」型の攻撃は、ランサムウェアと同様の恐喝ロジックを持ちます。侵入から脅迫サイト設置まで、攻撃は複数の段階を経て進行し、それぞれの段階に検知の手薄になりやすい固有の課題があります。

侵入・潜伏段階：認証情報の悪用や脆弱性を突いた侵入は、ログ上では正規操作と見分けがつきにくく、発見の遅れが被害拡大の主因になります。

窃取・流出段階：大量データの外部転送は通常のトラフィックと異なるパターンを示すはずですが、監視ルールが手薄な環境では見過ごされます。

公開・脅迫段階：ここまで至ると技術的な防御の余地は狭く、法的対応と情報開示の判断が中心になります。GMOの事案での総務省によるブロッキング要請は、この段階の後処理です。

国・金融当局の対応：Project YATA-Shield、金融庁・日本銀行の要請、サイバー対処能力強化法

AIが脆弱性を見つける速さが上がったことを受けて、日本政府と金融当局も2026年5月に動きました。

2026年の主な対応の時系列

時期	主体	内容
3月27日	IPA	中小企業の情報セキュリティ対策ガイドライン第4.0版を公開
5月18日	政府	Project YATA-Shieldを取りまとめ
5月22日	金融庁・日本銀行	金融機関へ短期的な対応9項目を要請
10月1日	政府	サイバー対処能力強化法が施行

政府は2026年5月18日、AIの高度化を踏まえたサイバーセキュリティ対策のパッケージ「Project YATA-Shield」を取りまとめました。背景には、Anthropicが2026年4月に公表した「Claude Mythos Preview」のように、ソフトウェアの脆弱性を見つける能力が高いAIが攻撃者に悪用されると、攻撃の速度と規模が大きく増すおそれがあるという認識があります。重要インフラ事業者には、経営層の主導で基本的な対策を徹底し、短期間に多数の脆弱性が見つかる状況を想定した運用体制を整えることが、ソフトウェアの開発事業者には、AIを活用して脆弱性を早く見つけて直すことが求められています（出典：＠IT「Project YATA-Shield」報道、2026年5月20日、確認日 2026年11月2日）。

金融庁と日本銀行は2026年5月22日、金融機関に対し、フロンティアAIによる脅威の変化を踏まえた短期的な対応として次の9項目を要請しました（出典：ITmedia NEWS、2026年5月25日、確認日 2026年11月2日）。

金融庁・日本銀行が要請した9項目の整理

区分	要請の内容（項目番号）
体制をつくる	経営トップが主導して部門横断の体制をつくる（1）／増える脆弱性に備え、実施計画と人員を見直す（4）／ベンダーとの保守契約に、夜間・休日を含めた適時のパッチ適用が含まれるかを確認する（5）／金融ISACや業界団体、当局の情報を集め、自組織の取り組みも共有する（9）
優先順位をつける	外部公開システムを最優先に、リスクの高い領域から対応する（2）／不要なポートの閉鎖、特権IDの削除、未適用パッチの適用などで技術的負債を解消する（3）／CVSSスコアが低くても、実際に攻撃される可能性があればパッチ適用の優先度を上げる（6）
パッチ以外で守る・止める	仮想パッチ、ネットワーク分離、特権IDへの多要素認証などで防御を強化する（7）／システム停止を想定し、サービスを能動的に止める判断基準と手順を明確にする（8）

対象は金融機関ですが、内容は「公開システムの優先対応」「パッチの迅速な適用」「止める判断の事前の取り決め」という、どの業種にも当てはまる基本です。

法制度も動いています。サイバー対処能力強化法（能動的サイバー防御）は2026年10月1日に施行され、重要インフラ事業者など「重要電子計算機」を導入する事業者には、導入した製品の名称などの届出が求められます。政府が攻撃の兆候を確認して通知した場合は、通知から30日以内に被害の概要や対応状況を報告する必要があり、違反には罰則（200万円以下の罰金など）が設けられています。政府側は、攻撃に使われるサーバーにアクセスして悪用される機能を無効化する措置をとれるようになります。企業に反撃の権利が与えられるものではなく、攻撃者が別の機器を使う可能性もあるため、企業側の対策は続ける必要があります（出典：＠IT、2026年10月3日、確認日 2026年11月2日）。

対象が重要インフラ事業者に限られる法制度とは別に、中小企業向けにはIPAが「中小企業の情報セキュリティ対策ガイドライン」第4.0版（2026年3月27日公開）を出しています。「バックアップを取ろう！」を加えて情報セキュリティ5か条を6か条にし、サプライチェーン強化に向けたセキュリティ対策評価制度（SCS評価制度）の考え方を取り入れた改訂です（出典：IPA、確認日 2026年11月2日）。AIに特化した内容ではありませんが、AIを使った攻撃にも効く基本対策の土台になります。

AIの使い方をめぐるリスク：シャドーAIとAIそのものを狙う攻撃

「AIを使った攻撃」のほかに、自社がAIを使うこと自体が入口になるリスクもあります。IPAの「情報セキュリティ10大脅威 2026」解説書は、組織向け3位の「AIの利用をめぐるサイバーリスク」として、次の2つを挙げています（確認日 2026年11月2日）。

AIの使い方をめぐる2つのリスク

リスク	何が起きるか	確認できる根拠
シャドーAI	業務データが、組織の管理外のAIサービスに入力される	IPA解説書：入力する利用者の77%、うち82%が管理外のアカウント
AIの脆弱性・不正な指示文	AIが不適切に動き、社内の秘密データが流出するおそれ	IPA解説書：EchoLeak（2025年6月に報道）
モデルを狙う攻撃	学習データの汚染、入力の細工、モデルの改ざん	CrowdStrikeの整理（ポイズニング・回避・モデルの改ざん）

シャドーAI：職場がAIサービスを用意していないときに、従業員が個人で使っているAIを業務に持ち込み、組織外への持ち出しが禁止されている業務データを入力して情報漏えいにつながる危険です。解説書は、米国のAI企業の調査として、業務でデータをコピー＆ペーストしてプロンプトに入力している利用者が77％おり、そのうち82％が組織に管理されていないアカウントによるものだったと紹介しています。社内での生成AIの扱い方は、AIによる情報漏洩の原因と事例で整理しています。

AIの脆弱性を狙う攻撃：解説書は、2025年6月にMicrosoft 365 Copilotの脆弱性「EchoLeak」が報じられた例を挙げています。不正な指示文（プロンプト）が外部から注入されると、AIが不適切に動き、Copilotにアクセスを許可した社内の秘密データが流出するおそれがあったとされています。CrowdStrikeはAIそのものを狙う攻撃として、学習データに偽の情報を混ぜてモデルの精度を損なう「ポイズニング攻撃」、入力に細工をして誤った分類をさせる「回避攻撃」、学習済みモデルを不正に改ざんする「モデルの改ざん」の3種類を挙げています（出典：CrowdStrike「AIを活用したサイバー攻撃」、確認日 2026年11月2日）。不正な指示文を注入する仕組みはプロンプトインジェクションの問題として知られています。

AIを使ったサイバー攻撃への防ぎ方の基本

AIを使った攻撃は、速度と量が増えても、入口になる弱点はこれまでの攻撃と同じです。JPCERT/CCが一連の不正アクセスについて示した対策も、AI特有のものではなく、基本の徹底が中心でした（出典：JPCERT-AT-2026-0030、確認日 2026年11月2日）。

AIを使った攻撃への基本の防ぎ方

対策	内容
既知の脆弱性を放置しない	AIを使えば既知の脆弱性の探索は短時間で大量に行えます。影響を受けるバージョンを使っているなら、修正プログラムを適用します。製品の脆弱性が自社に関係するか分からないときは、脆弱性の監視サービスで、使っている製品に関わる情報の見落としを減らす方法もあります。
APIとアプリの作りを見直す	アプリに認証用の秘密鍵や有効期間の長い認証情報を埋め込まず、サーバー側で利用者の認証と操作ごとの認可を行います。ログインやパスワードリセットなど悪用されやすい機能には、リクエスト数の制限を設けます（出典：JPCERT/CC「連続不正アクセス事案の攻撃手法に関する調査」）。
不要な公開をやめ、権限を絞る	外部の利用を想定しない管理画面やBIツールがインターネットに公開されていないかを点検し、APIトークンには最小限の権限と有効期限を与えます。
侵入されても広がらない設計にする	認証の突破を狙う手口はブルートフォース攻撃や多要素認証の突破、機器の弱点を突くVPNの脆弱性悪用が代表的で、侵入後は横展開（ラテラルムーブメント）で被害が広がります。委託先経由の侵入はサプライチェーン攻撃、サービスの停止を狙うものはDDoS攻撃、従業員による漏えいは内部不正の対策がそれぞれ別に必要です。
検知体制と初動を決めておく	不正アクセスの検知と、検知したときの初動対応を点検します。漏えいを想定して、顧客への二次被害防止の呼びかけ（多要素認証の推奨など）を平時から準備しておくことも、JPCERT/CCは求めています。

攻撃側がAIで速くなった分、見つけて止めるまでの時間を縮める必要があります。そのために守る側でもAIを使う方法を、次の節で整理します。

AIで守る側：未然防止・早期発見・被害局限の3層

守る側のAI活用：3層の整理

層	目的	代表的な技術
未然に防ぐ	認証の異常や権限の不正利用を早く見つける	UEBA、特権アカウント管理（PAM）
早く見つける	大量データの持ち出しなど通信の異常を捉える	NDR、DLP
被害を小さくする	検知後の隔離・遮断・通知を速める	SOAR

未然に防ぐ：認証異常とアクセス権限の自動監視

機械学習ベースのUEBA（User and Entity Behavior Analytics）は、ユーザーごとの通常の行動パターンを学習し、深夜の大量ダウンロード・普段アクセスしない領域への頻繁なアクセス・複数拠点からの同時ログインなどの逸脱を自動でスコアリングします。ルールベースのSIEMでは見落としやすい低速・低頻度の偵察行動も、統計的な偏差として捉えやすくなります。

特権アカウント管理（PAM）ツールにAI予測モデルを組み合わせ、アクセス申請の妥当性をコンテキストから自動評価する仕組みは、侵入後の横展開を抑制する手段として確立されています。認証の強化単体では防げませんが、異常なアクセスパターンを早期にスコアリングすることで、対応判断を早められます。

早く見つける：ネットワーク異常と流出パターンの検出

ディープラーニングを活用したNDR（Network Detection and Response）は、通常のベースラインから外れた大容量通信・非標準ポートへのアウトバウンド通信・暗号化トラフィックの急増を検知対象にできます。大量データ窃取の際に現れる特徴的なトラフィックパターン（持続的な外部転送、DNSトンネリング、クラウドストレージへの異常アップロードなど）は、ルールではなく統計モデルで捉えるほうが、環境ごとのばらつきに対応しやすくなります。

テキストマイニング技術を活用したDLP（Data Loss Prevention）ツールは、メール・チャット・ファイル転送に含まれる機密情報のパターンを自然言語処理で検出し、意図しない情報流出経路を可視化できます。

被害を小さくする：インシデント対応の自動化

SOAR（Security Orchestration, Automation and Response）プラットフォームは、検知アラートを受けて隔離・遮断・通知を自動実行します。人手による判断を待つ間に攻撃が進行するタイムラグを短縮できる点が最大の利点です。AIによる自然言語処理を使ったインシデントサマリー生成は、担当者がアラートの優先度を素早く判断するための負担を下げ、対応速度を高める実務的な効果があります。

単一のデータソースでは見えにくい攻撃の痕跡を浮き彫りにする手段として、テキストログとネットワークフロー図を組み合わせたマルチモーダル分析も、手段のひとつとして試みられています。

組織規模・リソース別：AIで守る側の対策アプローチ

規模や予算の異なる組織ごとに、優先すべき行動は変わります。

組織規模・リソース別のAIによる防御アプローチ

対象組織	優先すべき対策	使えるAIの種類	注意点
大企業・金融・通信	UEBA＋NDRの統合運用、SOAR自動化	機械学習・ディープラーニング	誤検知チューニングに専門人材が必要
中堅企業（IT担当1〜3名）	クラウドSIEMのAI異常検知機能を有効化	統計的異常検知（既製品内蔵）	デフォルト設定のまま放置しない
自治体・公共機関	特権アカウント監視・ログ一元化	ルールベース＋ML補完	調達規制・ベンダーロックインに注意
中小企業・医療・学校	EDRのAI検知機能を既存端末に導入	エンドポイントAI検知	費用対効果の見極めが重要

自治体・公共機関では、調達プロセスの制約から最新ツールの即時導入が難しい場合も多くあります。そうした組織でも、既存のファイアウォールやVPNのログをクラウドSIEMに集約してAIベースの異常検知ルールを有効化するだけで、手動監視に比べて不審な動きの発見を早める可能性があります。

AIで守ることの限界：現場が知っておくべきこと

守る側のAIの限界と備え

限界	起きること	備え
誤検知・見逃し	正規の処理を誤判定する／偽装した攻撃を見落とす	最終判断は人が行う運用にする
学習の陳腐化	新手の攻撃に対応できず精度が下がる	モデルと脅威情報を定期更新する
監視とプライバシー	過剰な監視が信頼低下や法令上の問題につながる	法務部門と設計段階で確認する
費用と運用負荷	導入しても放置され形骸化する	費用対効果を見て段階的に導入する

守る側のAIを過信することは、新たなリスクを生みます。

誤検知と見逃しは必ず発生します。統計モデルは閾値の設定次第で、正規の大量データ処理をインシデントと誤判定したり、通常パターンに偽装した攻撃を見落としたりします。「AIが検知しなかったから安全」という判断は危険であり、最終判断は人間が行う運用設計が不可欠です。

AIの学習データが古ければ新手の攻撃に対応できません。攻撃者側もAIを使って検知回避を研究している可能性があります。モデルの定期更新と脅威インテリジェンスのフィード維持がなければ、時間の経過とともに検知精度は低下します。

監視範囲の拡大はプライバシーリスクを伴います。従業員の全通信を詳細に記録・分析することは、内部犯行の抑止には有効ですが、個人情報保護法・労働関係法令との整合性を法務部門と確認した上で設計する必要があります。過剰な監視は組織への信頼低下にもつながります。

導入コストと運用負荷は小規模組織には重くなります。高精度なUEBAやNDRは導入ライセンス費用に加え、チューニング・アラート対応・モデル更新の人件費が継続的にかかります。費用対効果の見極めなしに高機能ツールを入れても、放置されたまま形骸化するケースがあります。

AIで全てを防ぐことはできません。内部犯行・ソーシャルエンジニアリング・物理的なアクセスなど、AIが介入しにくい攻撃経路は残ります。技術的対策と並行して、インシデント発生時の法的対応・広報対応・監督官庁への報告フローを人的に整備しておくことが、被害を最小化するための現実的な備えになります。

AIを使ったサイバー攻撃のよくある質問

AIを使ったサイバー攻撃とは何ですか

攻撃者が生成AIなどを使い、フィッシング文面の作成、マルウェアの作成支援、脆弱性の探索、攻撃の実行などを効率化する攻撃の総称です。新しい攻撃の種類というより、既存の攻撃が速く・大量に・低いハードルで行えるようになった点が特徴です。

AIがあれば誰でも高度な攻撃ができるようになりますか

攻撃のハードルは下がっていますが、万能ではありません。Anthropicの報告でも、AIが認証情報を作り話で示すなどの誤りが完全な自律攻撃の妨げになっているとされ、標的の選定など人間の判断も残っていました。

企業が最初にやるべきことは何ですか

既知の脆弱性の修正、不要な公開システムの停止、APIの認可とレート制限、検知と初動の手順の確認です。AI特有の対策を足す前に、JPCERT/CCが示すような基本の対策が済んでいるかを確認します。

明日から動ける次の一手

まず、自組織のSIEMやEDRに搭載されているAI系異常検知機能が有効になっているかを確認します。製品によってはAI系の検知機能が既定で有効になっていない場合があるため、管理画面で設定を確認します。設定確認は追加費用なしで着手できます。

次に、特権アカウントの棚卸しとログの一元化を行います。攻撃者が侵入後に最初に狙うのは管理者権限です。不要な特権アカウントの無効化は、ツール導入前に実施できる低コストの対策であり、その後にログを一元化してからAI分析に渡すという順序で進めることで、AIの検知精度を高めやすくなります。

インシデント対応手順の文書化も、技術投資と同等の優先度で実施します。「誰が・何を・何分以内に判断するか」が決まっていない組織では、AIが異常を検知しても対応が後手に回ります。GMOの事案でも、公開後の対応は当局・業界団体・通信事業者を通じた後処理になりました。技術的な検知と人的な対応手順の両輪が、守る側のAI活用の実効性を決めます。

---

参考文献

• 日本経済新聞 https://www.nikkei.com/article/DGXZQOUA292570Z21C26A0000000/
• ｄメニューニュース（NTTドコモ） https://topics.smt.docomo.ne.jp/topnews/politics/1000/2ced7eb11c3c80a867eec4da9aae2a6d
• IPA「情報セキュリティ10大脅威 2026」解説書（組織編）https://www.ipa.go.jp/security/10threats/omgdg50000008fi8-att/kaisetsu_2026_soshiki.pdf （確認日 2026年11月2日）
• JPCERT/CC「直近で相次いでいる国内組織における不正アクセスに関する注意喚起」（JPCERT-AT-2026-0030）https://www.jpcert.or.jp/at/2026/at260030.html （確認日 2026年11月2日）
• JPCERT/CC「連続不正アクセス事案の攻撃手法に関する調査」https://blogs.jpcert.or.jp/ja/2026/10/web_api_attacks.html （確認日 2026年11月2日）
• Anthropic「Disrupting the first reported AI-orchestrated cyber espionage campaign」https://www.anthropic.com/news/disrupting-AI-espionage （確認日 2026年11月2日）
• トレンドマイクロ「生成AIでランサムウェアを作成した容疑者の摘発事例を考察」https://trendmicro.com/ja_jp/jp-security/24/e/breaking-securitynews-20240529-02.html （確認日 2026年11月2日）