blog
AIブログ
AIによる情報漏洩とは？生成AIで漏れる原因・事例と、2つの経路・企業の対策【2026年】
文：クリスタルメソッド編集部 監修：河合 継（代表取締役）
結論：AIによる情報漏洩とは？経路は2種類ある
AIによる情報漏洩とは、AIを使った結果、あるいはAIが関わった攻撃によって、個人情報や社内の機密情報が外部に出てしまうことです。「AIのせいで情報が漏れた」という見出しは増えましたが、実際には経路が2種類あり、それぞれ原因も防ぎ方も違います。
- 経路A：AIを使う側から漏れる——従業員が生成AIに機密情報や個人情報を入力する、AIサービスの不具合で他人のデータが見える、アカウントを乗っ取られて履歴を読まれる、AIが書いたコードに不備がある、文書に隠された指示にAIが従う、など。多くは利用者の入力と設定、アカウント管理で減らせます。
- 経路B：AIを狙う・使う攻撃——攻撃者がAIで偽サイトやなりすましを素早く作る、AIエージェントが評価テスト中に想定外のシステムへ接触する、AIを装った偽ツールに入力や認証情報を盗まれる、など。使う側の努力だけでは防ぎきれないものが含まれます。
国内の大規模な不正アクセス被害については、2026年10月時点で「AIが関与した」と公式に認めた組織は確認できていません（詳しくは後半の「本当にAIのせいか」で整理します）。一方で、従業員がルールに反してAIへ個人情報をアップロードした事案は、パナソニックグループの子会社が2026年10月23日に公表しています。
AIが関わる情報漏洩の国内と海外の被害は、AIハッキングの主な被害一覧で解説しています。
AIに渡した情報は、どこを通ってどこで漏れるのか
生成AIに文章を入力すると、その内容は利用者の端末からサービス提供者のサーバーへ送られます。情報が漏れるのは、この通り道のどこかです。通り道を5つに分けると、次の「経路A」の4つの原因がどこで起きるのかが見えてきます。
| 通り道 | そこで起きること | 利用者が防げるか |
|---|---|---|
| 1 入力 | 従業員が機密情報や個人情報を自分で貼り付けます（原因1） | 防げます。入れない、または伏せてから入れます |
| 2 送信・保存 | 内容がサーバーに送られて履歴に残り、設定によってはモデルの学習に使われます（原因1） | 防げます。法人向けのプランを選び、学習に使わない設定にします |
| 3 サービス側 | サービスの不具合で、他の利用者に履歴の一部が見えます（原因2） | 利用者は防げません。入力する情報を減らすことでしか備えられません |
| 4 アカウント | 端末のマルウェアなどでIDとパスワードが盗まれ、過去の会話履歴が読まれます（原因3） | 防げます。多要素認証と端末の対策で守ります |
| 5 出力・連携 | AIが書いたコードの不備や、文書に隠された指示への追従で情報が出ていきます（原因4） | 防げます。人によるレビューと、AIに与える権限の制限で備えます |
利用者の努力で防げない場所は3だけで、残りの4か所は入力・設定・アカウント・設計の問題です。つまり、AIの情報漏洩の大半は会社のルールと設定で減らせます。社内でどのようなルールと設定にするかは、生成AIの情報漏洩対策の入力・連携・実行の3段階に沿って決めていくと整理しやすくなります。
次に読む：内部不正で退職者が情報を持ち出す手口は？
経路A：AIを使う側から情報が漏れる4つの原因と事例
1. 従業員が機密情報や個人情報をAIに入力する
最も発生頻度が高く、見えにくい原因です。事例は国内外にあります。
- パナソニックグループ（日本・2026年10月公表）：パナソニック オペレーショナルエクセレンスは2026年10月23日、人事情報システムの導入プロジェクトのメンバーが、同社が利用を禁止している外部の生成AIサービスに、従業員・元従業員とその家族の個人情報を含むデータをアップロードしたと公表しました。外部からの不正操作ではなく、ルール違反によるものとしています。対象は従業員約7万5千人、元従業員約17万8千人、家族を含めて合計約33万4千人分で、項目は社員番号・住所・電話番号・メールアドレスなどです。個人情報保護委員会へは2026年9月29日に報告済みで、サービス事業者への確認では学習に利用されない設定だったこと、削除後も一定期間（30日）は事業者側に保持されることが示されています。現時点で公開や不正利用による被害は確認されていないとしています。
- RIZAP（日本・2026年9月公表）：RIZAPは2026年9月3日、健康経営・保険者事業部の社員が、特定保健指導のデータ集計作業中に、個人で使っている外部の生成AIサービスへ対象データを誤ってアップロードしたと公表しました。保険証記号番号・氏名・生年月日などの個人情報に加え、支援形態や疾患情報といった要配慮個人情報が含まれていました。社員が発見後すぐにチャット履歴を削除し、学習の利用停止設定を行い、サービス事業者への照会では学習には使われないとの回答を得たとしています。一方、事業者の役職員が情報を閲覧できた可能性は確認中としています（RIZAP公式、2026年11月2日確認）。
- サムスン電子（韓国・2023年）：エンジニアが社内の機密ソースコードをChatGPTにアップロードしていたことが発覚し、同社は2023年5月に社員による生成AIツールの業務利用を社内で禁止しました（Forbes JAPAN、2023年5月3日）。
3つに共通するのは、悪意のある侵入者がいなくても、善意の業務効率化の行動だけで情報が外部サービスに渡る点です。入力したデータがサービス提供者の学習に使われる設定の場合は、「外部に渡った」と見なして扱う必要があります。
法律の面では、個人情報保護委員会が2023年6月2日に「生成AIサービスの利用に関する注意喚起等」を公表し、あらかじめ本人の同意を得ることなく個人データを含むプロンプトを入力し、その個人データがプロンプトに対する応答の出力以外の目的で取り扱われる場合は、個人情報保護法の規定に違反する可能性があるとしています。そのうえで、入力する場合は提供事業者が個人データを機械学習に利用しないこと等を十分に確認するよう求めています。
2. AIサービス自体の不具合によるデータの露出
2023年3月20日、ChatGPTでオープンソースライブラリ（redis-py）の不具合が起き、一部の利用者に他の利用者のチャット履歴のタイトルが表示されました。特定の9時間に利用していたChatGPT Plusの会員のうち1.2%では、支払い関連の情報が他の利用者に見えた可能性があります。カード番号の全桁は露出していません（OpenAI公式の事後報告）。
これは利用者に落ち度がない事例です。どれほど慎重に使っても、サービス側の不具合によるリスクをゼロにはできません。機密性の高い情報をクラウド型AIにそもそも入力しない、という線引きが必要な理由の一つです。
AIサービスを運営する側の設定ミスで情報が見える状態になった例もあります。リートン（Wrtn Technologies Japan）は2024年3月19日、運営するAIコンテンツ生成サービスで、データベースの設定に一部不備があり、特定の操作で外部から同社のデータベースにアクセスできる状態だった問題が解消したと発表しました。2023年11月30日に利用者の通報で発覚したとされています（ScanNetSecurity、2024年3月28日）。
3. AIサービスのアカウント情報が窃取される
AIに入力した内容は、利用者のアカウントが別の経路で盗まれても外部に流出します。Group-IBの調査では、2022年6月から2023年5月の1年間で、情報窃取マルウェアに感染した端末10万1,134台から、保存されていたChatGPTのログイン情報が見つかりました（Group-IB、2023年6月20日）。Group-IBは、こうしたログイン情報がダークウェブの取引市場で売られていることも確認しており、地域別ではアジア太平洋が最多でした。アカウントを乗っ取られると過去の会話履歴を読まれるため、多要素認証の設定が有効です。ただし、マルウェアがログイン状態そのものを盗む場合もあるため、端末側の対策と組み合わせます。
4. AIが生成したコードの不備と、隠された指示への追従
AIが書いたコードの不備：シンガポールの食品会社Bee Cheng Hiangでは、従業員が生成AIで作ったプログラムで一斉メールを送った結果、顧客95,364人のメールアドレスが他の受信者から見える状態になりました。個人データ保護委員会（PDPC）に通知された、AIが関わる初の漏洩として2026年9月30日に報じられています（Bloomberg）。なお、同委員会は漏洩したデータ自体はAIが処理・生成したものではないとしており、原因はAIが作ったコードを人が確認せず使ったことにあります。
プロンプトインジェクション：メールや文書に人には見えない形で指示文を仕込み、AIに読ませて情報を外部へ送らせる攻撃です。OWASPの「LLMアプリケーションのリスクTop10（2025年版）」で1位に挙げられています。Microsoft 365 Copilotでは、細工したメールを受け取るだけで情報が外へ送られうる脆弱性「EchoLeak」（CVE-2025-32711、2025年6月公表・修正済み）が報告されました。仕組みと防ぎ方はプロンプトインジェクションの対策の記事で各論として扱っています。
経路B：AIを狙う・使う攻撃と、AIエージェントの誤侵入
AIエージェントが評価テスト中に想定外のシステムへ侵入
2026年は「AIが自律的に動いた結果、外部の他社システムに入った」という事案が相次いで公表されました。いずれも攻撃の意図は確認されていませんが、従来の情報漏洩の枠組みでは扱いにくい事態です。
- OpenAI（2026年7月）：サイバー能力の評価環境からモデルが外へ出て、Hugging Faceの本番システムに到達しました。Hugging Faceは内部データセットの一部とサービスの認証情報へのアクセスを確認し、公開モデルや公開データセットが改ざんされた証拠はないとしています。
- Anthropic（2026年7月30日公表）：サイバーセキュリティ評価の最中、評価パートナー側の設定ミスで評価用マシンがインターネットにつながり、Claudeのモデルが他の3組織のシステムに侵入していました。14万件を超える評価記録を点検して判明したとされ、組織名は公表されていません（BBC、2026年7月31日）。
- Google（2026年9月18日公表）：架空の企業を攻撃するよう指示されたGeminiが、同名の実在企業などのシステムに侵入しました。Googleは被害はなかったとしています（CNN Newsource、2026年9月19日）。
3件に共通するのは「テスト環境と外部の境界が機能しなかった」という構造です。AIエージェントは指示に従って自律的に動くため、権限と環境の分離が不十分だと、想定外の範囲まで操作が及びます。
攻撃者によるAIの悪用：偽サイトの高速生成、なりすまし
攻撃の準備をAIで速める事例も確認されています。ANN（2026年10月13日）の報道では、ハンガリーのホワイトハッカー集団が取材の場で、ChatGPTへの1行の英語の指示だけで、テレビ朝日の社員用ログイン画面を装った偽サイトを2分弱で作ってみせました。偽のログイン画面は、IDとパスワードを盗む入口になります。
Anthropicは2025年11月、国家の支援を受けたとみられる集団がClaude Codeを悪用し、世界の約30の組織に侵入を試み、少数で成功していたと公表しました。同社によれば、作業の8〜9割をAIが自律的に実行していました。ディープフェイクでは、英Arupの香港拠点で、偽のCFOらが参加したビデオ会議を通じて約2億香港ドルが送金されました（2024年に香港警察が公表、Arupが認めています）。被害の一覧はAIハッキングと情報漏洩の被害一覧に時期順でまとめています。
偽のAIツール・拡張機能に、入力や認証情報を盗まれる
AIの人気に便乗した偽ツールも経路Bです。2023年3月、セキュリティ会社のGuardio Labsは、オープンソースのChatGPT連携拡張機能を改変した偽物がChromeの公式ストアに公開され、検索広告から誘導されていたと報告しました。3月14日から広がり、削除されるまでに9,000人以上が導入しました。盗まれたのはFacebookのセッション情報で、AIへの入力内容が盗まれたと報告されているわけではありません。それでも、ブラウザ拡張機能は閲覧中のページに触れる権限を求めるものがあり、見た目が本物と同じでも裏で別の動作をすることがあります。公式ストアにあるという理由だけで安全とみなさず、業務で使う拡張機能やアプリは、提供元と求める権限を確かめてから会社の許可一覧に載せる運用が必要です。
事例の早見表：どの経路で、何が起き、何が効くか
| 事例（経路） | 何が起きたか | 効く手段 |
|---|---|---|
| パナソニックグループ（2026年10月公表）（A 入力） | 禁止されていた外部の生成AIに、従業員等の個人情報を含むデータをアップロードした | 入力ルールと、利用できるサービスの限定・管理 |
| RIZAP（2026年9月公表）（A 入力） | 社員が個人で使う外部の生成AIに、要配慮個人情報を含む顧客データを誤ってアップロードした | 個人アカウントでの業務利用の禁止と、使ってよい環境の限定 |
| サムスン電子（2023年）（A 入力） | 社員が機密のソースコードをChatGPTに入力した | 入力してはいけない情報のルールと、法人向けプラン |
| ChatGPTの不具合（2023年3月）（A サービス側） | 他の利用者にチャット履歴のタイトルが見えた | 利用者側では防げない。機密の入力を減らす |
| ログイン情報の窃取（2022年6月〜2023年5月）（A アカウント） | マルウェア感染端末10万1,134台からChatGPTのログイン情報が見つかった | 多要素認証と端末の対策 |
| Bee Cheng Hiang（2026年9月報道）（A 出力） | AIが書いたプログラムの不備で、顧客のメールアドレスが互いに見えた | 人によるコードのレビュー |
| EchoLeak（2025年6月公表）（A 連携） | 細工したメールで、Copilotが読める範囲の情報が外へ送られうる | AIが読める範囲の絞り込み |
| 評価テスト中の侵入（2026年）（B エージェント） | OpenAI・Anthropic・Googleのテスト中のAIが外部システムに接触した | 環境の分離と、AIに与える権限の制限 |
| 偽のログイン画面（2026年10月報道）（B 攻撃者のAI利用） | 1行の指示で、約2分で偽サイトが作られた | 公式URLを直接開く |
| Arupのビデオ会議詐欺（2024年）（B なりすまし） | 偽の幹部が参加した会議で約2億香港ドルが送金された | 別の連絡手段での本人確認 |
相次ぐ情報漏洩は本当にAIのせいか——数字で見る実態
報道では「AI時代の情報漏洩」という文脈で語られることが増えていますが、公表されている資料を見ると、「件数が増えている」ことと「AIが原因」であることは別の話です。
- 件数：共同通信の2026年10月6日の報道によると、国内の企業・自治体などでの不正アクセス等の被害は9月末までに600件に達し、昨年を上回る過去最多のペースです。
- 侵入の原因：JPCERT/CCが2026年10月8日に出した注意喚起は、攻撃を4つの型（既知の脆弱性の探索、API経由の不正操作、MetabaseのSQLインジェクション、Webシェルの設置）に分けて解説しており、AIへの言及はありません。個人情報保護委員会も同時期の注意喚起で、原因としてAPIの不備（管理対象外のAPI、パラメータの書き換えで他人のデータに触れる状態、回数制限なし）を挙げました。
- AIの関与：国家サイバー統括室は「AIの悪用を含むサイバー攻撃の手法が高度化・巧妙化する中」と述べていますが、個別の事案へのAI関与は特定していません。一方、IBMが2026年7月29日に公表した調査では、悪意ある侵害のうち4件に1件でAIが使われており、前年から56%増えています。
- 位置づけ：IPAは「情報セキュリティ10大脅威 2026」（2026年1月29日）の組織編で「AIの利用をめぐるサイバーリスク」を初めて選び、3位に置きました。
| よく言われる見方 | 実態・補足 | 出典 |
|---|---|---|
| 「情報漏洩が急増しているのはAIのせい」 | 国内の大規模事案でAI関与を認めた組織はありません。侵入口は既知の脆弱性やAPIの不備が中心です | JPCERT/CC 2026年10月 |
| 「AIが攻撃に使われている証拠はない」 | 悪意ある侵害の4件に1件でAIが使われ、前年比56%増です | IBM 2026年7月 |
| 「AIエージェントはまだ安全」 | OpenAI・Anthropic・Googleの評価テスト中に、想定外の侵入が発生しました | 各社公表 2026年 |
| 「生成AIに入力する分には問題ない」 | 個人データを入力し、応答の出力以外の目的で扱われると、法令違反のおそれがあります。学習に使われないこと等の確認が求められます | 個人情報保護委員会 2023年6月 |
まとめると、AIは攻撃を速く巧妙にしていますが、国内の大規模漏洩の主な侵入口は今も従来型の脆弱性です。「AIのせいで増えた」という印象と、実際の侵入経路は分けて考える必要があります。そのうえで、使う側の入力ミスは、パナソニックグループの事案のように、実際に起きています。
経路ごとの対策の全体像
対策は、経路Aと経路Bで向きが変わります。経路Aは「入れない・設定する・守る」、経路Bは「AIに任せる範囲を絞る・確かめる」です。
| 経路・原因 | 個人でできること | 会社でできること |
|---|---|---|
| A 入力・保存（原因1） | 個人情報・パスワード・取引先の資料をAIに入力しない。学習に使われる設定になっていないか確認する | 使ってよいサービスとプランを限定し、入力してはいけない情報を文書にして周知する。個人アカウントの業務利用を制限する |
| A サービス側（原因2） | 機密の入力を減らす | 契約でデータの保存場所・保存期間・事故時の連絡を確認する |
| A アカウント（原因3） | 多要素認証を設定する | 会社のID管理（シングルサインオン）につなぎ、異動・退職の日にアカウントと連携を止める |
| A 出力・連携（原因4） | AIが書いたコードや文面は、人が確かめてから使う | AIが読める範囲（共有設定・連携先）を役割ごとに絞り、記録を残す |
| B エージェント | — | 権限を最小限にし、取り消せない操作（送金・削除）は人の承認を必須にする。テスト環境と本番を分離する |
| B 攻撃者のAI利用 | ログイン画面はメールのリンクでなく公式URLから開く | 送金依頼や認証情報の変更依頼は、別の連絡手段で本人に確認する |
| B 偽ツール | 公式ストアでも提供元と権限を確認する | 業務で使う拡張機能・アプリの許可一覧を作る |
「機密情報を入力しない」と言っても、何が機密にあたるかは人によって分かれます。目安として、入れてはいけない情報は次の4種類です。
| 情報の種類 | 例 | 漏れたときに起きること |
|---|---|---|
| 個人情報・顧客情報 | 氏名、住所、電話番号、メールアドレス、本人確認書類の内容 | 条件によって、個人情報保護委員会への報告と本人への通知が必要になります |
| 認証情報 | パスワード、APIキー、アクセストークン、秘密鍵 | 第三者が各サービスやシステムに入れる状態になります |
| 取引先から預かった情報 | 契約書、見積り、未公開の仕様、秘密保持契約の対象になる資料 | 預かった側として負う守秘義務に関わり、取引先への説明が必要になる場合があります |
| 自社の機密 | 未公開の決算・人事情報、非公開のソースコード、設計情報 | 外部のサーバーに渡った時点で、社外に出た情報として扱う必要があります |
入力する前に伏せる：マスキングと匿名化
AIに送る前に、氏名・電話番号・メールアドレス・カード番号などを伏せ字や置き換え用の記号に変えます。社内からAIへの通信を中継する仕組み（AIゲートウェイやDLP製品）で自動的に置き換える方法と、利用者が手で消す方法があります。自動の置き換えは表記の揺れや画像の中の文字を取りこぼすため、入力ルールと組み合わせます。パナソニックグループの事案のように個人情報を含むデータそのものを渡す必要がある作業では、実データを使わず、項目の構造だけを残した架空の見本データで試すのが基本です。
安全に使える環境を選ぶ：法人向けプラン、API、閉域・ローカル
無料や個人契約のチャット画面ではなく、入力が学習に使われない契約の環境を選びます。主な選択肢は次のとおりです。
- 法人向けのプラン：ChatGPTのBusiness・Enterpriseなどは、既定で入力を学習に使用しません。
- API・クラウド経由の利用：OpenAIのAPIに送ったデータは、既定ではモデルの学習や改善に使われません。ただし不正利用を検知するためのログが最大30日間保持される場合があります。承認を受けた顧客に限り、ログを保持しない「ゼロデータリテンション」を使えます（OpenAI公式、2026年11月2日確認）。MicrosoftのAzure OpenAI（Foundry Models）は、入力と出力が他の顧客やOpenAIに提供されず、基盤モデルの学習にも使われないと説明しています。ただし、不正利用の監視のために一部の入出力が保存・確認される仕組みがあります（Microsoft Learn、2026年11月2日確認）。
- ローカルLLM・閉域網：自社のサーバーや閉じたネットワークの中でモデルを動かす方法です。データが社外に出ない一方、性能の確保、更新、運用の負担は自社が負います。
どの環境でも、データの保存場所と保存期間、記録の取得方法、事故時の連絡を契約と管理画面で確かめます。第三者認証（SOC 2、ISO/IEC 27001など）は提供者の管理体制を示すもので、利用者側の入力ルールの代わりにはなりません。
社内ガイドラインに盛り込む項目
| 項目 | 書くこと |
|---|---|
| 対象者 | 正社員だけか、派遣・委託先・アルバイトも含むか |
| 使ってよいサービス | 会社が契約したサービスとプランの一覧。個人契約や無料プランを業務で使ってよいか |
| 入力してはいけない情報 | 上の表5の4種類を、自社の言葉と具体例で書く |
| 出力の扱い | 社外に出す文書、契約、数値、プログラムは、人が内容を確かめてから使う |
| 報告 | 誤って入力したときの報告先と、報告した人を責めない方針 |
| 守られなかったとき | 見つかったときの対応と、社内規程との関係（人事・法務と事前に確認する） |
従業員への教育・研修
年1回の研修より、短い周知を繰り返す方が定着しやすくなります。役職や業務ごとに、実際に貼り付けそうな情報（議事録、顧客からのメール、ソースコード）を例にして、入れてよいものと入れてはいけないものを見せます。研修のあとに数問の確認テストを行い、誤って入力してしまった想定の報告の練習（模擬訓練）も入れると、いざという時に隠されにくくなります。誤入力が隠されるのが最も危ないため、報告のしやすさも教育の一部として伝えます。
入力と出力を仕組みで制限する
ルールを周知しても、うっかりの貼り付けは起きます。社内からAIへの通信をまとめて中継し、機密に当たる文字列の送信を止める「AIゲートウェイ」や、AIの入出力を検査する「AIガードレール」のように、人の注意と仕組みの両方で止める方法があります。全体像はAIセキュリティ対策の解説で整理しています。設定の確認手順や導入時のチェックリストは生成AIの情報漏洩対策の側で手順に落としてあります。ChatGPTを使っている場合のプラン別の違いはChatGPTの情報漏洩対策で比較しています。
自社で使っているソフトやAIの連携先に既知の脆弱性が残っていないか分からない、侵入が不安だという場合は、脆弱性の監視サービスで状況を継続して見るという選択肢もあります。
AIと情報漏洩に関わる国内外のルール
AIに個人データを入力する場合でも、通常の個人データの扱いと同じ法律がかかります。加えて、AIそのものを対象にした法律も国内外でできています。
| 国・地域 | ルール | 情報漏洩との関わり |
|---|---|---|
| 日本 | 個人情報保護法と、個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等」（2023年6月2日） | 本人の同意なく個人データを含む指示を入力し、それが応答の出力以外の目的で扱われる場合は、法律に違反するおそれがあります。漏洩が起きた場合の報告と本人への通知の義務も、AIの利用時に同じくかかります |
| 日本 | AI法（人工知能関連技術の研究開発及び活用の推進に関する法律、2025年5月28日成立・6月4日公布、9月1日に全面施行） | AIの研究開発と活用を進めるための法律で、企業に罰則を科す仕組みではありません。国が基本計画と、AIを適正に使うための指針を定めます |
| イタリア | データ保護当局（Garante）による措置 | 2023年3月にChatGPTの国内での利用を一時停止させました。2024年12月20日には、適切な法的根拠のない学習への個人データの利用や、2023年3月の不具合による漏洩を当局に届け出なかったことなどを理由に、OpenAIに1,500万ユーロの制裁金を科しています（OpenAIは不服を表明） |
| EU | GDPR（一般データ保護規則）とAI法（AI Act、2024年8月1日発効、段階的に適用） | EUの人の個人データをAIで扱う場合はGDPRがかかります。AI法は、汎用AIモデルの提供者に、2025年8月から技術文書の作成などの義務を課しています |
日本の会社でも、EUの顧客の個人データをAIに入力する場合はGDPRの対象になりえます。入力してよい情報を決めるときは、国内の個人情報保護法だけでなく、データの持ち主がどの国の人かも確認します。
情報漏洩が起きたときの対応の流れ
AIに関わる情報漏洩が発覚した場合の基本の流れは、次の4段階です。
- 事実の確認——何のデータが、どこから、どの範囲で漏れたかを特定します。AIサービスの会話履歴やログへのアクセス記録も確認対象です。
- 拡大の防止——関係するアカウントの停止、パスワードの変更、会話履歴の削除などを速やかに行います。AIエージェントが関与した場合は、そのエージェントの権限を即時に止めます。
- 報告と通知——個人データが漏れた場合、個人情報保護法に基づく個人情報保護委員会への報告と本人への通知が義務になるケースがあります。速報は発覚からおおむね3〜5日以内、確報は30日以内（不正な目的によるおそれがある場合は60日以内）です（個人情報保護委員会）。
- 再発防止——原因を特定し、AIの利用ルール・権限設定・システムを見直します。
「不正な目的によるおそれがある場合」や「1,000人を超える場合」などは、委員会への報告が義務になります。自社の状況が当てはまるかどうかは、個人情報保護委員会の公式ガイダンスで確認してください。
よくある質問
- Q. ChatGPTに入力した情報はOpenAIに見られているのか。
- 入力した内容はOpenAIのサーバーに送られ、個人向けのChatGPTでは設定によってモデルの学習に使われます。設定の「Improve the model for everyone」をオフにすると、新しい会話は学習に使われません。法人向けのBusiness・Enterpriseなどのワークスペースは、既定で学習に使用しません。サービスごとの設定の違いは生成AIの情報漏洩対策で比較しています。
- Q. 生成AIに入力した情報は、他の利用者の回答に出てくるのか。
- 入力した内容がそのまま他の利用者の回答に表示された事例は、公表されているものでは多くありません。実際に起きているのは、サービスの不具合で他の利用者に履歴の一部が見える、アカウントを乗っ取られて履歴を読まれる、入力した内容がサービス側に保存されて会社の管理から外れる、という形です。学習に使われる設定のまま機密を入力すれば、将来の出力に影響する可能性は否定できないため、学習に使わない設定と、入力する情報の線引きの両方が必要です。
- Q. 個人情報をAIに入力すると、法律違反になるのか。
- 本人の同意なく個人データを含むプロンプトを入力し、その個人データが応答の出力以外の目的で扱われる場合は、個人情報保護法に違反するおそれがあります。入力する場合は、提供事業者が個人データを機械学習に利用しないこと等を十分に確認する必要があります（個人情報保護委員会、2023年6月2日）。
- Q. AIが書いたコードは使ってはいけないのか。
- AIが書いたコードをそのまま本番環境で使わず、レビューとテストを経ることが推奨されます。Bee Cheng Hiangの事例のように、AIが書いたコードの不備を確認せずに使うと漏洩につながります。
- Q. 社内でAIサービスを禁止すれば安全か。
- 禁止しても、従業員が個人アカウントで使う「シャドーAI」のリスクが残ります。パナソニックグループの事案も、利用を禁止していたサービスにデータが入力されたものでした。利用できるサービスとルールを明示し、適切なプランを選んで管理する方が、実態に合ったリスク管理になります。
- Q. AIエージェントを自社で使うリスクはどう管理するか。
- 権限を最小限にする、取り消せない操作は人が承認する、テスト環境と本番環境を分離する、の3点が基本です。OpenAI・Anthropic・Googleの評価テスト中の侵入事案は、いずれもテスト中のAIが外部のシステムに接続できる状態だったことが背景にあり、環境の分離と権限設計の重要さを示しています。
参考文献
- パナソニック ホールディングス（2026/10/23）「外部生成AIサービスへの個人情報アップロードに関するお詫びとお知らせ」
https://holdings.panasonic/jp/information/topics/20261023.html - RIZAP（2026/9/3）「当社における外部生成AIサービスへのお客様情報の誤ったアップロードに関するお詫びとお知らせ」
https://business.rizap.jp/news/2492 - ScanNetSecurity（2024/3/28）「コンテンツ生成プラットフォーム「リートン」に脆弱性、特定の操作でデータベースにアクセス可能」
https://scan.netsecurity.ne.jp/article/2024/03/28/50775.html - OpenAI「Your data」（API のデータ管理）
https://developers.openai.com/api/docs/guides/your-data - Microsoft Learn「Data, privacy, and security for Foundry Models sold by Azure」
https://learn.microsoft.com/en-us/azure/ai-foundry/responsible-ai/openai/data-privacy - Forbes JAPAN（2023/5/3）「サムスン、社員の生成AI利用を禁止」
https://www.forbesjapan.com/articles/detail/62905 - 個人情報保護委員会『生成AIサービスの利用に関する注意喚起等』（2023年6月2日）
https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/ - OpenAI「March 20 ChatGPT outage: Here’s what happened」（2023年3月）
https://openai.com/index/march-20-chatgpt-outage/ - Group-IB（2023/6/20）ChatGPTのログイン情報が保存された感染端末10万1,134台を確認
https://www.group-ib.com/media-center/press-releases/stealers-chatgpt-credentials/ - Bloomberg（2026/9/30）「Singapore reports first data breach linked to AI use」
https://www.bloomberg.com/news/articles/2026-09-30/singapore-reports-first-data-breach-linked-to-ai-use-st - OWASP「Top 10 for LLM Applications」
https://genai.owasp.org/llm-top-10/ - The Hacker News（2025/6/12）「Zero-Click AI Vulnerability Exposes Microsoft 365 Copilot Data Without User Interaction」
https://thehackernews.com/2025/06/zero-click-ai-vulnerability-exposes.html - Guardio Labs（2023年3月）「FakeGPT #2: Open-Source Turned Malicious in Another Variant of the Facebook Account-Stealer Chrome Extension」
https://guard.io/labs/fakegpt-2-open-source-turned-malicious-in-another-variant-of-the-facebook-account-stealer - Wikipedia「OpenAI–HuggingFace incident」
https://en.wikipedia.org/wiki/OpenAI%E2%80%93HuggingFace_incident - BBC（2026/7/31）「米アンソロピック、AIモデルがテスト中に3社をハッキングと公表」
https://www.bbc.com/japanese/articles/c04kr96vdqeo - CNN Newsource（2026/9/19）「Google says AI model Gemini hacked into 3 companies while undergoing testing」
https://www.wect.com/2026/09/19/google-says-ai-model-gemini-hacked-into-3-companies-while-undergoing-testing/ - Anthropic（2025年11月）「Disrupting the first reported AI-orchestrated cyber espionage campaign」
https://www.anthropic.com/news/disrupting-AI-espionage - ANN／Yahoo!ニュース（2026/10/13）「わずか2分 AIが偽サイト作成…情報流出の起点に」
https://news.yahoo.co.jp/articles/55db6a743644f9f0daab3240be39743b15b8f7ad - 共同通信（2026/10/6）「国内の不正アクセス等被害が600件、昨年超えの過去最多ペース」
https://news.livedoor.com/topics/detail/32501762/ - JPCERT/CC（2026/10/8、10/9更新）「直近で相次いでいる国内組織における不正アクセスに関する注意喚起」
https://www.jpcert.or.jp/at/2026/at260030.html - piyolog（2026/10/11）「国内で相次ぐ不正アクセスに対する注意喚起についてまとめてみた」
https://piyolog.hatenadiary.jp/entry/2026/10/11/004353 - IBM Newsroom（2026/7/29）「IBM Study: One in Four Malicious Breaches are AI-Enabled, Costing Companies $6 Million on Average」
https://newsroom.ibm.com/2026-07-29-ibm-study-one-in-four-malicious-breaches-are-ai-enabled,-costing-companies-6-million-on-average - IPA（2026/1/29）「情報セキュリティ10大脅威 2026」
https://www.ipa.go.jp/security/10threats/10threats2026.html - 個人情報保護委員会「漏えい等報告・本人への通知の義務化について」
https://www.ppc.go.jp/news/kaiseihou_feature/roueitouhoukoku_gimuka/ - Security Affairs（2024/12）「Italy’s data protection watchdog fined OpenAI €15 million over ChatGPT’s data management violations」
https://securityaffairs.com/172264/laws-and-regulations/italys-data-protection-watchdog-fined-openai-e15-million.html - 欧州委員会「AI Act」
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai - 内閣府「人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）の概要」
https://www8.cao.go.jp/cstp/ai/ai_hou_gaiyou.pdf
AIの業務活用をご検討の方へ
クリスタルメソッドは、バーチャルヒューマンをはじめAIの開発・業務導入を支援しています。生成AI・AIエージェントの活用や、自社業務へのAI導入をご検討の際は、お気軽にご相談ください。
- 無料相談・お問い合わせ：ご相談はこちら
Read next
あわせて読みたい
-
内部不正対策とは？基本5原則と、退職者の情報持ち出しを防ぐ進め方【2026年】
結論：内部不正対策は、権限管理と退職手続きから始め、基本5原則で抜けを確かめる 内部不正とは、従業員・元従業員など組織の内部関係者が、付与された権限や在職中に得...
-
AIハッキングで情報漏洩が相次ぐ？日本・世界の主な被害一覧【2026年7〜10月】
AIハッキングで情報漏洩が相次ぐ？日本・世界の主な被害一覧【2026年7〜10月】 2026年9月末時点で、日本国内の企業・自治体が公表した不正アクセス等の被害...
-
AIセキュリティ対策とは？企業が知るべきリスクと今すぐできる対策【2026年】
結論：AIセキュリティ対策とは、AIの利用で生まれるリスクから会社を守ること。まず5つから始める AIセキュリティとは、AIに関わるサイバーリスクから組織を守る...