FSB、金融機関のAI活用で12の実践を最終化——AIエージェントには人間の監督と停止スイッチを

FSBが10月15日に最終版を公表：AI活用の「12の実践」とは

金融安定理事会（FSB）は2026年10月15日、金融機関がAIを責任をもって導入するための最終報告書「Sound Practices for Responsible Adoption of Artificial Intelligence (AI)」を公表した（出典：FSBプレスリリース）。2026年6月10日に公表した協議版に対し、銀行・保険・資産運用会社・技術ベンダーなどから約160件の意見が寄せられ、それを反映した確定版にあたる（出典：協議結果の概要）。

報告書は12の「健全な実践（sound practices）」を2つの群に分けて示している。

• 組織全体のAIガバナンス（4項目）：取締役会・経営陣による方針設定と監督、役割と責任を明確にした統治体制、AIリスクのリスク管理枠組みへの組み込みと利用実態の文書化、継続的な学習と適応
• AIのライフサイクル管理（8項目）：用途ごとの重要性・リスク評価、技術の選定、データガバナンス、説明可能性と補完的な統制、性能評価、適切で実効的な人間の監督、サイバー・ICTリスク管理、外部AI事業者への依存リスク管理

FSBは金融機関の取締役会と経営陣に対し、AIの統治・リスク管理・統制の枠組みをつくる際にこの実践を参照するよう「強く促す」としている。ただし報告書自体は拘束力のある国際基準ではなく、規模や用途のリスクに応じて取捨・調整して適用する（比例性）ことを前提にしている（出典：最終報告書）。

FSBはG20の金融当局と国際基準設定主体を束ねる組織で、日本からは金融庁・日本銀行・財務省が参加している。各国当局がこの報告書をどう監督実務に取り込むかは、今後の焦点になる。

関連記事VOICEVOX 使い方｜インストールから音声生成まで【2026】 ／ Grokとは？できること・料金・始め方をやさしく解説【2026年版】 ／ ディープフェイクとは？仕組み・悪用リスク・見分け方と対策を専門家監修で解説【2026年版】

協議版から何が変わったか：AIエージェントの記述を大幅に追加

Reutersなどが「人間による監督の強化を求めた」と報じたのは、最終版でAIエージェント（エージェント型AI）に関する記述が厚くなったためだ。協議結果の概要によると、複数の回答者が「実行前の承認、最小権限、改ざんできない監査証跡、実行時の監視」などAIエージェント固有の統制を詳しく書くよう求め、FSBは最終版で次の点を加えた。

• AIエージェントに伴うリスクの説明を更新
• 自律性の高いAIに特有の考慮事項を各実践に追加（ただし協議を経ていない部分であり、今後も見直しうると明記）
• AIエージェントを使った事例研究を新たに追加（大手国際銀行がカード不正の新しい手口を検知するために導入した例）
• 実践3（文書化）を修正し、特にAIエージェントについて「行動を再構成できる」記録を求める形に

一方で、「すべての行動に人間のレビューを義務づける」ような過度に細かい規定は避けるべきだという意見も寄せられており、最終版も原則ベース・技術中立の姿勢を維持している。

報告書が挙げるAIエージェント特有の6つのリスク

最終報告書は、AIエージェントの自律性の高さが既存のリスクを「非常に速い速度で」顕在化させうるとして、次のリスクを列挙している。

• 無許可の行動：与えられた目標を追う過程で、社内規程や法令、委任された権限に反する行動を「近道」として選んでしまう。本人（エージェント）が違反と認識しないため、人間が気づき、止めるのが難しい
• 誤った行動：目標の取り違えや情報不足で誤判断する。数百の中間ステップのどこで誤っても結果に響き、リアルタイムの検知は難しい
• データ漏えい・プライバシー侵害：顧客情報や営業秘密を外部に出したり、アクセスすべきでないデータに触れたりする
• 接続システムの障害：API・データベース・他のエージェントと連携するため、乗っ取りや誤作動が連鎖する
• 人間の監督が追いつかないこと：利用が増えるとリアルタイムでの人間の監視は現実的でなくなり、担当者が気づかないまま組織の意図やリスク許容度から外れる
• サブエージェントへの分散：エージェントが下位のエージェントを生成して仕事を任せると、意思決定が分散して統制が効きにくくなる

このほか、知識ベースに悪意あるデータを混ぜて振る舞いを変える「メモリーポイズニング」など、従来のサイバー対策で捉えにくい攻撃にも触れている。

人間の監督の具体策：承認トリガー・停止スイッチ・責任者の明記

実践10（人間の監督）は、AIの用途の重要性・リスク・自律性・複雑さ・説明可能性に応じて「適切で実効的な」監督を求める。形だけの確認ではなく、人が介入できる能力・権限・動機を持っていることが条件だとしている。監督の形としては次のものが挙げられている。

監督の形	内容	報告書の例
Human-in-the-loop	AIの判断をすべて人が承認	健康保険の請求審査など、速さより正確さが重要な場面
AI-in-the-loop	AIが監視を補助し、人はアラートに対応	AIの利用件数が増えたときの監視
Human-on-the-loop	必要な時だけ人が介入	問い合わせ対応AIで、顧客の不満を検知したら担当者に引き継ぐ
Human-in-command	自律の範囲と制約を人が決め、全体の影響を管理	自律性の高いAIエージェント向け
キルスイッチ	AIの動作を停止・制限する仕組み	アルゴリズム取引の停止、段階的に人手へ切り替え
異議申し立て	AIの結果に対して人が不服を申し立てる仕組み	AIによる融資の否決に顧客が異議を出す

AIエージェントについては、人間の監督と「決定論的な統制」（コードで実装する、やってよいこと・いけないことの制限）を組み合わせるよう求めている。報告書が挙げる例は次のとおり。

• リスク許容度を超える行動をあらかじめ禁止する
• 外部とのやり取り（API、データ、ネットワーク、他のエージェント）を必要最小限に絞り、安全が確認できたら段階的に広げる
• 一定額を超える取引の承認や、取り返しのつかない行動の前には人間の承認を求める
• 目標を細かいステップに分け、各ステップで条件を満たさなければ先に進めない
• エージェント自身に行動と理由の要約を書かせ、他の記録と突き合わせて虚偽やハルシネーションを確かめる
• レッドチーミングで、問題に気づいて人に引き継げるか、安全に止まれるかを試す
• システムやツールへのアクセスを止める「キルスイッチ」を用意し、実際に試験する

さらに、各エージェントに固有のIDを割り当てて人間の利用者と区別し、何を入力にどんな行動を取ったかを追跡できるようにすること、エージェントごとに説明責任を負う担当者を決めて文書に残すことも求めている。統制だけでは「誰が責任を負うか」は決まらない、という整理だ。

日本の金融機関・AI導入企業への示唆

報告書は金融機関向けだが、AIエージェントを業務に組み込む一般企業にもそのまま使える内容が多い。日本企業が今の段階で点検しておきたいのは次の3点だ。

エージェントの台帳と責任者

社内でどのAIエージェントが、どのシステムに、どの権限でアクセスしているかを一覧にする。報告書は、大手銀行が通常のAIモデルの台帳にエージェント固有のIDや利用できるツールなどの項目を加えた例を紹介している。一覧ができたら、エージェントごとに責任者を決める。

承認トリガーと停止手順

「いくら以上の取引」「顧客データの外部送信」「削除などの取り消せない操作」など、人間の承認を挟む条件を決める。あわせて、エージェントを止める手順を用意し、実際に止められるかを試験しておく。

形だけの承認を防ぐ

報告書は、人がAIの提案をそのまま通してしまう「自動化バイアス」への対策として、人がAIの判断を覆した記録を集めて分析することを挙げている。承認の否決率がほぼゼロなら、監督が形だけになっていないかを疑う手がかりになる。

AIエージェントの基本的な仕組みはAIエージェントとは、金融分野でのAI規制対応の流れはAI 金融 規制コンプライアンスが変わる——FINRAの実装と日本への示唆、金融市場でのAI活用は金融市場のAIで解説している。

今回の報告書で決まっていないこと

最終報告書は拘束力のある基準ではなく、各国当局がこれをどう監督に取り入れるかは今後の判断になる。AIエージェントに関する追加部分は協議を経ておらず、FSB自身が「まだ発展途上で、今後見直す可能性がある」と書いている。

また、同じAIモデルを多くの金融機関が使うことで行動がそろってしまう「群集行動」や、特定のAI事業者への集中といった金融システム全体のリスクは、意見としては寄せられたものの今回の報告書の対象外とされた。FSBは脆弱性の定期的な評価の中で引き続き監視するとしている。

---

参考文献

• FSB「FSB finalises sound practices for the responsible adoption of artificial intelligence (AI)」（2026年10月15日）：fsb.org
• FSB「Sound Practices for Responsible Adoption of Artificial Intelligence (AI): Final report」（2026年10月15日）：PDF
• FSB「Overview of consultation responses」（2026年10月15日）：PDF
• FSB「Consultation report」（2026年6月）：fsb.org