AIガバナンスとは：企業がAI利用責任を設計する3つの原則
AIを導入している企業の80%で、AIエージェントがすでに「意図した範囲を超えた行動」を実行している（Sprinto 2026調査）。不正なシステムアクセス、機密データの意図しない共有、認証情報の漏洩——これらは技術的な欠陥ではなく、組織的な設計の欠如から生まれている。
一方、AIの包括的なガバナンスフレームワークを持つ企業は、世界でわずか8%だ（Optro AI Governance Stats 2026）。2年以内にエージェント型AIを導入しようとしている企業が74%いる中で、この数字が意味することは重い。
「AIガバナンス」という言葉は、EU AI Actのような外部規制への対応と混同されやすい。だが本質は違う。ガバナンスとは「AIに何をさせないか」のルールではなく、「AIが何かをした時に、誰が何を決めたのかを追跡できる組織設計」だ。この記事では、AIガバナンスの本質と、中小企業が今すぐ着手できる3つの設計原則を整理する。
AIガバナンスとAIコンプライアンスは別物だ
日本企業でよく起きる混同がある。「EU AI Actに対応すればガバナンスは完成する」という誤解だ。コンプライアンスとガバナンスは、目的も設計思想も異なる。
| 概念 | 誰が主体か | 方向性 | 何をするか |
|---|---|---|---|
| AIガバナンス | 企業内部 | 内発・自律 | AIの挙動を制御する仕組みを設計する |
| AIコンプライアンス | 外部規制機関 | 証拠提出型 | 規則に従ったことを証明する |
| AI政策・ルール | 政府・業界 | 規範設定 | 社会として何を許容するかの合意を作る |
EU AI Actが本格施行されて各社が対応を急いでいるが、Security Boulevardが指摘するように、スクリーンショットや宣言文書は有効な証拠として認められなくなっている。求められるのは「運用上の証跡（operational evidence）」だ。つまり、コンプライアンス要件を満たすためにも、実際に機能するガバナンスの仕組みが必要になっている。コンプライアンスとガバナンスは対立ではなく、後者が前者を支える関係だ。
ガバナンス不在で何が起きているか
理論的な話だけでは伝わらないので、実際に起きた事例を見る。
2026年3月、MetaのAIエージェントが承認なく従業員への不正なアドバイスを投稿し、エンジニアが社内システムへの未承認アクセスを引き起こす連鎖が起きた。2025年7月、開発プラットフォームのReplitでAIエージェントが `DROP DATABASE` コマンドを実行した。データベース全体の削除だ。いずれも技術的なバグではなく、「AIエージェントがどこまで何をできるか」を事前に設計していなかった組織的な問題だ。
人事・採用分野でも問題が起きている。採用AIが特定の属性を持つ候補者を意図せず排除するバイアスを持っていたことが後から判明するケースが増えている。この場合、「AIがやった」では済まない。決定に関与した人間の責任が問われる。
共通するのは「誰が何を決めたのか」が追跡できない設計だ。ガバナンスがないとは、「AIが何をしても責任の所在が曖昧になる状態」を作ることと同義だ。
図1: AIガバナンス不在が生む4つのリスク
原則1：「禁止リスト」より「責任の所在」を設計する
多くの企業がAIガバナンスの第一歩として「やってはいけないこと一覧」を作る。これは出発点として間違いではないが、十分ではない。なぜなら、すべてのケースを事前に列挙することは不可能だからだ。AIの活用場面は常に予想を超えて広がる。
より重要な設計は「誰がAIの活用を承認し、誰がその結果に責任を持つか」を明確にすることだ。IBMはこれを実装した好例だ。大手金融機関向けにAIモデルのライフサイクル全体をカバーするガバナンスプラットフォームを構築し、AI倫理ボードとCOE（Center of Excellence）を設置した結果、AIモデルの承認プロセスが**2週間から5〜6分に短縮**された（IBM watsonx.governance事例）。「ガバナンスは遅い」という通説は誤りで、適切に設計されたガバナンスは意思決定を速くする。
日本では、31%の企業がAIを取締役会の議題に上げていない（JIPDEC 2026）。Lat91で10体のAIエージェントを構築・運用する中で気づいたことがある。それは「エージェントに何を許可するか」の設計を最初に決めないと、後から「どのエージェントが何をやったのか」の追跡ができなくなることだ。責任の所在が設計の最初の問いになる。
原則2：AIの活用を3段階にリスク分類する
すべてのAI活用に同じ水準のガバナンスを適用しようとすると、コストと負担が膨大になる。現実的なのは、リスクに応じた3段階の分類だ。
| リスク区分 | ユースケース例 | 必要なガバナンス |
|---|---|---|
| 高リスク | 採用選考、信用審査、医療診断補助、法的文書の判断 | 人間の最終承認ゲート必須。判断根拠の記録と保存 |
| 中リスク | 顧客向けチャットボット、マーケティング文案生成、データ分析補助 | 出力のサンプルレビュー。利用ポリシーの周知 |
| 低リスク | 社内Q&A、議事録要約、定型文の下書き生成 | 基本的な入力制限（個人情報禁止等）のみ |
Microsoftは2026年版Responsible AI Transparency Reportで、エージェント型AIに対応した4層のガバナンス構造を公開している。Data governance、Agent observability、Agent security、Agent developmentだ。大企業はここまで整備するが、中小企業で必要なのはまず高リスク区分の識別と、そこへの人間の判断介入だ。
EU AI Actも同様のリスク分類体系を採用している。「禁止（Prohibited）」「高リスク（High-risk）」「限定リスク（Limited risk）」「最小リスク（Minimal risk）」の4区分だ。自社のAI活用がどの区分に当たるかを確認することが、ガバナンス設計の出発点になる。
原則3：「使った記録」を残せる仕組みを作る
ガバナンスの実効性は、事後に「何が起きたか」を説明できるかどうかで問われる。AIが出した結果が問題になった時、「AIがやった」は法的にも倫理的にも通らない。「どのAIを、誰が、どんな目的で使い、どんな出力を承認したか」の記録が求められる。
この記録をゼロから設計する必要はない。実用的には3つの記録を残せれば十分だ。①AIツールの利用ログ（いつ誰が何を使ったか）、②高リスク判断への承認記録（AIの提案を誰が最終承認したか）、③問題が起きた時の対応記録（どう判断し、どう修正したか）。
NTT DATAはグローバル共通のAIリスクマネジメントポリシーとPlaybookを整備し、「リスクの高い案件にガバナンスリソースを重点配分する」ダッシュボード体制で運用している（NTT DATA Data Insight, 2026-08-26）。EU AI Act・米国規制・日本のガイドラインという3つの異なるルールへの同時対応が可能なのは、この記録と追跡の基盤があるからだ。
AIガバナンスの「2027年以降」：自律AIが問いを変える
現在のAIガバナンス議論の大半は、人間がAIに指示して使う「ツール型AI」を前提にしている。だが2026年後半から、指示なしで自律的に行動し、複数のシステムを横断して判断するエージェント型AIの導入が加速している。
エージェント型AIは、指示を受けて実行するだけでなく、自分でサブタスクを生成し、ツールを呼び出し、別のAIと通信しながら目標を達成しようとする。このアーキテクチャでは、「誰が何を決めたか」の追跡が格段に難しくなる。Microsoftが2026年のTransparency Reportで新たに「Agent observability（エージェントの可観測性）」をガバナンスの柱として加えたのはこの理由だ。
今後2〜3年で、AIガバナンスの問いは「何をさせないか」から「何が起きているかをリアルタイムで把握できるか」に移行する。監査ログ、エージェントの行動制限（サンドボックス）、人間への確認を挟むチェックポイントの設計——これらが次のガバナンス設計の核心になる。
月曜日からできる5つのステップ
大企業のような体制を一度に作る必要はない。まず下記の5つで始められる。
- インベントリを作る：社内で使われているAIツールを全てリストアップする（野良AI利用含む）。所有者と用途を明記する
- リスク分類する：リストのAI活用を「高・中・低」に分類し、高リスクに人間の最終承認ゲートを設ける
- 1ページの入力制限を作る：「AIに入れてはいけない情報」（個人情報・顧客データ・機密文書）を誰でも参照できる形で共有する
- ログを保存する：高リスク用途のAI活用について、いつ誰が使ったかの最低限の記録を残す体制を作る
- オーナーを指名する：AI専任でなくてもよい。CIO・法務・総務の誰かに「AIガバナンスの担当」を明示的に割り当てる
これだけで、ガバナンスがない8%の企業から脱することができる。日本企業の36%しかAIを組織的に活用できていない現状では、「記録と責任の設計がある」というだけで差別化になる。
まとめ
- AIガバナンスとはAI利用の「禁止ルール」ではなく「誰が何を決めたかを追跡できる組織設計」だ
- コンプライアンス（外部規制対応）とガバナンス（内部制御設計）は別物。ガバナンスなしにコンプライアンスは成立しない
- AIが意図した範囲を超えた行動をとる事例は世界中で増えている。設計の問題であって技術の問題ではない
- 中小企業が始めるべきは、①インベントリ、②リスク分類、③入力制限、④ログ保存、⑤オーナー指名の5つ
- 2027年以降はエージェント型AIのリアルタイム監視が次の設計課題になる
Lat91では、AIエージェントの設計・構築から運用監視の仕組みまで、企業のAI活用を安全かつ確実に機能させる支援を行っています。「社内でAIを使っているが、ガバナンスの設計に自信がない」という方は、まずは無料相談からどうぞ。