生成AIに個人情報を入れても大丈夫か - 社内利用の法的リスクと実務対策
2023年3月、Samsungのエンジニアは3件の情報漏洩を20日以内に起こした。半導体の設計コード、社内会議の文字起こし、テスト工程のデータ——いずれも悪意はなかった。ChatGPTに入力しただけだ。Samsung は即日、全社員への生成AI使用禁止令を出した。
日本でもこのリスクは他人事ではない。個人情報保護委員会（PPC）は2023年6月、OpenAIに対して直接注意喚起を行い、企業向けに生成AIへの個人情報入力リスクの周知を求めた。だが多くの企業では、社員が今日もChatGPTやClaudeに顧客名・住所・契約内容を貼り付けている。
この記事では、生成AIへの個人情報入力が法的にどのような問題をはらんでいるか、そして現実的に何をすべきかを整理する。
「個人情報を入れてはいけない」だけでは足りない理由
多くの企業が取るのは「社内ルールで個人情報の入力を禁止する」という対応だ。これ自体は正しいが、それだけでは不十分な理由がある。
問題は「なぜダメか」が浸透していないことだ。禁止の根拠が不明確だと、「少しくらいなら」という判断が生まれる。現場は毎日、顧客とのやりとりを要約させたい、契約書のドラフトを作らせたい、問い合わせ対応文を生成させたいという誘惑に直面している。禁止の理由を理解していなければ、その誘惑に負ける。
もう一つの問題は、リスクが技術的な「漏洩」だけではないことだ。日本の個人情報保護法（APPI）の観点では、データが外部サーバーに送信された時点で「第三者提供」が発生する。これは情報が漏れたかどうかに関係なく、法的に問題になりうる。
個人情報保護法で何が問題になるのか
個人情報保護法の関連条文を整理する。難解に見えるが、実務的に押さえるべき点は3つだ。
利用目的の制限（第17・18条）: 個人情報は取得時に告知した利用目的の範囲でしか使用できない。顧客から収集した情報の利用目的に「生成AIによる処理」が含まれているケースは、現時点でほぼない。顧客に「あなたの情報をAIサービスに送信します」と同意を取っていなければ、入力すること自体が目的外利用になりうる。
第三者提供の制限（第27条）: 個人情報を第三者に提供する場合は、原則として本人の事前同意が必要だ。ChatGPTなどのクラウドAIサービスに個人データを入力すると、そのデータはOpenAI等のサーバーに送信される。これが「第三者提供」にあたりうるとPPCは解釈している。
要配慮個人情報の厳格規制: 健康・病歴・犯罪歴・人種等の要配慮個人情報は、本人の明示的な同意なしに第三者提供することは原則禁止だ。医療・人事・法務部門が生成AIを使う際は、特に慎重な対応が必要になる。
一つ重要な整理をしておく。PPCは「学習済みAIモデルのパラメータは個人データにあたらない」と明確にしている。つまり「ChatGPTが私の個人情報を学習している」という懸念は技術的には正確ではない（APIや有料プランでは入力データは学習に使われない設定が標準になっている）。問題は「モデルが何を学習したか」ではなく、「入力時にデータがOpenAIのサーバーに送信されること」だ。
図1: 生成AIへの個人情報入力と個人情報保護法の関係
実際に何が起きているか - 国内外の事例
Samsung事件は序章に過ぎない。その後も事例は積み重なっている。
2023年3月、ChatGPTのシステムバグが発生し、ChatGPT Plusの有料ユーザーのデータ（名前・メールアドレス・住所・クレジットカード番号の一部）が約9時間にわたって他のユーザーに漏洩した。被害を受けたのは全Plusユーザーの約1.2%だ。
同年6月には、シンガポールのセキュリティ企業Group-IBが、ダークウェブ上でChatGPTの認証情報101,134件が販売されていることを確認した。このうち660件は日本人ユーザーのものと推定された。社員のChatGPTアカウントが乗っ取られれば、そのチャット履歴に残った個人情報が流出する。
日本国内では、2025年3月に保険会社が顧客の個人情報をAIを活用したワークフローを通じて同意なく送信していたとして、金融庁から業務改善命令を受けた事例が複数報告されている。
重要なのは、いずれのケースも悪意がなかったという点だ。「便利だから使った」「禁止されているとは思わなかった」——この構造が繰り返されている。
規制の最新動向: 2025年以降の変化
2025年以降、規制環境は大きく変わった。
日本では2025年9月1日、AI推進法（人工知能関連技術の研究開発及び活用の推進に関する法律）が全面施行された。事業者に対してAIの透明性確保とリスク評価義務が課されている。また経産省は2025年2月に「生成AIサービス利用に関する契約チェックリスト」を公開し、企業がAIベンダーとの契約で確認すべき事項を整理した。
個人情報保護委員会は2023年の注意喚起以降、生成AIと個人情報の関係について追加ガイダンスを継続的に発信している。特に要配慮個人情報（健康・病歴等）については、生成AIへの入力を原則禁止とする立場を明確にしている。
EUでは2025年8月からAI法（EU AI Act）が段階的に適用開始となり、高リスクAIに対するデータ保護影響評価（DPIA）が義務化された。日本の規制はEUほど強制力はないが、グローバル展開する企業や欧州との取引がある企業は、GDPR基準での対応も求められる。
具体的に何をすればいいか - 2段階の実務対策
では実際にどう対応するか。経産省や実務現場での標準として定着しつつある2段階アプローチを紹介する。
第1層（デフォルト禁止）: 全社員に対し、外部の生成AIサービスへの個人情報・企業秘密・機密情報の入力を原則禁止する。禁止の理由（第三者提供の問題）を明示した上でルールを定める。「禁止」と言うだけでなく「なぜか」を伝えることで、現場での自律的な判断が育つ。
第2層（例外的許可）: 特定の用途・環境でのみ許可する例外ルートを設ける。許可条件は以下のすべてを満たすこと——①AIサービスと「学習データへの不使用」を含む業務委託契約を締結している（OpenAI Enterprise, Claude for Enterprise等）、②データ保管期間が明示されている、③監査ログが取得できる。この条件を満たしてはじめて、業務での個人情報入力を許可する。
図2: 企業の生成AI利用ポリシー設計の2層構造
「でも現実的に厳しくできない」という反論への回答
「社員の業務効率を損なうからそこまで厳しくできない」——この懸念はもっともだ。禁止だけでは現場が止まる。
ただ、企業向けプランへの切り替えは思ったよりハードルが低い。OpenAI Enterpriseは年間契約ベースで、ユーザー数と使用量によるが中小企業規模では月数万円程度から始められる。学習非使用・データ保全の契約保護を得るコストとして、現場の事故リスクと比べれば合理的な投資だ。
「社員が全員同じことをやっていれば大丈夫」という発想もある。だが個人情報保護法での責任は社員ではなく「事業者」が負う。「知らなかった」「禁止していなかった」は免責にならない。
もう一つの現実的な選択肢は、「プロセスを変える」ことだ。個人情報をAIに渡すのではなく、個人情報を除いた情報（匿名化・仮名化したデータ）を扱う業務フローを設計すれば、規制上のリスクを大幅に低減できる。例えば、顧客名を「A社」「B様」などのプレースホルダーに変えてからAIに送るという簡単な手順でも、法的リスクは大きく変わる。
まとめ
- 生成AIへの個人情報入力は、情報漏洩がなくても個人情報保護法上の「第三者提供」にあたりうる
- PPCは2023年6月にOpenAIへ直接注意喚起。要配慮個人情報の入力禁止は明確
- 2025年9月施行のAI推進法で、企業のAIリスク管理義務は強化された
- 実務対応は「全社禁止（第1層）+ 企業向け契約を結んだ環境での例外許可（第2層）」が標準
- 禁止だけでなく「理由の説明」と「代替手段の提示」がセットでなければ、現場のリスクは減らない
生成AIと個人情報保護の関係は、規制が整備される前に技術と実務が先行してしまった領域だ。「後から問題になった」とならないための準備が、今必要とされている。
Lat91では、生成AIの社内利用ポリシー設計から、企業向けAI環境の構築まで支援しています。
「社内のAI利用ルールをどう作ればいいか」「現状のやり方のリスクを評価したい」という方は、無料相談からお気軽にどうぞ。