AIに個人情報を入れてはいけない理由｜法人のリスクと対策

AIツールの業務活用が広がるなか、「なぜAIに個人情報を入れてはいけないのか」を明確に説明できる担当者は、まだ多くない。本記事では、法的根拠・技術的リスク・実際の漏洩事例を踏まえながら、法人が押さえるべきリスクの全体像と、実務で使える対策を体系的に解説する。

AIに個人情報を入れてはいけない5つの理由

「AIに個人情報を入れてはいけない」という認識は広まりつつあるが、その理由を具体的に説明できなければ、社内ルールの策定も従業員への説明も説得力を欠く。以下では、法的観点と技術的観点の両面から5つの理由を整理する。

① 学習データとして再利用されるリスク

多くの生成AIサービスは、ユーザーが入力したプロンプトをモデルの改善・再学習に利用する仕組みを持っている。デフォルト設定のまま利用していると、顧客の氏名・連絡先・取引情報といった個人情報が、AIモデルの学習データとして取り込まれる可能性がある。

学習に利用された情報は、別のユーザーへの回答として統計的に結びついた形で出力されることがある。これは意図的なデータ共有ではなく、モデルが「記憶」した内容が滲み出る形で発生するため、発見も防止も困難だ。個人情報保護委員会も2023年6月の注意喚起のなかで、「入力した個人情報が生成AIの機械学習に利用され、他の情報と統計的に結びついた上で出力されるリスクがある」と明確に指摘している（個人情報保護委員会, 2023年6月2日）。

② 個人情報保護法に違反するリスク

個人情報保護法（個情法）は、個人情報を取り扱う事業者に対して「利用目的の特定・通知」と「目的外利用の禁止」を義務付けている。顧客情報をAIサービスに入力する行為は、その情報を「AIサービス事業者（第三者）に提供する」行為と解釈され得る。本人の同意なしに第三者提供を行えば、個情法第27条違反となるリスクがある。

特に注意が必要なのは、病歴・信条・犯罪歴などの「要配慮個人情報（センシティブ情報）」だ。これらは原則として本人の明示的な同意なしに取得・提供することが禁止されており、AIへの入力は即座に法令違反になりかねない。

③ 情報漏洩インシデントのリスク

AIサービス側の技術的な不具合によって、入力した情報が意図せず外部に漏洩する事例は現実に発生している。2023年3月にはOpenAIのバグにより、一部ユーザーの会話タイトルや決済情報（クレジットカード番号の末尾4桁・氏名・住所など）が別のユーザーに表示されるインシデントが発生した。

2025年以降も、AIサービス起因の漏洩は継続している。2025年1月には中国のAI企業DeepSeekのデータベースが認証なしでインターネットに公開され、ユーザーのチャット履歴・APIキー・サーバー設定情報が含まれた100万行超のログが外部から閲覧可能な状態になった（SpikeStudio, 2026年）。同年6月にはMicrosoft 365 CopilotのEchoLeak脆弱性（CVE-2025-32711）が公表され、メール内の指示を正規コマンドとして実行してしまう欠陥が確認された。自社がどれほど適切に利用していても、サービス側のセキュリティ品質に依存するリスクは排除できない。

④ 第三者への無断共有・転送リスク

AIサービスはクラウド上で動作し、入力されたデータはサービス事業者のサーバーで処理される。利用規約によっては、品質改善・バグ修正・セキュリティ監査などの名目でサードパーティへのデータ転送が認められている場合がある。利用者が意図せず同意していることも多く、個人情報が国境を越えて転送されれば、GDPRなど海外規制への抵触も問題となる。

また、アカウントの共有や従業員の退職後のアカウント引き継ぎが適切に管理されていない場合、過去の会話履歴ごと情報が引き継がれるリスクもある。組織内での運用ミスが「第三者への情報流出」という形で顕在化するケースは、AIに限らず後を絶たない。

⑤ 本人の権利（削除・訂正等）を侵害するリスク

個情法は本人に対して、自己の個人情報の開示・訂正・削除を請求する権利を認めている。AIサービスに入力した個人情報が学習データに組み込まれた場合、その情報を削除・訂正することは技術的に極めて困難だ。モデルの重みに統計的に埋め込まれた情報は、特定して取り出すことができない。

本人から削除請求を受けたにもかかわらず対応できない事態は、個情法上の義務不履行であるとともに、企業としての信頼を大きく損なう。AIサービスへの入力前に「削除対応の可否」を確認することは、法的リスク管理の基本となる。

入力してはいけない情報の種類と判断基準

「AIに個人情報を入れてはいけない」というルールを実務に落とし込むには、具体的な判断基準が不可欠だ。情報の種類を3段階に分類し、現場が迷わず判断できる基準を示す。

絶対に入力禁止の情報

以下の情報は、いかなる状況でもAIへの入力を禁止すべきだ。漏洩した場合の被害が甚大で、かつ法的責任が直接問われるリスクが高い。

• 要配慮個人情報：病歴・障害・犯罪歴・信条・人種・国籍など（個情法第2条第3項）
• 認証情報：パスワード・秘密鍵・APIキー・社内システムの接続情報
• 金融情報：クレジットカード番号・口座番号・取引履歴
• 本人特定が容易な顧客情報：顧客ID＋氏名＋連絡先の組み合わせ
• 未公開の営業秘密・M&A情報：個人情報ではないが漏洩リスクが致命的

条件次第で入力可能な情報

氏名・所属・連絡先といった一般的な個人情報は、以下の3条件を全て満たす場合に限り、入力を許容できる。第一に、AIサービスの学習利用がオフになっていること（またはエンタープライズ契約で学習除外が保証されていること）。第二に、仮名化（かめいか：氏名を記号に置き換える処理）またはマスキング（一部を伏せ字にする処理）を行い、本人特定ができない状態にしてあること。第三に、利用目的の範囲内での処理であることを確認していること。

これら条件の充足を現場任せにせず、申請・承認フローとして制度化することが法人には求められる。

入力しても問題ない情報

個人を特定できない統計データ・架空のシナリオ・公開情報の要約・社内の業務フロー（個人情報を含まないもの）は、AI入力の観点では問題が生じない。ただし、営業秘密・未公開情報・競合他社への機密情報については、個人情報とは別の観点で入力を禁止すべき場合がある点に留意する。

シャドーAI対策ガイド｜社員のAI利用に潜むリスクと今すぐできる対策

「社員がAIツールを使っているかもしれないが、実態が把握できていない」
——そんな不安を抱えていませんか？

IBMの調査によると、シャドーAI起因のデータ漏洩は通常より67万ドル（約1億円）コストが増大するという結果が出ています。

本資料では、シャドーAIの3大リスクと今すぐ始められる5つの対策ステップに加え、そのまま使えるAI利用ポリシー策定チェックリスト・入力禁止情報リストを収録しています。

以下から無料でダウンロードいただけます。

個人情報保護法が事業者に求める義務

AIを業務利用する事業者は、「AIを使う側」としての個情法上の義務を正確に把握する必要がある。法律の文言を正しく理解することが、適切な社内ルール策定の第一歩となる。

利用目的の特定・通知義務

個情法第17条は、個人情報を取り扱う際に利用目的をできる限り特定することを求める。顧客から取得した情報を「業務効率化のためのAI処理」に使用する場合、その旨を利用目的に含めていなければ目的外利用となる。プライバシーポリシーや利用規約に「生成AIを用いた処理」の記載がない事業者は、見直しが急務だ。

第三者提供の制限とAIサービスの関係

個情法第27条は、本人の同意なしに個人情報を第三者に提供することを禁じる。クラウド型AIサービスへのデータ送信が「第三者提供」に該当するかどうかは、サービスの契約形態によって異なる。委託先として個人情報保護法上の管理義務を負うケース（第三者提供の例外として扱えるケース）もあるが、その場合でも委託先の監督義務（第25条）が生じる。

AIサービス事業者が「個人情報の処理を委託されたもの」として扱われる契約になっているかを確認し、なっていない場合は本人同意の取得または匿名加工・仮名加工による情報の変換が必要だ。

個人情報保護委員会の注意喚起（2023年6月）

個人情報保護委員会は2023年6月2日、「生成AIサービスの利用に関する注意喚起等について」を公表した（個人情報保護委員会, 令和5年6月2日）。この注意喚起では、生成AIサービスを利用する事業者に対して3点を求めている。

一点目は、個人情報を含むプロンプトを入力する場合、当該情報の利用目的の範囲内であることを十分確認することだ。二点目は、生成AIサービス事業者が個人情報を機械学習に利用する場合、個人情報保護法上の義務（利用目的の通知・第三者提供制限等）を遵守しているかを確認することだ。三点目は、一般利用者に向けて「入力情報が学習に使われ他のユーザーへの出力に影響する可能性がある」というリスク認識を促すことだ。この注意喚起は法的拘束力を持つ行政指導ではないが、規制当局の見解として実務上の重みは大きく、対応を怠った場合の行政調査リスクも念頭に置く必要がある。

AIに個人情報を入れてしまった場合の緊急対応

「シャドーAI（未承認のAI利用）」による誤入力は、どれほど社内ルールを整備していても完全にゼロにはならない。誤入力が発覚した際に被害を最小化するための初動対応を、あらかじめ手順として定めておくことが重要だ。

直ちに行うべき4つのアクション

誤入力を認識した時点で、以下の4つのアクションを速やかに実行する。対応の遅延は、漏洩リスクの拡大と法的責任の加重につながる。

1. 会話履歴の即時削除：AIサービスの設定画面から当該会話を削除し、学習データへの取り込みを可能な限り防止する。削除前にスクリーンショットで証跡を保存しておくこと。
2. セキュリティ設定の確認：学習利用オプトアウトの設定が有効になっているかを確認し、無効であれば直ちに有効化する。ChatGPTの場合は「設定＞データコントロール＞モデル改善をオフ」で対応できる。
3. AIサービス事業者への連絡：個人情報が入力されたことをサービス事業者のサポート窓口に報告し、データの削除要請と保持状況の確認を行う。事業者の回答は記録として保管する。
4. 入力された情報の特定とリスク評価：何の情報が入力されたかを特定し、漏洩した場合の影響範囲を評価する。要配慮個人情報や大量の個人情報が含まれている場合は、個人情報保護委員会への報告義務（個情法第26条）が生じる可能性がある。

社内報告と再発防止の手順

初動対応と並行して、社内の情報セキュリティ担当・法務・個人情報保護管理者への報告を行う。漏洩の可能性がある場合は、個情法の報告・通知義務（1,000件以上の漏洩または要配慮個人情報の漏洩等）に該当するかを速やかに法務部門と確認する。

再発防止策として、誤入力が発生した原因（ルールの不明確さ・周知不足・承認フローの欠如など）を特定し、社内ガイドラインの改訂と従業員への周知を行う。単なる口頭注意ではなく、仕組みによる再発防止が求められる。

法人が取るべきAIセキュリティ対策

AIセキュリティ対策は、「契約・設定」「運用ルール」「技術的統制」の3層で整備することで、それぞれの弱点を補完し合う体制を構築できる。どれか一つに頼るだけでは、抜け穴が生まれる。

契約・設定レベルの対策（法人向けプラン利用）

最も確実な対策の一つは、法人向けプランの利用だ。ChatGPT TeamおよびChatGPT Enterpriseでは、入力データが学習に使用されないことが契約上保証される。同様に、Microsoft Copilot for Microsoft 365やGoogle Gemini for Google Workspaceも、法人契約ではデータの学習利用除外が標準となっている。

個人アカウント（無料・有料プラン）のまま業務利用している従業員が存在する「シャドーAI」状態は、法人契約へ一本化することで大幅に低減できる。ただし、契約上の保証があっても、不要な個人情報の入力を習慣化しないことが根本的な対策だ。

運用ルールの対策（匿名化・仮名化・申請制）

入力前に個人情報を匿名化（とくめいか：個人を特定できないよう加工する処理）または仮名化する手順を標準化することで、万が一のデータ漏洩時の被害を大幅に軽減できる。たとえば、顧客名を「顧客A」に置き換えてからAIに入力する運用は、追加コストなしで導入できる即効策だ。

さらに、個人情報を含む可能性がある業務へのAI利用を申請制にすることで、利用実態の可視化と承認の記録を残せる。生成AIガイドラインの策定にあたっては、どの情報が入力可能かを明記した「入力可否リスト」を添付すると現場での運用がしやすくなる。

技術的対策（DLP・監査ログ）

DLP（Data Loss Prevention：データ損失防止）ツールは、特定のパターン（クレジットカード番号・マイナンバーなど）を検出し、AIサービスへのアップロードをリアルタイムでブロックする。Microsoft Purviewなど既存のセキュリティスタックに含まれるDLP機能を活用することで、追加費用を抑えながら導入できる。

監査ログ（利用記録）の取得は、インシデント発生後の原因調査と個情法上の報告対応に不可欠だ。誰がどのAIツールをいつ利用したかを記録する仕組みを整え、定期的にログレビューを行うことで、ルール逸脱の早期発見が可能になる。

AI研修を検討している企業担当者の中には、「どこまで研修で教えてくれるの？」「そもそも広告業務でAIを活用できるの？」といった疑問をお持ちの方もいるかと思います。

株式会社KAGEMUSHAでは、AI研修設計の壁打ちや広告業務へのAI導入のご相談を無料で実施しています。

こちらのボタンからお気軽にご相談ください！

社内ルール策定のポイント

AIセキュリティ対策を継続的に機能させるには、技術的な対策だけでなく、従業員が理解して実践できる社内ルールの整備が欠かせない。生成AIガイドライン策定において、以下の3点を必ず盛り込む。

入力禁止情報リストの作成

「個人情報を入れるな」という抽象的な指示だけでは、現場での判断が困難になる。要配慮個人情報・認証情報・金融情報・本人特定が容易な顧客情報などを具体例とともにリスト化し、「絶対禁止」「条件付き可」「入力可」の3段階で分類して提示する。このリストはガイドライン本体に添付するとともに、業務システムのAIツール入力画面近くに表示することで、日常的な参照を促す。

利用承認ツールリストの整備

従業員が利用してよいAIツールを承認済みリストとして明示することで、シャドーAIの発生を抑制できる。リストには、各ツールの学習利用の有無・個人情報入力の可否・利用時の注意事項を記載する。新たなAIツールを業務で使いたい場合は情報システム部門への申請を義務付け、未承認ツールの利用を禁止するルールを設ける。

従業員への研修・周知

ルールを作るだけでなく、従業員全員が内容を理解して行動できるよう研修と定期的な周知を行う。研修では、個情法の基本・AIリスクの具体例・誤入力時の対応手順を扱う。特に、生成AIのリスクが身近な業務にどう関わるかを実例で示すことで、「自分ごと」として捉えてもらいやすくなる。年1回の定期研修に加え、新入社員研修・新ツール導入時の追加研修も実施することを推奨する。

まとめ

AIに個人情報を入れてはいけない理由は、学習データへの取り込み・個人情報保護法違反・情報漏洩インシデント・第三者への無断共有・本人の権利侵害という5つのリスクに集約される。これらは「可能性の話」ではなく、実際のインシデントと法的規制に裏付けられた現実の脅威だ。

対応の方向性は明快で、契約・設定レベルの保護（法人向けプラン）・運用ルールの整備（入力禁止リスト・申請制・匿名化）・技術的統制（DLP・監査ログ）を3層で組み合わせることが基本となる。どこか一つを整備しただけでは不十分で、3層のバランスが重要だ。

社内でのAIガイドライン策定や従業員研修の設計に難しさを感じる場合、外部の専門知見を活用することが現実的な選択肢となる。KAGEMUSHAのような生成AI導入支援の実績を持つ専門組織に相談することで、自社の業種・規模・利用状況に合わせた実効性のある対策を効率よく構築できる。