生成AI利用のセキュリティ｜情報漏洩を防ぐ7つのルール

「ChatGPTに機密情報を入力してもよいのか」「生成AIを業務で使うとき、情報漏えいリスクをどう防げばよいのか」——生成AIの業務利用が広がるなかで、企業には利便性とセキュリティを両立する運用設計が求められています。本記事では、情報漏えいを防ぐための7つの実務ルールを、業界事例や公的機関の指針も踏まえて整理します。読了の目安は約14分です。

1. なぜ生成AIのセキュリティが今、重要なのか

結論：生成AIの企業利用は急速に広がっています。しかし、利用ルールや社員教育が追いつかないまま使われると、機密情報・個人情報・知的財産の漏えいリスクが高まります。特に、会社が把握していない個人アカウントや未承認ツールを業務に使う「シャドーAI」は、見落とされやすいリスクです。

生成AIの企業活用は、すでに一部の先進企業だけの取り組みではなくなりつつあります。NRIの「ユーザー企業のIT活用実態調査（2025年）」（2025年11月25日発表、回答517社）では、生成AIを「導入済み」と回答した企業が2024年度の44.8％から2025年度は57.7％へ上昇しました。一方で、生成AI活用に関わる課題として最も多かったのは「リテラシーやスキルが不足している」で70.3％、次いで「リスクを把握し管理することが難しい」が48.5％でした。つまり、導入は進んでいるものの、正しく安全に使うための教育や運用設計には、まだ課題が残っています。

実際に、社員が業務情報を生成AIへ入力し、機密情報の外部流出が問題視された事例も報じられています。たとえば2023年には、Samsungの従業員が社内ソースコードをChatGPTへ入力したことをきっかけに、同社が従業員による生成AIツールの利用を一時制限したと報じられました（The Vergeによる報道）。生成AIは便利な一方で、一度外部サービスに送信した情報を完全に取り戻すことは難しいため、事前のルール整備が重要です。

2. 情報漏えいを防ぐ7つの実務ルール

2-1. ルール1：業務利用は会社が許可した環境に限定する

個人向けの無料版・有料版は、サービスごとにデータの学習利用、履歴保存、管理機能、監査ログの条件が異なります。個人が勝手に設定を変更できることや、会社が利用状況を把握しにくいこともリスクになります。業務利用では、ChatGPT Business／Enterprise、Claude Team／Enterprise、Azure OpenAI／Azure AI Foundry、Gemini in Workspace など、会社が契約・管理できる環境を基本にしましょう。

2-2. ルール2：機密情報は原則として入力しない

法人向けサービスであっても、顧客リスト、未公開財務情報、特許出願前の発明、人事評価データ、ソースコードなど、機密性の高い情報を無制限に入力してよいわけではありません。契約上「モデル学習に使われない」場合でも、ログ保持、監査、権限管理、社内コンプライアンスの観点から、入力する情報は最小限にすることが安全です。

2-3. ルール3：個人情報はマスキング・仮名化して扱う

顧客名、メールアドレス、電話番号、住所、社員番号などは、そのまま入力せず、「顧客A」「取引先B」「社員C」のように置換してから扱います。ただし、単に名前を置き換えただけでは、ほかの情報と組み合わせて再識別できる場合もあります。個人情報を含むデータを使う場合は、個人情報保護法や社内規程に照らして、法務部門・情報システム部門と事前に確認しておくことが大切です。

2-4. ルール4：学習利用・ログ・履歴の扱いを契約書で確認する

法人向けサービスでも、ベンダーごとに、データの学習利用、保存期間、監査ログ、人手レビュー、データ処理地域、削除方法は異なります。契約前には、「入力・出力が基盤モデルの学習に使われないか」「どのログが何日保持されるか」「管理者が利用状況を確認できるか」「DPA（データ処理契約）を締結できるか」を確認しましょう。

2-5. ルール5：シャドーAIを放置せず、公式ツールへ誘導する

社員が個人アカウントや未承認ツールで業務を行う状態を放置すると、情報漏えいのリスクだけでなく、ノウハウが個人に閉じてしまう問題も起こります。単に「禁止」とするだけでなく、会社として使ってよいツール、入力してよい情報、禁止される使い方を明確にし、現場が安全に使える公式ルートを用意することが重要です。

2-6. ルール6：定期的なセキュリティ研修とルール更新を行う

生成AIは機能更新が速く、プロンプトインジェクションや外部ツール連携など、注意すべきリスクも変化します。年1回の研修だけでは追いつきにくいため、少なくとも半期ごと、可能であれば四半期ごとに、社内ルールと研修内容を見直すとよいでしょう。

2-7. ルール7：インシデント発生時の報告・対応フローを明文化する

情報漏えいが発生した場合、または漏えいの疑いがある場合に、誰へ、どの順番で、何を報告するのかを事前に決めておきます。基本の流れは、(1) 即時報告、(2) 影響範囲の特定、(3) 取引先・関係部門・必要に応じた規制当局への通知、(4) 再発防止策の実施です。対応フローは文書化し、社員が迷わず動ける状態にしておきましょう。

3. 法人版生成AI（主要4製品）の比較

重要なのは、「法人版なら何を入力しても安全」と考えないことです。モデル学習に使われないこと、ログが残らないこと、社内で入力を許可してよいことは、それぞれ別の論点です。契約条件、管理者設定、社内ルールの3つをセットで確認しましょう。

4. 業界別のセキュリティ要件

4-1. 金融業

金融業では、顧客情報、取引情報、与信情報、未公開の投資判断材料などを扱うため、アクセス権限、ログ監査、外部委託管理、説明責任が特に重要です。カード情報を扱う業務ではPCI DSSなど、対象業務に応じた基準も確認します。

4-2. 医療・製薬

医療・製薬領域では、患者情報、治験データ、研究開発情報などの扱いに慎重さが求められます。匿名化・仮名化したつもりでも再識別リスクが残る場合があるため、個人情報保護法や医療情報システムの安全管理に関するガイドラインなどを踏まえ、入力可否を個別に判断する必要があります。

4-3. 公共・自治体

公共・自治体では、住民情報、税務情報、福祉情報などの機微性が高いデータを扱います。LGWANなどのネットワーク制約、自治体情報セキュリティポリシー、委託先管理の条件を確認し、生成AIの利用範囲を許可制で明確にすることが重要です。

4-4. 法律事務所

法律事務所では、弁護士の守秘義務やクライアント情報の保護が最優先です。契約書ドラフト、判例調査、文書要約に生成AIを使う場合でも、事件名、当事者名、相談内容などをそのまま入力しない設計が必要です。法律事務所向けの生成AI研修では、利便性だけでなく、守秘義務・情報管理・チェック体制まで含めて扱うことが重要です。

5. プロンプトインジェクション｜新たな攻撃手法

プロンプトインジェクションとは、悪意ある入力によって生成AIの振る舞いを意図しない方向へ変える攻撃です。OWASPのLLM01:2025 Prompt Injectionでも、LLMアプリケーションにおける主要リスクとして整理されています。

特に注意が必要なのは、外部のWebページ、PDF、メール、チケット、社内Wikiなどに悪意ある指示が埋め込まれているケースです。ユーザーがその情報をAIに要約させた結果、AIが「これまでの指示を無視する」「別の宛先へ情報を送る」といった意図しない動作につながる可能性があります。

対策としては、(1) システムプロンプトと外部入力を分離する、(2) 外部入力を信頼しすぎない、(3) AIがアクセスできるデータや権限を最小化する、(4) 出力を検証してから利用する、(5) 重要な判断や外部送信は人間が承認する、といった設計が有効です。特に、AIエージェントや社内システム連携を行う場合は、AIが実行できる操作範囲を慎重に制限する必要があります。

6. 具体例で見る生成AIリスクの失敗パターン

生成AIのリスクは、「機密情報を入力してしまう」だけではありません。対外向けチャットボットの誤回答、法務・労務・規制に関わる不正確な案内、AI出力を人が確認しない運用なども、企業の信用や法的責任に直結します。ここでは、公開情報で確認できる代表的な事例を2つ紹介します。

6-1. Air Canada：チャットボットの誤回答が法的責任につながった事例

2024年、カナダのAir Canadaは、自社Webサイト上のチャットボットが弔慰運賃（bereavement fares）に関して誤った案内をしたことをめぐり、顧客への補償を命じられました。顧客はチャットボットの案内を信じて手続きを進めましたが、実際のポリシーとは内容が異なっていました。ブリティッシュコロンビア州のCivil Resolution Tribunalは、チャットボットがWebサイトの一部である以上、企業はその情報に責任を負うと判断しています（American Bar Associationによる解説）。

この事例から分かるのは、「AIが勝手に言ったことだから企業は責任を負わない」とは考えにくいという点です。対外向けチャットボットを運用する場合は、回答範囲、参照する公式情報、誤回答時の修正フロー、人間が確認すべき領域をあらかじめ決めておく必要があります。

6-2. ニューヨーク市 MyCity：公的チャットボットが不正確な案内をした事例

2024年には、ニューヨーク市の中小事業者向けAIチャットボット「MyCity」が、事業者に対して不正確または法令に反する可能性のある案内をしていたと報じられました。たとえば、労務・住宅・店舗運営などに関する質問に対し、実際のルールと合わない回答を返したとされ、AP通信などが問題を報じています（AP通信の記事）。

この事例は、公的機関や企業が「問い合わせ対応をAI化する」際の注意点を示しています。回答に免責文を付けるだけでは不十分で、AIが答えてよい範囲、答えてはいけない範囲、参照元の更新、専門家へエスカレーションする基準を明確にすることが重要です。

7. 社内ガイドライン雛形｜10項目

1. 利用を許可するツール・プラン・アカウント
2. 入力禁止情報（機密度A/B/Cなどの定義）
3. 個人情報のマスキング・仮名化ルール
4. 出力内容の確認・二重チェック（対外向けチャットボットは回答範囲・参照元・責任者も定義）
5. ログ管理・監査・管理者権限
6. プロンプトインジェクションなど新しいリスクへの対応
7. ベンダー選定基準とDPA確認項目
8. 定期研修の頻度と対象者
9. 違反時の対応・是正フロー
10. 運用ルールの見直し頻度（半年に1回以上を目安）

社内ガイドラインを作る際は、総務省・経済産業省が公開しているAI事業者ガイドラインや、業界団体が公開している生成AI利用ガイドラインの雛形も参考になります。ただし、雛形をそのまま貼り付けるだけでは現場に定着しません。自社の業務、利用ツール、情報区分、承認フローに合わせて具体化することが重要です。

また、ガイドラインは一度作って終わりではありません。生成AIの機能、各社の規約、社内での利用状況は変化するため、少なくとも半年に1回は見直しの機会を設けるとよいでしょう。新しいツールを導入する場合や、AIエージェントのように外部システムと連携する場合は、通常のチャット利用とは別のリスク評価が必要です。

8. 和からの生成AI法人研修・セキュリティ研修

• 業界別カスタム研修：金融・医療・法律・公共・製造など、業界ごとの規制や実務に合わせて設計します。
• ガバナンス研修：利用ガイドラインの策定支援、運用フロー設計、管理者向け研修まで対応します。
• 教材の定期更新：モデル更新、規約変更、新しい攻撃手法に合わせて教材を見直します。
• 21事例の導入実績：法律事務所、製薬、自治体、システム開発など、さまざまな業界で支援実績があります。
• 渋谷・大阪・全国オンライン対応：対面研修だけでなく、全国から参加できるオンライン研修にも対応しています。

関連する記事・サービス

• 生成AI法人研修・企業研修
• 法人研修導入事例（21事例）
• 社会人のための生成AI活用教室
• 安心して使うための生成AIリスク対策入門
• 法人向け無料相談