生成AI時代の情報セキュリティ：新たなリスクと対策の基本
生成AIは資料作成や問い合わせ対応を一気に効率化する一方で、「入力した機密情報が外部で学習されないか」「社員が勝手に使っていないか」といった不安の声も増えています。便利さとリスクは同じ入口から入ってきます。本記事では、生成AIの業務利用で生まれる新しい情報セキュリティリスクを公的機関の情報に沿って整理し、中小・中堅企業が今日から着手できる現実的な対策とガバナンスの考え方を解説します。
生成AIが広げた情報セキュリティの「新しい入口」
これまでの情報セキュリティは、外部からの不正アクセスやマルウェア、メールによる攻撃など「守るべき境界の外から来る脅威」を主に想定してきました。生成AIが加わったことで、この前提が変わりつつあります。社員が業務の中でチャット画面に文章を貼り付ける、その何気ない操作が、社外のサービスへ情報を渡す新しい入口になり得るからです。
この変化は公的機関も重く見ています。IPA（独立行政法人情報処理推進機構）が2026年1月に公表した「情報セキュリティ10大脅威 2026」では、組織向けの脅威として「AIの利用をめぐるサイバーリスク」が第3位に初めて選出されました。1位のランサム攻撃、2位のサプライチェーンを狙った攻撃に次ぐ位置づけで、AIの利用が組織の重要リスクとして明確に認識された形です。
従来のセキュリティ対策との違い
従来型の攻撃は「悪意ある第三者」が主語でした。これに対し生成AIのリスクは、悪意のない社員の通常業務から生まれる点に特徴があります。攻撃を受けなくても、便利に使っているだけで情報が外に出たり、誤った出力をそのまま使ってしまったりする。つまり「入口を塞ぐ」だけでなく「使い方を設計する」視点が欠かせません。
押さえておきたい4つの代表的リスク
生成AIの業務利用で特に注意したいリスクを、公的機関が指摘している論点に沿って4つに整理します。自社のどの業務にどれが当てはまるかを考えながら読み進めてください。
①プロンプトを通じた情報漏洩
最も身近なのが、入力した情報が意図せず外部に残るリスクです。個人情報保護委員会は2023年6月に「生成AIサービスの利用に関する注意喚起」を公表し、事業者が個人情報を含むプロンプトを入力する際は、その個人データが応答結果の出力以外の目的で取り扱われないことを確認する必要があると示しています。顧客情報や未公開の経営情報を安易に貼り付ければ、サービスの仕様によっては学習データとして利用される可能性があります。
②シャドーAI（会社が把握していない利用）
シャドーAIとは、会社が許可・管理していない生成AIサービスを、社員が個人のアカウントなどで業務に使っている状態を指します。悪気がなく「早く仕事を終わらせたい」という善意から始まることが多いのが厄介な点です。どのツールに何を入力したかを会社が把握できないため、漏洩が起きても気づけず、原因の追跡もできません。禁止するだけでは地下に潜るだけで、安全な選択肢を用意することが現実的な解になります。
③出力の鵜呑みによる誤りと権利侵害
生成AIは事実と異なる内容を、もっともらしい文章で出力することがあります（ハルシネーションと呼ばれます）。IPAも、AIが生成した結果を十分に検証せず鵜呑みにすることで生じる問題や、他者の権利侵害を脅威の一つとして挙げています。出力をそのまま社外文書や意思決定に使えば、誤情報の発信や著作権・契約上のトラブルにつながりかねません。
④AIを悪用した攻撃の巧妙化
攻撃する側も生成AIを使います。従来は不自然な日本語で見分けられたフィッシングメールが自然な文面になり、標的に合わせた文章も量産しやすくなりました。IPAも「AIの悪用によるサイバー攻撃の容易化・手口の巧妙化」を指摘しています。受け取る側のリテラシー向上と、多要素認証などの基本的な備えがこれまで以上に重要になります。
今日から始められる対策の進め方
対策は「ルール」「技術」「教育」の3つの面から組み立てると抜け漏れが起きにくくなります。大がかりな仕組みを一度に導入する必要はありません。まずは次の順序で着手することをおすすめします。
- 現状把握：社内でどの業務に、どの生成AIサービスが使われているか（公式・非公式を含めて）を洗い出す
- ルール化：利用してよいツール・入力してよい情報の範囲・禁止事項を明文化し、相談窓口を決める
- 技術的な守り：法人向けプランや学習オプトアウト設定の活用、アカウント・アクセス権の管理、利用ログの確認
- 教育：入力前に「この情報を外部に出してよいか」を立ち止まって考える習慣を、具体例とともに周知する
- 見直し：運用しながらルールを定期的に更新し、新しいサービスや事例を反映する
ルールづくりは「使ってよい範囲」を示す
ルールは禁止事項の羅列より、「どう使えば安全か」を示すほうが現場で機能します。入力してよい情報と避けるべき情報（顧客の個人情報、未公開の財務情報、認証情報など）を具体例で示し、迷ったときの相談先を明記しておくと、シャドーAIを減らす効果が期待できます。ガイドラインの作り方は関連記事も参考にしてください。
技術とサービス仕様で守る
多くの生成AIサービスは、入力内容を学習に使わない設定や、法人向けの契約オプションを用意しています。利用するサービスのプライバシーポリシーと設定を確認し、業務では管理されたアカウントを使うことを基本にします。誰が何に使っているかを把握できる状態にしておくことが、万一のときの初動を早めます。
人のリテラシーが最後の砦になる
どれだけルールや設定を整えても、最後に入力ボタンを押すのは人です。「この一文を外部サービスに渡してよいか」を一瞬立ち止まって判断できるかどうかが、実務では大きな差を生みます。出力をそのまま使わず必ず確認する、という習慣づけもあわせて行うと効果的です。
経営として押さえるガバナンスの論点
個別の対策を束ねる上位の枠組みが、AIガバナンスです。総務省・経済産業省は「AI事業者ガイドライン」を策定しており、2026年3月に公表された第1.2版まで改定が重ねられています。同ガイドラインは「人間中心」を大前提に、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ（説明責任）、教育・リテラシー、公正競争確保、イノベーションという共通の指針を示しています。
ここで経営が持つべき視点は、「リスクがあるから禁止」ではなく「活用と管理を両立させる」という姿勢です。禁止は一見安全ですが、競争力を手放すことにもなり、結局シャドーAIを招きます。リスクの大きさに応じて使い方を設計し、責任の所在を明確にしておく。これが生成AI時代のガバナンスの要点です。なお、法務・個人情報保護に関わる具体的な判断は、一般的な情報を踏まえたうえで、必要に応じて専門家に相談することをおすすめします。
問うべきは「使うか・使わないか」ではなく、「どの情報を、どのサービスで、誰の責任で使うか」である。
この記事のまとめ
- 生成AIのリスクは攻撃されなくても日常業務から生まれる。IPA「10大脅威 2026」でもAIの利用が組織向け第3位に初選出された
- 代表的リスクは、プロンプトからの情報漏洩・シャドーAI・出力の鵜呑み・攻撃の巧妙化の4つ
- 対策は「ルール・技術・教育」の3面で。現状把握から始め、使ってよい範囲を示すルールが現場で機能する
- 経営は禁止ではなく活用と管理の両立を。AI事業者ガイドラインの共通指針を土台に責任の所在を明確にする
よくある質問
社員にはChatGPTなどの生成AIを使わせないほうが安全ですか？
全面禁止は一見安全ですが、競争力を失い、かえって会社が把握できない「シャドーAI」を招きがちです。使ってよいツールと入力してよい情報の範囲を決め、安全に使える選択肢を用意するほうが現実的です。
生成AIに入力した情報は必ず学習に使われるのですか？
サービスや契約・設定によって異なります。多くのサービスが入力を学習に使わない設定や法人向けプランを用意しています。利用前にプライバシーポリシーと設定を確認し、顧客の個人情報や未公開情報の入力は避けるのが基本です。
何から対策を始めればよいですか？
まず社内で公式・非公式を含めどの業務にどの生成AIが使われているかを洗い出す「現状把握」から始めます。そのうえで利用ルールの明文化、サービス設定・アカウント管理、社員教育の順に広げると抜け漏れが起きにくくなります。
生成AIの業務活用と情報セキュリティ・ガバナンスの両立にお悩みの際は、組織に合わせたルールづくりや社員教育の設計をご支援します。お気軽にご相談ください。
支援の具体例 → ノアブリッジの導入事例を見る