技術ブログ2026年11月18日Eunji Han2 閲覧

AXセキュリティとは?AI移行時に守るべきセキュリティチェックリスト

AXセキュリティとは、AIトランスフォーメーション(AX)の過程で、AIモデル、データ、AIエージェント、およびそれらを利用する人々を保護するセキュリティ体制です。AXの段階別セキュリティチェックポイント、プロンプトインジェクション、データ漏洩、エージェントの権限など主要な脅威、国内基準、企業のAI導入セキュリティチェックリストをまとめました。

#AXセキュリティ#AXセキュリティとは#AIトランスフォーメーションセキュリティ#企業AI導入セキュリティ#AI導入セキュリティ#AX時代のセキュリティ#AIセキュリティ#生成AIセキュリティ#AIエージェントセキュリティ#MCPセキュリティ#AIガードレール#シャドウAI#AIガバナンス#OWASP LLM Top 10#AXセキュリティチェックリスト
AXセキュリティとは?AI移行時に守るべきセキュリティチェックリスト
Eunji Han

2026年11月18日

重要な回答: AXセキュリティとは、企業がAIトランスフォーメーション(AX、AI Transformation)を推進する中で新たに生じるリスク、すなわちAIモデル、学習/検索データ、AIエージェント、外部ツール連携、およびAIを利用する従業員を保護するセキュリティ体制です。重要なのは、AI導入後にセキュリティを追加するのではなく、課題選定から開発、連携、運用まで、各段階でセキュリティ統制を共に設計することです。

  1. AIを保護するセキュリティ:プロンプトインジェクション、機密情報漏洩、エージェントの過剰な権限、サプライチェーン・データ汚染、シャドウAIへの対応
  2. 段階別統制:企画(データ分類)→ 開発(RAGアクセス制御)→ 連携(MCP権限)→ ガードレール(入力・出力検査)→ 運用(ログ・ガバナンス)
  3. AIを活用したセキュリティ:AIセキュリティ監視のように、AIをセキュリティ運用自体に活用する領域

最終更新:2026年11月

AXセキュリティとは?意味と範囲

AXセキュリティは「AIトランスフォーメーションのプロセス全体を対象とするセキュリティ」という意味で、大きくAIを保護するセキュリティとAIを活用したセキュリティの二つの柱に分かれます。企業がAIを導入する際にまず考慮すべきは、最初の柱です。AIが社内データにアクセスし、業務システムを呼び出す瞬間、既存のセキュリティ体制では見られなかった新たな攻撃経路が生じるためです。

区分AIを保護するセキュリティ (Security for AI)AIを活用したセキュリティ (AI for Security)
目的AIモデル、データ、エージェント、ユーザーを攻撃や誤用から保護AIで脅威の検知、分析、対応を迅速かつ正確に
代表的なリスク・課題プロンプトインジェクション、機密情報漏洩、エージェント権限の誤用、シャドウAI警報の過剰・誤検知、セキュリティ人材不足
代表的な手段AIガードレール、最小権限、個人情報マスキング、ツール呼び出しログAIセキュリティ監視、自動分類・対応
関連記事LLMガードレール構築ガイドAIセキュリティ監視ソリューション

AX段階別セキュリティチェックポイント

AXセキュリティは段階ごとに確認すべき質問が異なるため、AI導入ロードマップの各段階にセキュリティチェックを組み込むことが最も効果的です。以下の表は、SeekersLabのAXプロジェクト実践ガイドシリーズの順序に合わせて、段階別のセキュリティポイントをまとめたものです。

AX段階セキュリティ質問主要統制詳細はこちら
1. 企画・課題選定AIに渡すデータに個人情報・機密が含まれていますか?データ分類、処理根拠確認、使用範囲定義AX第1回:AI導入戦略
2. 開発 (RAG・モデル)検索結果がユーザー権限を超える文書を表示していませんか?文書単位のアクセス制御、出典表記、モデル・ライブラリの出典検証AX第2回:オープンソースRAG構築
3. システム連携 (MCP・ツール)AIエージェントが必要以上の権限で社内システムを呼び出していませんか?ツールホワイトリスト、最小権限、書き込み前の人間確認AX第3回:MCPセキュリティガイド
4. ガードレール・テストプロンプトインジェクションと個人情報漏洩を防ぎますか?正常なリクエストは通過しますか?入力・出力ガードレール、レッドチームテストAX第4回:LLMガードレール
5. 運用・ガバナンス誰が何を尋ね、AIが何を実行したかを追跡できますか?プロンプト・ツール呼び出しログ、人間によるレビュー、規制対応証跡AX第5回:AIガバナンスとLLMOps

シリーズ全体はAXプロジェクト実践ガイドでご覧いただけます。AXの概念はAXの意味:AIトランスフォーメーション(AX)とは?にまとめられています。

AXセキュリティの主要な脅威6つ

AXセキュリティ脅威のほとんどは、OWASP Top 10 for LLM Applications 2025がまとめたリスクカテゴリに対応させることができます。以下は、企業におけるAI導入で頻繁に問題となる6つの脅威と対応方向です。

脅威OWASP分類発生メカニズム対応
プロンプトインジェクションLLM01ユーザー入力や文書・メールに隠された指示により、AIがポリシーから逸脱する入力・出力ガードレール、外部コンテンツと指示の分離
機密情報漏洩LLM02プロンプト、応答、ログを通じて個人情報や機密が流出する個人情報マスキング、外部送信制御
サプライチェーンリスクLLM03未検証のモデル、ライブラリ、プラグインの使用出典検証、バージョン固定、ホワイトリスト
データ・モデル汚染LLM04学習・検索データに悪意のある内容が混入し、結果が歪められるデータ出典管理、変更監視、評価
過度な権限・自律性LLM06AIエージェントが広範な権限で誤った行動を実行する最小権限、重要行動の承認、ツール呼び出しログ
シャドウAI(組織管理領域)未承認のAIツールへの業務データ入力使用状況把握、承認された代替手段の提供、ポリシー

脅威別の詳細については、以下の記事で取り上げています。

企業AI導入セキュリティ:国内基準と支援

国内でもAXセキュリティに関連する基準や支援事業が増加していますので、業種に合った基準をまず確認することをお勧めします。

  • 個人情報保護委員会:2025年8月に「生成型人工知能(AI)開発・活用に関する個人情報処理案内書」を発表し、生成型AIの開発・活用段階別の個人情報処理基準を案内しました。
  • 金融分野:金融保安院は2026年10月にAIエージェントセキュリティ評価基準(案)を策定し、点検範囲を実行権限・ツール実行承認制御まで拡大すると発表しました(報道基準、草案)。詳細については金融分野AIエージェントセキュリティ評価基準にまとめました。
  • AI基本法:高影響AIと生成型AIの表示義務などについてはAI基本法施行内容と企業の義務をご参照ください。
  • KISA 「地域拠点産業AX転換セキュリティ強化支援」:地域拠点産業の安全なAX転換のため、ロボット・宇宙・スマート船舶・自動運転車・スマート工場・スマートシティ・デジタルヘルスケア・没入型コンテンツ分野のセキュリティモデル(ガイド)を普及させ、セキュリティリビングラボ(板橋スマート工場、原州デジタルヘルスケア)を運営しています。

AXセキュリティチェックリスト:企業AI導入前に確認すべき12項目

以下の12項目をAI導入プロジェクトの段階別チェック項目として使用することで、AXセキュリティの基本フレームワークを確立できます。

  1. AIに投入するデータを分類し、個人情報・機密が含まれるかを確認しました。
  2. 外部LLM APIを使用する場合、入力データの学習活用可否と保管期間を確認しました。
  3. RAG検索結果がユーザーの元の文書権限を超えないよう、アクセス制御を適用しました。
  4. 使用するモデル、ライブラリ、プラグインの出典とバージョンを記録しました。
  5. AIエージェントに専用アカウントと最小権限を付与しました(人間アカウントとの共有禁止)。
  6. 送金、削除、外部送信などの元に戻せない行動には、人間による承認段階を設けました。
  7. MCPなどで連携するツールサーバーをホワイトリストで管理します。
  8. 入力・出力ガードレールでプロンプトインジェクションと個人情報漏洩を検査します。
  9. 正常なリクエストと攻撃的なリクエストを組み合わせたテストセットで定期的に検証します。
  10. プロンプト、応答、ツール呼び出しをログとして記録し、保管期間を定めました。
  11. 承認されたAIツールリストと使用ポリシーを従業員に案内しました(シャドウAI対応)。
  12. AI関連事故発生時の対応手順と担当者を定めました。

入力・出力検査、マスキング、ログを一元的に運用するには、KYRA AI GuardrailのようにLLMの前段にガードレール層を設ける方法があり、PCで利用されるAIツールを把握するには、KYRA AI PCのようなエンドポイント方式があります。

AIを活用したセキュリティ:AX時代のセキュリティ監視

AXはセキュリティ運用自体も変革しており、その代表的な例がAIが警報を分類し、分析を支援するAIセキュリティ監視です。ただし、遮断・隔離のような最終的な対応は、依然として人間が判断するように設計することが安全です。セキュリティ専任の人材が不足している場合は、このような運用をMDRセキュリティ監視サービスに委託する方法もあります。

まとめ

  • AXセキュリティは、AIトランスフォーメーションの過程でAIモデル、データ、エージェント、ユーザーを保護するセキュリティ体制です。
  • AIを保護するセキュリティ(ガードレール・権限・マスキング)と、AIを活用したセキュリティ(AIセキュリティ監視)に分けられます。
  • 企画 → 開発 → 連携 → ガードレール → 運用の各段階にセキュリティ質問と統制を組み込むことが重要です。
  • 主要な脅威は、プロンプトインジェクション、機密情報漏洩、サプライチェーン、データ汚染、過度な権限、シャドウAIです。
  • 業種別の国内基準(個人情報保護委員会案内書、金融保安院評価基準(案)、AI基本法)をまずご確認ください。

よくある質問

AXセキュリティとは何ですか?

AIトランスフォーメーション(AX)を推進する中で生じる新たなリスク、すなわちAIモデル、データ、AIエージェント、外部ツール連携、およびAI利用者を保護するセキュリティ体制です。

AXセキュリティとAIセキュリティは同じ意味ですか?

重なる部分が多いです。AIセキュリティが主にAIシステム自体の保護を意味するのに対し、AXセキュリティはAI導入プロジェクトの全段階(企画・開発・連携・運用)と組織での利用管理までを含む、より広範な視点です。

企業がAIを導入する際、セキュリティは何から始めるべきですか?

まず、AIに投入するデータの分類とアクセス権限の設計が優先されます。次に、入力・出力ガードレールとログを整備し、エージェントを利用する場合は最小権限と人間による承認段階を設計します。

シャドウAIもAXセキュリティの範囲内ですか?

はい。従業員が未承認のAIツールに業務データを入力することも、AIトランスフォーメーションの過程で生じる代表的なリスクであるため、使用状況の把握と承認された代替手段の提供を合わせて管理する必要があります。

中小企業はAXセキュリティをどのように始めればよいですか?

上記チェックリストの1、2、5、8、10番(データ分類、外部APIポリシー確認、最小権限、ガードレール、ログ)から始めることをお勧めします。業種によっては、KISAのAX転換セキュリティ強化支援事業のような公的支援があるかどうかもご確認ください。

参考資料

最新情報を受け取る

最新のセキュリティインサイトをメールでお届けします。

タグ

#AXセキュリティ#AXセキュリティとは#AIトランスフォーメーションセキュリティ#企業AI導入セキュリティ#AI導入セキュリティ#AX時代のセキュリティ#AIセキュリティ#生成AIセキュリティ#AIエージェントセキュリティ#MCPセキュリティ#AIガードレール#シャドウAI#AIガバナンス#OWASP LLM Top 10#AXセキュリティチェックリスト