AI Guardrail
企業向けAI・LLMガードレール

はい、同じ概念を指します。生成AIサービスの中核がLLMであるため、LLMガードレールとも呼ばれます。いずれもモデルの入力と出力を検査し、セキュリティやポリシー違反を防ぐ制御レイヤーです。

必要です。AIエージェントは文書・メール・Webページを読み込みツールを呼び出すため、読み込んだコンテンツに隠された指示（間接プロンプトインジェクション）によって意図しない動作をすることがあります。エージェントの入力と出力をガードレールで検査し、呼び出せるツールやデータの範囲を最小限にすることが基本的な対策です。

入力と出力の両方を検査できるか、複数のLLMに同じポリシーを適用できるか、既存アプリを大きく改修せずに連携できるか、機密情報の検知ルールや遮断動作を設定できるか、監査ログとダッシュボードで履歴を確認できるかを確認してください。

入力段階で既知のインジェクション・ジェイルブレイクのパターンやシステムプロンプトの抽出試行を検知して遮断し、出力段階で機密情報や不適切な内容を再度検査します。遮断されたリクエストは監査ログに記録され、ダッシュボードで確認できます。

大きな改修は不要です。KYRA AI Guardrailは既存のLLM呼び出し経路やAPIゲートウェイの前段にプロキシとして配置され、トラフィックを検査します。REST APIで他のツールと連携することもできます。

GPT、Claude、Geminiなど複数のLLMを1つのガードレールで連携し、モデルごとに同じセキュリティポリシーを一括適用できます。

個人情報、機密、認証情報などをパターン・正規表現ベースのルールで検知し、マスキングしてからLLMに渡します。検知ルールや重大度ごとのマスキング・遮断動作は管理者が設定できます。

オープンソースのガードレールフレームワークは、開発者がアプリケーションコードに組み込むライブラリ形式が一般的です。KYRA AI Guardrailはアプリケーションの外でプロキシとして動作し、セキュリティチームが複数のサービスとモデルのポリシーを一元管理し、ダッシュボードと監査ログで履歴を確認できる企業向けソリューションです。

すべてのプロンプトと応答、検知・遮断の履歴を監査ログとして残し、アクセス制御を提供することで、AI基本法やEU AI法などが求めるAI利用の記録と説明の根拠づくりに活用できます。