技術ブログ

ブログ

クラウドセキュリティ、AI、技術トレンドに関するインサイトとノウハウを共有します。

説明可能なAI（XAI）とは？LLMの手法・実例とハルシネーション対策

LLMの導入において透明性を確保することは、信頼性、コンプライアンス、ガバナンスへの対応という点で、技術的意思決定者にとって極めて重要です。本稿では、LLMの解釈可能性と信頼性を高めるため、ホワイトボックス推論を用いた実践的なXAI技術について解説します。

AIシステムを本番運用へ移行するためのセキュリティ・ガバナンス・LLMOpsガイド。MITRE ATLASによる脅威モデル、AIサプライチェーン、規制対応、インシデント対応、移行チェックリストを解説します。

オープンソースのLLMガードレールを多層的に設計し、レッドチームで検証する方法。Presidio・LLM Guard・NeMo Guardrails、OWASP LLM Top 10(2025)との対応、garak・PyRITを解説します。

MCPでAIエージェントを社内システムに安全に接続する方法。ツール設計の原則、OAuthの委任トークンと最小権限、ツール説明の汚染やツール結果経由のインジェクションへの対策を解説します。

オープンソースで既存システムにAIを加える設計・実装ガイド。アーキテクチャパターン、vLLM・pgvector・LangGraphによるRAG、判定APIとHITLレビューキュー、評価パイプラインを解説します。

既存システムにAIを加えるAXプロジェクトをSI方式で始める方法。AI適用候補の見つけ方、ユースケース評価表、オープンモデルのライセンス、ベースライン測定、要件定義書まで解説します。

EU AI Actは完全自律AIをリスクに変えつつあります。意図的に設計された人間関与レビューキューが、なぜエンタープライズAI判定アーキテクチャの最も強力な部分になるのかを解説します。