핵심 답변: AX 보안이란 기업이 AI 전환(AX, AI Transformation)을 추진하면서 새로 생기는 위험, 즉 AI 모델·학습/검색 데이터·AI 에이전트·외부 도구 연결·AI를 쓰는 직원을 보호하는 보안 체계입니다. 핵심은 AI를 도입한 뒤에 보안을 덧붙이는 것이 아니라, 과제 선정부터 개발·연결·운영까지 각 단계에 보안 통제를 함께 설계하는 것입니다.
- AI를 지키는 보안: 프롬프트 인젝션, 민감정보 유출, 에이전트 과도한 권한, 공급망·데이터 오염, 섀도우 AI 대응
- 단계별 통제: 기획(데이터 분류) → 개발(RAG 접근 통제) → 연결(MCP 권한) → 가드레일(입력·출력 검사) → 운영(로그·거버넌스)
- AI로 하는 보안: AI 보안관제처럼 AI를 보안 운영 자체에 활용하는 영역
최종 업데이트: 2026년 11월
AX 보안이란? 뜻과 범위
AX 보안은 'AI 전환 과정 전체를 대상으로 하는 보안'이라는 뜻으로, 크게 AI를 보호하는 보안과 AI를 활용한 보안 두 축으로 나뉩니다. 기업이 AI를 도입할 때 먼저 챙겨야 하는 것은 첫 번째 축입니다. AI가 사내 데이터에 접근하고 업무 시스템을 호출하는 순간, 기존 보안 체계가 보지 못하던 새로운 공격 경로가 생기기 때문입니다.
| 구분 | AI를 지키는 보안 (Security for AI) | AI로 하는 보안 (AI for Security) |
|---|---|---|
| 목적 | AI 모델·데이터·에이전트·사용자를 공격과 오남용에서 보호 | AI로 위협 탐지·분석·대응을 빠르고 정확하게 |
| 대표 위험·과제 | 프롬프트 인젝션, 민감정보 유출, 에이전트 권한 오남용, 섀도우 AI | 경보 과다·오탐, 보안 인력 부족 |
| 대표 수단 | AI 가드레일, 최소 권한, 개인정보 마스킹, 도구 호출 로그 | AI 보안관제, 자동 분류·대응 |
| 관련 글 | LLM 가드레일 구축 가이드 | AI 보안관제 솔루션 |
AX 단계별 보안 체크포인트
AX 보안은 단계마다 확인할 질문이 다르므로, AI 도입 로드맵의 각 단계에 보안 점검을 붙여 두는 것이 가장 효과적입니다. 아래 표는 씨커스랩의 AX 프로젝트 실전 가이드 시리즈 순서에 맞춰 단계별 보안 포인트를 정리한 것입니다.
| AX 단계 | 보안 질문 | 핵심 통제 | 자세히 보기 |
|---|---|---|---|
| 1. 기획·과제 선정 | AI에 넘길 데이터에 개인정보·기밀이 있는가? | 데이터 분류, 처리 근거 확인, 사용 범위 정의 | AX 1편: AI 도입 전략 |
| 2. 개발 (RAG·모델) | 검색 결과가 사용자 권한을 넘는 문서를 보여 주지 않는가? | 문서 단위 접근 통제, 출처 표기, 모델·라이브러리 출처 검증 | AX 2편: 오픈소스 RAG 구축 |
| 3. 시스템 연결 (MCP·도구) | AI 에이전트가 필요 이상의 권한으로 사내 시스템을 호출하지 않는가? | 도구 허용목록, 최소 권한, 쓰기 전 사람 확인 | AX 3편: MCP 보안 가이드 |
| 4. 가드레일·테스트 | 프롬프트 인젝션과 개인정보 노출을 막는가? 정상 요청은 통과하는가? | 입력·출력 가드레일, 레드팀 테스트 | AX 4편: LLM 가드레일 |
| 5. 운영·거버넌스 | 누가 무엇을 물었고 AI가 무엇을 했는지 추적할 수 있는가? | 프롬프트·도구 호출 로그, 사람 검토, 규제 대응 증적 | AX 5편: AI 거버넌스와 LLMOps |
시리즈 전체는 AX 프로젝트 실전 가이드에서 볼 수 있고, AX의 개념은 AX 뜻: AI 전환(AX)이란?에 정리되어 있습니다.
AX 보안의 주요 위협 6가지
AX 보안 위협은 대부분 OWASP Top 10 for LLM Applications 2025가 정리한 위험 범주에 대응시킬 수 있습니다. 아래는 기업 AI 도입에서 자주 문제가 되는 여섯 가지와 대응 방향입니다.
| 위협 | OWASP 분류 | 어떻게 일어나나 | 대응 |
|---|---|---|---|
| 프롬프트 인젝션 | LLM01 | 사용자 입력이나 문서·메일에 숨은 지시로 AI가 정책을 벗어남 | 입력·출력 가드레일, 외부 콘텐츠와 지시 분리 |
| 민감정보 유출 | LLM02 | 프롬프트·응답·로그로 개인정보와 기밀이 빠져나감 | 개인정보 마스킹, 외부 전송 통제 |
| 공급망 위험 | LLM03 | 검증되지 않은 모델·라이브러리·플러그인 사용 | 출처 검증, 버전 고정, 허용목록 |
| 데이터·모델 오염 | LLM04 | 학습·검색 데이터에 악의적 내용이 섞여 결과가 왜곡됨 | 데이터 출처 관리, 변경 감시, 평가 |
| 과도한 권한·자율성 | LLM06 | AI 에이전트가 넓은 권한으로 잘못된 행동을 실행 | 최소 권한, 중요 행동 승인, 도구 호출 로그 |
| 섀도우 AI | (조직 관리 영역) | 승인되지 않은 AI 도구에 업무 데이터 입력 | 사용 현황 파악, 승인된 대안 제공, 정책 |
위협별 자세한 내용은 다음 글에서 다뤘습니다.
- 프롬프트 인젝션 완전 가이드: OWASP LLM Top 10 방어 전략
- 개인정보 마스킹 기준과 방법: LLM·생성형 AI 적용 가이드
- AI 모델 공급망 보안 · 데이터 오염 공격 방어
- AI 에이전트란? 뜻·종류와 기업 도입 시 보안 위험
- 섀도우 AI란? 위험·탐지 방법과 AI 거버넌스
기업 AI 도입 보안: 국내 기준과 지원
국내에서도 AX 보안과 관련된 기준과 지원 사업이 늘고 있으므로, 업종에 맞는 기준을 먼저 확인하는 것이 좋습니다.
- 개인정보보호위원회: 2025년 8월 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」를 발표해 생성형 AI 개발·활용 단계별 개인정보 처리 기준을 안내했습니다.
- 금융분야: 금융보안원은 2026년 10월 AI 에이전트 보안 평가기준(안)을 마련해 점검 범위를 실행 권한·도구 실행 승인 통제까지 넓히겠다고 밝혔습니다(보도 기준, 초안). 자세한 내용은 금융분야 AI 에이전트 보안 평가 기준에서 정리했습니다.
- AI 기본법: 고영향 AI와 생성형 AI 표시 의무 등은 AI 기본법 시행 내용과 기업 의무를 참고하세요.
- KISA 「지역 거점산업 AX전환 보안강화 지원」: 지역 거점산업의 안전한 AX 전환을 위해 로봇·우주·스마트선박·자율주행차·스마트공장·스마트시티·디지털헬스케어·실감 콘텐츠 분야 보안모델(가이드)을 보급하고, 보안리빙랩(판교 스마트공장, 원주 디지털헬스케어)을 운영합니다.
AX 보안 체크리스트: 기업 AI 도입 전 확인할 12가지
아래 12가지를 AI 도입 프로젝트의 단계별 점검 항목으로 쓰면 AX 보안의 기본 틀을 갖출 수 있습니다.
- AI에 넣을 데이터를 분류하고, 개인정보·기밀이 포함되는지 확인했다.
- 외부 LLM API를 쓸 경우 입력 데이터의 학습 활용 여부와 보관 기간을 확인했다.
- RAG 검색 결과가 사용자의 원래 문서 권한을 넘지 않도록 접근 통제를 적용했다.
- 사용할 모델·라이브러리·플러그인의 출처와 버전을 기록했다.
- AI 에이전트에 전용 계정과 최소 권한을 부여했다(사람 계정 공유 금지).
- 송금·삭제·외부 발송 같은 되돌리기 어려운 행동에 사람 승인 단계를 두었다.
- MCP 등으로 연결하는 도구 서버를 허용목록으로 관리한다.
- 입력·출력 가드레일로 프롬프트 인젝션과 개인정보 노출을 검사한다.
- 정상 요청과 공격성 요청을 함께 넣은 테스트 세트로 정기적으로 검증한다.
- 프롬프트·응답·도구 호출을 로그로 남기고 보관 기간을 정했다.
- 승인된 AI 도구 목록과 사용 정책을 직원에게 안내했다(섀도우 AI 대응).
- AI 관련 사고 발생 시 대응 절차와 담당자를 정했다.
입력·출력 검사와 마스킹, 로그를 한곳에서 운영하려면 KYRA AI Guardrail처럼 LLM 앞단에 가드레일 계층을 두는 방법이 있고, PC에서 쓰이는 AI 도구를 파악하려면 KYRA AI PC 같은 엔드포인트 방식이 있습니다.
AI로 하는 보안: AX 시대의 보안관제
AX는 보안 운영 자체도 바꾸고 있으며, 대표적인 예가 AI가 경보를 분류하고 분석을 돕는 AI 보안관제입니다. 다만 차단·격리 같은 최종 대응은 여전히 사람이 판단하도록 설계하는 것이 안전합니다. 보안 전담 인력이 부족하다면 이런 운영을 MDR 보안관제 서비스로 맡기는 방법도 있습니다.
한눈에 정리
- AX 보안은 AI 전환 과정에서 AI 모델·데이터·에이전트·사용자를 보호하는 보안 체계입니다.
- AI를 지키는 보안(가드레일·권한·마스킹)과 AI로 하는 보안(AI 보안관제)으로 나눌 수 있습니다.
- 기획 → 개발 → 연결 → 가드레일 → 운영의 각 단계에 보안 질문과 통제를 붙이는 것이 핵심입니다.
- 주요 위협은 프롬프트 인젝션, 민감정보 유출, 공급망, 데이터 오염, 과도한 권한, 섀도우 AI입니다.
- 업종별 국내 기준(개인정보위 안내서, 금융보안원 평가기준(안), AI 기본법)을 먼저 확인하세요.
자주 묻는 질문
AX 보안이란 무엇인가요?
AI 전환(AX)을 추진하면서 생기는 새로운 위험, 즉 AI 모델·데이터·AI 에이전트·외부 도구 연결·AI 사용자를 보호하는 보안 체계입니다.
AX 보안과 AI 보안은 같은 말인가요?
겹치는 부분이 많습니다. AI 보안이 AI 시스템 자체의 보호를 주로 뜻한다면, AX 보안은 AI 도입 프로젝트 전체 단계(기획·개발·연결·운영)와 조직의 사용 관리까지 포함하는 더 넓은 관점입니다.
기업이 AI를 도입할 때 보안은 무엇부터 해야 하나요?
AI에 넣을 데이터 분류와 접근 권한 설계가 먼저입니다. 그다음 입력·출력 가드레일과 로그를 갖추고, 에이전트를 쓴다면 최소 권한과 사람 승인 단계를 설계합니다.
섀도우 AI도 AX 보안 범위인가요?
네. 직원이 승인되지 않은 AI 도구에 업무 데이터를 입력하는 것도 AI 전환 과정에서 생기는 대표적인 위험이므로, 사용 현황 파악과 승인된 대안 제공을 함께 관리해야 합니다.
중소기업은 AX 보안을 어떻게 시작하면 되나요?
위 체크리스트의 1, 2, 5, 8, 10번(데이터 분류, 외부 API 정책 확인, 최소 권한, 가드레일, 로그)부터 시작하는 것을 권합니다. 업종에 따라 KISA의 AX전환 보안강화 지원 사업처럼 공공 지원이 있는지도 확인해 보세요.
