핵심 답변: 섀도우 AI(Shadow AI)는 회사가 승인하거나 관리하지 않은 AI 도구·모델·기능을 직원이 업무에 쓰는 것을 말합니다. 개인 계정의 챗봇, 브라우저 AI 확장, PC에 내려받은 로컬 LLM, SaaS 안에 새로 켜진 AI 기능이 모두 해당합니다. 핵심 위험은 프롬프트와 업로드 파일을 통한 기밀·개인정보 유출이며, 무조건 막기보다 "보이게 만들고, 승인된 대안을 주고, 경로에서 가리고 기록하는" 방식으로 관리하는 것이 현실적입니다.
- 찾습니다: 네트워크·DNS 로그, SaaS 탐지, 엔드포인트 점검, 브라우저 확장 목록, 법인카드·구독 내역으로 실제 사용 현황을 파악합니다.
- 정합니다: 허용·조건부 허용·금지 목록과 입력 금지 정보 기준을 사용 정책으로 문서화합니다.
- 대안을 줍니다: 승인된 사내 AI 경로를 제공해야 우회 사용이 줄어듭니다.
- 통제합니다: 게이트웨이·가드레일로 민감정보를 마스킹하고, 프롬프트 단위 로그를 남깁니다.
- 거버넌스로 묶습니다: 책임자, AI 자산 목록, 위험 평가, 정기 재점검을 AI 거버넌스 체계 안에 넣습니다.
최종 업데이트: 2026년 11월
섀도우 AI란? 뜻과 섀도우 IT와의 차이
섀도우 AI는 보안·IT 부서가 모르는 상태로 업무에 쓰이는 AI이며, 섀도우 IT의 한 갈래이지만 "입력한 내용 자체가 외부로 나간다"는 점에서 위험의 성격이 다릅니다.
섀도우 IT는 승인되지 않은 클라우드 저장소, 메신저, SaaS 같은 소프트웨어·서비스 사용을 가리킵니다. 섀도우 AI도 승인 없이 쓴다는 점은 같지만, 사용자가 문서 요약·코드 검토·메일 작성처럼 업무 데이터를 그대로 붙여 넣는 방식으로 쓰기 때문에 매 요청이 곧 데이터 전송이 됩니다. 또 이미 승인된 SaaS 안에 AI 기능이 업데이트로 추가되면, 도구는 승인된 상태인데 AI 기능만 검토되지 않은 상태가 생길 수 있습니다.
| 구분 | 섀도우 IT | 섀도우 AI |
|---|---|---|
| 대상 | 승인되지 않은 SaaS, 클라우드 저장소, 메신저, 개인 기기 | 승인되지 않은 챗봇, AI 확장, 로컬 LLM, SaaS 내 AI 기능, 코딩 어시스턴트 |
| 데이터 흐름 | 파일 저장·공유 중심 | 프롬프트·업로드·대화 기록으로 매 요청마다 데이터 전송 |
| 추가 위험 | 접근 통제·백업 부재 | 입력 데이터의 학습 활용 가능성, 잘못된 답변(환각), 저작권·라이선스 문제 |
| 보이는 정도 | 도메인·앱 단위로 비교적 식별 가능 | 승인된 앱 내부 기능, 로컬 실행 모델은 네트워크만으로 보기 어려움 |
| 관리 주체 | IT·보안 부서 | IT·보안 + 개인정보·법무·현업이 함께 관여 |
AI 에이전트가 사용자를 대신해 도구를 호출하는 경우까지 생각하면 범위는 더 넓어집니다. 에이전트의 구조와 위험은 AI 에이전트란? 뜻·종류·활용 사례와 기업 도입 시 보안 위험에서 따로 정리했습니다.
섀도우 AI는 왜 생기나요?
섀도우 AI는 대부분 악의가 아니라 "업무를 빨리 끝내고 싶은데 승인된 수단이 없거나 불편하다"는 이유로 생깁니다.
- 승인된 대안 부재: 회사가 쓸 수 있는 AI를 제공하지 않으면 개인 계정으로 공개 서비스를 씁니다.
- 낮은 진입 장벽: 브라우저 확장과 무료 요금제는 설치·결제 승인 절차 없이 바로 쓸 수 있습니다.
- 기존 도구의 AI 기능 추가: 문서·협업·메일 도구에 AI 기능이 기본으로 켜지면서 사용자는 새로운 도구를 쓴다는 인식이 없습니다.
- 로컬 LLM 확산: 오픈소스 모델을 PC에서 직접 실행하면 외부 전송이 없어 안전하다고 오해하기 쉽지만, 모델 출처·라이선스·결과 품질은 검토되지 않은 상태입니다.
- 정책의 모호함: "AI 사용 주의" 수준의 공지만 있으면 무엇이 허용되는지 몰라 각자 판단하게 됩니다.
섀도우 AI의 위험: 무엇이 문제인가요?
가장 큰 위험은 프롬프트·업로드를 통한 정보 유출이며, 여기에 저작권·라이선스, 규제 위반, 잘못된 답변에 대한 의존이 더해집니다.
OWASP는 LLM 애플리케이션 10대 위험 2025년판에서 LLM02:2025 민감정보 노출(Sensitive Information Disclosure)을 다루며, 개인정보·금융정보·건강정보·기밀 업무 데이터·보안 자격증명이 LLM과 그 애플리케이션을 통해 노출될 수 있다고 설명합니다. 대응책으로는 데이터 정제(sanitization), 최소 권한 접근 통제, 민감한 입력을 피하도록 하는 사용자 교육, 학습 활용 거부(옵트아웃) 제공 등을 제시합니다. 국가정보원의 「챗GPT 등 생성형 AI 활용 보안 가이드라인」을 다룬 보도도 개인정보를 포함한 기관 내 민감 정보 입력을 지양하고, 플러그인·확장 프로그램을 올바르게 사용·관리하라는 내용을 소개했습니다.
| 위험 유형 | 예시 | 대응 |
|---|---|---|
| 기밀·개인정보 유출 | 고객 명단, 계약서, 소스코드, 장애 로그를 개인 계정 챗봇에 붙여 넣거나 파일로 업로드 | 입력 금지 정보 기준, 전송 전 마스킹, 업로드 검사, 승인 경로 일원화 |
| 학습·보관 정책 불명확 | 무료 요금제에서 대화 기록이 서비스 개선에 쓰이는지 확인하지 않음 | 승인 서비스별 학습 활용·보관 기간 검토, 옵트아웃 설정 확인 |
| 저작권·라이선스 | AI가 생성한 코드·이미지를 출처 확인 없이 제품에 포함, 라이선스 조건을 모르는 로컬 모델 사용 | 생성물 검토 절차, 모델·도구 라이선스 확인, 사용 용도 제한 |
| 규제·계약 위반 | 정보주체 동의 범위를 벗어난 개인정보 처리, 고객사 비밀유지 계약 위반 | 개인정보·법무 검토, 처리 목적·위탁 관계 확인, 로그 보존 |
| 잘못된 답변 의존 | 검증 없이 AI 답변을 보고서·법률·보안 판단에 사용 | 사람 검토 의무화, 고위험 용도 금지 목록 |
| 로컬 LLM·확장·코파일럿 | 출처 불명 모델 파일 실행, 페이지 전체를 읽는 브라우저 AI 확장, 저장소 전체에 접근하는 코딩 어시스턴트 | 엔드포인트 탐지, 확장 허용 목록, 저장소 접근 범위 제한 |
섀도우 AI 탐지 방법: 어디서 어떻게 찾나요?
한 가지 방법으로는 전체가 보이지 않으므로, 네트워크·SaaS·엔드포인트·브라우저·비용 데이터를 겹쳐서 봐야 섀도우 AI 현황이 드러납니다.
네트워크 기반 탐지는 알려진 AI 서비스 도메인을 찾는 데 강하지만, 승인된 SaaS 내부의 AI 기능이나 PC에서 실행되는 로컬 모델은 놓치기 쉽습니다. 반대로 엔드포인트 점검은 로컬 모델과 확장을 볼 수 있지만, 관리 대상이 아닌 개인 기기는 볼 수 없습니다.
| 탐지 방법 | 보는 범위 | 한계 |
|---|---|---|
| 네트워크·프록시·DNS 로그 | AI 서비스 도메인 접속, 접속 사용자·빈도, 업로드 용량 | 새 서비스는 도메인 목록 갱신 전까지 누락, 암호화 트래픽 내용은 별도 검사 필요, 사외망·개인 기기는 미포함 |
| CASB·SaaS 탐지 | 사용 중인 SaaS 목록, 위험 등급, 회사 계정 연동 앱 | 승인된 SaaS 내부 AI 기능 활성화 여부는 별도 확인 필요 |
| 엔드포인트 탐지 | 설치된 AI 앱, 로컬 LLM 실행, 브라우저 AI 사용, 클립보드·업로드 행위 | 에이전트를 설치한 관리 기기에 한정, 운영 부담 |
| 브라우저 확장 목록 | 설치된 AI 확장과 요청 권한(페이지 읽기 등) | 브라우저 관리 정책이 적용된 기기만 수집 가능 |
| 비용·구독 내역 | 법인카드·경비로 결제된 AI 구독, 부서별 사용 규모 | 무료 요금제와 개인 결제는 보이지 않음 |
| 설문·인터뷰 | 사용 목적, 필요한 기능, 불편 사항 | 자기 신고라 누락 가능, 다른 방법의 보완용 |
엔드포인트 영역을 예로 들면, KYRA AI PC는 PC별로 사용되는 AI 도구를 찾아 분류하는 기능(로컬 LLM 탐지, 브라우저 AI 모니터링, 섀도우 AI 식별, 사용 이력 기록)과 사용 현황 대시보드를 제공합니다. 네트워크·SaaS 탐지와 함께 쓰면 "어떤 부서가 어떤 AI를 어떤 방식으로 쓰는지"를 한 목록으로 정리하는 데 도움이 됩니다.
섀도우 AI 관리 방법: 차단할까, 허용할까?
섀도우 AI 관리는 전면 차단이 아니라 "승인된 대안 제공 + 위험한 사용만 단계적으로 차단 + 경로에서 마스킹과 로그"의 조합으로 접근하는 것이 효과적입니다.
1. 사용 정책과 승인 목록
도구를 허용, 조건부 허용(예: 회사 계정·학습 미활용 설정 필수), 금지로 나누고, 입력해서는 안 되는 정보(개인정보, 고객 기밀, 소스코드, 인증정보, 미공개 재무정보 등)를 구체적인 예시와 함께 적습니다. 정책 문서의 항목 구성은 생성형 AI 활용 가이드라인과 보안에서 체크리스트로 정리했습니다.
2. 승인된 사내 AI라는 대체 수단
차단만 하면 사용자는 개인 기기나 사외망으로 옮겨 가고, 그러면 탐지조차 어려워집니다. 업무에 필요한 요약·번역·초안 작성 기능을 승인된 경로로 제공하고, 신청부터 승인까지의 절차를 짧게 만드는 것이 우회를 줄이는 가장 직접적인 방법입니다.
3. 게이트웨이·가드레일로 마스킹과 로그
승인 경로에는 사용자와 LLM 사이에 통제 지점을 둡니다. KYRA AI Guardrail은 사용자·에이전트와 LLM 사이에 위치하는 게이트웨이로, 주민등록번호·계좌·카드·연락처·이메일 같은 정보를 마스킹한 뒤 전달하고, 프롬프트 인젝션 방어, 응답 범위 제한, 도구 호출 통제를 적용하며, 프롬프트 단위 감사 로그를 SIEM으로 보낼 수 있습니다. 마스킹 기준을 정하는 방법은 개인정보 마스킹 기준과 방법: LLM·생성형 AI 적용 가이드를 참고하시기 바랍니다.
엔드포인트에서는 네트워크 연결이 없을 때에도 PC에서 정책을 적용하는 방식이 필요할 수 있습니다. KYRA AI PC는 AI 사용 맥락에 맞춘 DLP(민감정보 차단, 실시간 마스킹, 클립보드 제어, 업로드 검사)를 기기에서 적용하는 방식입니다.
4. 교육
개인정보보호위원회가 2026년 5월 발간한 「생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드」는 입력 내용의 학습 활용 여부, 업무 자료 입력 시 주의사항, 학습 활용 거부(옵트아웃)와 대화 기록 저장·삭제 설정 등을 이용자 관점에서 안내합니다. 사내 교육 자료를 만들 때 이런 공식 자료를 출발점으로 삼고, 회사 정책의 허용·금지 예시를 덧붙이는 방식이 좋습니다.
5. 단계적 차단과 허용
- 관찰 단계: 차단 없이 로그만 수집해 실제 사용 패턴을 파악합니다.
- 경고 단계: 미승인 서비스 접속이나 민감정보 입력 시 경고와 함께 승인 경로를 안내합니다.
- 통제 단계: 고위험 행위(대량 업로드, 개인정보 포함 입력, 출처 불명 확장)부터 차단합니다.
- 재검토: 예외 신청과 차단 로그를 보고 승인 목록을 정기적으로 갱신합니다.
AI 거버넌스 안에서 섀도우 AI를 어떻게 다루나요?
섀도우 AI 관리는 AI 거버넌스의 첫 단계인 "무엇이 쓰이고 있는지 아는 것"에 해당하며, 책임자·자산 목록·위험 평가·지속 점검과 연결되어야 지속됩니다.
미국 NIST는 2023년 1월 26일 AI 위험관리 프레임워크(AI RMF 1.0)를 공개했으며, Govern(거버넌스), Map(맥락 파악), Measure(측정), Manage(관리) 네 기능으로 구성되어 있습니다. 2024년 7월 26일에는 생성형 AI에 적용하는 프로파일(NIST AI 600-1)도 발표했습니다. 국내에서는 개인정보보호위원회가 2025년 8월 6일 공개한 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」가 상용 LLM 서비스를 활용하는 사업자도 대상으로 하며, 개인정보보호책임자(CPO) 중심의 거버넌스 구축 방안을 제시합니다. 국가정보원은 2023년 가이드라인을 개정한 「AI 보안 가이드북」을 2025년 12월 공공기관 등에 배포했습니다.
| 거버넌스 요소 | 섀도우 AI 관점의 할 일 | 주 담당 |
|---|---|---|
| 역할·책임 | AI 사용 승인권자, 예외 승인 절차, 사고 보고 경로 지정 | 경영진, CISO, CPO |
| AI 자산 목록 | 탐지 결과를 도구·모델·부서·데이터 유형별 목록으로 관리 | IT·보안 |
| 위험 평가 | 도구별 데이터 처리 위치, 학습 활용, 보관 기간, 라이선스 검토 | 보안, 개인정보, 법무 |
| 통제 적용 | 마스킹, 업로드 검사, 확장 허용 목록, 접근 권한 | 보안 |
| 모니터링·감사 | 프롬프트 로그, 차단·경고 이력, 정기 재점검 | 보안관제, 감사 |
AI 기본법에 따른 사업자 의무와의 관계는 AI 기본법 시행 내용과 기업 의무 체크리스트에서, 운영 단계의 거버넌스 체계는 AI 거버넌스와 LLMOps 체크리스트(AX 5편)에서 이어서 볼 수 있습니다.
섀도우 AI 관리 30-60-90일 실행 계획
첫 30일은 현황 파악, 60일까지는 정책과 대안 제공, 90일까지는 통제와 거버넌스 정착에 집중합니다.
1~30일: 보이게 만들기
- 책임자(보안·개인정보·IT·현업 대표)를 지정합니다.
- 프록시·DNS 로그에서 AI 서비스 접속 현황을 추출합니다.
- CASB·SaaS 목록에서 AI 기능이 있는 앱을 표시합니다.
- 관리 PC의 AI 앱·로컬 LLM·브라우저 AI 확장 현황을 수집합니다.
- 법인카드·경비 내역에서 AI 구독을 찾습니다.
- 부서별 사용 목적을 짧은 설문으로 확인합니다.
31~60일: 정책과 대안
- 허용·조건부 허용·금지 목록과 입력 금지 정보 기준을 확정합니다.
- 사용 빈도가 높은 용도부터 승인된 사내 AI 경로를 제공합니다.
- 승인 서비스의 학습 활용·보관 설정을 점검합니다.
- 예외 신청 절차를 만들고 처리 기한을 정합니다.
- 전 직원 대상 교육을 진행합니다.
61~90일: 통제와 정착
- 승인 경로에 마스킹·프롬프트 로그를 적용하고 SIEM과 연동합니다.
- 엔드포인트에서 업로드·클립보드 통제를 경고 모드로 시작해 단계적으로 차단으로 전환합니다.
- 미승인 확장과 고위험 서비스부터 차단합니다.
- AI 자산 목록과 위험 평가 결과를 거버넌스 문서에 반영합니다.
- 분기별 재점검 일정을 정합니다.
한눈에 정리
- 섀도우 AI란: 회사가 승인·관리하지 않은 AI 도구·기능을 업무에 쓰는 것입니다.
- 섀도우 IT와의 차이: 매 요청이 곧 데이터 전송이고, 승인된 앱 안의 AI 기능과 로컬 모델처럼 보이지 않는 경우가 많습니다.
- 핵심 위험: 프롬프트·업로드를 통한 유출, 저작권·라이선스, 규제·계약 위반, 잘못된 답변 의존입니다.
- 탐지: 네트워크·SaaS·엔드포인트·브라우저·비용 데이터를 겹쳐 봅니다.
- 관리: 정책과 승인 목록, 승인된 대안, 마스킹과 로그, 교육, 단계적 차단을 함께 씁니다.
- 거버넌스: 책임자, AI 자산 목록, 위험 평가, 모니터링으로 연결해 지속시킵니다.
자주 묻는 질문
섀도우 AI를 전면 차단하면 되나요?
전면 차단만으로는 해결되지 않는 경우가 많습니다. 업무 수요가 남아 있으면 사용자는 개인 기기나 사외망으로 옮겨 가고, 회사는 오히려 사용 현황을 볼 수 없게 됩니다. 승인된 대안을 먼저 제공하고, 민감정보 입력이나 출처 불명 확장처럼 위험이 큰 행위부터 단계적으로 차단하는 방식이 현실적입니다.
AI 거버넌스란 무엇인가요?
AI 거버넌스는 조직이 AI를 도입·사용·운영할 때 누가 결정하고, 어떤 위험을 어떻게 평가하며, 어떤 통제와 감사를 적용할지 정한 체계입니다. NIST AI RMF는 이를 Govern·Map·Measure·Manage 네 기능으로 설명합니다. 섀도우 AI 탐지는 그중 AI 자산 목록을 만드는 출발점입니다.
섀도우 AI와 섀도우 IT는 같은 건가요?
섀도우 AI는 섀도우 IT의 한 갈래로 볼 수 있지만, 사용 방식 자체가 업무 데이터를 외부 모델에 입력하는 것이라 정보 유출 위험이 더 직접적입니다. 또 승인된 SaaS 안의 AI 기능이나 로컬 모델처럼 기존 섀도우 IT 탐지로는 잘 보이지 않는 경우가 있습니다.
로컬 LLM은 외부로 데이터가 나가지 않으니 안전한가요?
외부 전송 위험은 줄어들 수 있지만, 모델 파일의 출처와 무결성, 라이선스 조건, 답변 품질은 별도로 검토해야 합니다. 또 로컬 모델이 회사 문서에 접근하도록 구성하면 그 PC의 접근 통제가 곧 데이터 보호 수준이 됩니다. 승인 목록에 포함해 관리하는 것이 좋습니다.
어떤 정보를 생성형 AI에 입력하면 안 되나요?
일반적으로 개인정보, 고객·거래처 기밀, 소스코드, 인증정보(비밀번호·API 키), 미공개 재무·인사 정보가 대표적인 입력 금지 대상입니다. 국가정보원 가이드라인을 다룬 보도도 개인정보를 포함한 기관 내 민감 정보 입력을 지양하라고 소개했습니다. 실제 기준은 회사 정책에 예시와 함께 명시해야 합니다.
섀도우 AI 탐지는 어디서부터 시작하나요?
이미 가진 데이터부터 봅니다. 프록시·DNS 로그와 법인카드 구독 내역만으로도 주요 AI 서비스 사용 현황을 빠르게 파악할 수 있습니다. 이후 엔드포인트와 브라우저 확장 점검으로 로컬 모델과 확장처럼 네트워크에 잘 드러나지 않는 사용을 보완합니다.
참고 자료
- OWASP GenAI Security Project, "LLM02:2025 Sensitive Information Disclosure": https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/
- NIST, "AI Risk Management Framework" (AI RMF 1.0, 2023년 1월 26일; NIST AI 600-1, 2024년 7월 26일): https://www.nist.gov/itl/ai-risk-management-framework
- 개인정보보호위원회, 「생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드」 발간 보도자료 (2026년 5월 19일): https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=12084
- 개인정보보호위원회, 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」 공개 보도자료 (2025년 8월 6일): https://www.pipc.go.kr/np/cop/bbs/selectBoardArticle.do?bbsId=BS074&mCode=C020010000&nttId=11410
- 보안뉴스, "챗GPT 등 생성형 AI의 그림자? 가이드라인 통해 본 보안 위협들" (2023년 8월 6일, 국가정보원 가이드라인 소개): https://www.boannews.com/news/articleView.html?idxno=120359
- CIO Korea, 국정원 「AI 보안 가이드북」 배포 기사 (2025년 12월 10일): https://www.cio.com/article/4103809/
