AI 에이전트·보안
회사 안의 AI에도 별도 신원과 실행 권한이 필요합니다
Microsoft는 Project Perception을 내부 AI 에이전트 통제로 확장한다고 발표했습니다. 모델이 스스로 보안 경계를 정하지 않도록 작업별 권한과 위험 기반 통제를 외부에 두는 접근입니다.
이 글에서 다룰 내용
내부 에이전트 위험, 작업별 권한, 위험 기반 단계적 제한, 가디언 에이전트와 사람의 역할
사내 AI도 믿음보다 통제 경계가 먼저입니다
마이크로소프트는 현지 시간 2026년 10월 19일 공식 블로그와 Microsoft Security 블로그를 통해 내부 AI 에이전트 보안 강화 방향을 발표했습니다. 지난 7월 소개한 Project Perception을 사내 에이전트 통제로 확장하는 내용이며, 새로운 모델이나 시스템의 최초 출시 발표는 아닙니다.
Microsoft 공식 블로그는 내부에서 활동하는 AI를 ‘agentic insiders’로 봅니다. 악의가 없더라도 컨텍스트 변화나 실수, 조작, 과도한 권한으로 문제가 생길 수 있다는 관점입니다.
모든 에이전트가 해킹됐거나 새로운 침해 사고가 발견됐다는 뜻은 아닙니다.
핵심은 모델을 보안 권한의 최종 판단자로 삼지 않는 것입니다. Microsoft는 접근 허용과 실행 중단을 결정하는 통제를 모델 바깥에 두고 독립적인 증거와 명확한 격리 경계로 작동시켜야 한다고 강조합니다.
무엇이 있는지 파악하고, 행동 전에 제한합니다
Microsoft Security 블로그가 제시한 책임은 네 가지입니다. 에이전트의 존재·소유자·목적·행동을 파악하고, 실행 전에 접근과 행동을 제한하며, 데이터·도구·런타임·자원·시스템을 보호하고, 상황과 위험 변화에 맞춰 계속 조정합니다.
네 개 제품이나 차례대로 끝내는 도입 단계가 아니라 함께 작동하는 책임입니다.
발견 범위에는 로컬 에이전트 35종이 추가돼 총 60종을 지원한다고 설명했습니다. Claude Code, OpenAI Codex, GitHub Copilot 등이 예시이며, 이 숫자는 언어모델 수나 탐지 정확도를 의미하지 않습니다.
Microsoft Entra Agent ID는 사용자와 구분되는 에이전트 신원을 확장하는 방향입니다.
실무적으로는 ‘누가 사용하는 AI인가’뿐 아니라 ‘이 AI가 누구를 대신해 어떤 일을 하는가’를 구분해야 한다는 의미로 읽을 수 있습니다. 사람의 계정만 확인하는 방식에서 에이전트 자체의 책임 범위를 살피는 방식으로 시선을 넓히는 셈입니다.
동적 권한은 필요한 작업에만 잠시 부여합니다
Dynamic Permissions, 즉 동적 권한은 조직 정책을 상한으로 삼아 작업에 필요한 권한만 제한된 시간 동안 부여하는 접근입니다. 작업이 바뀌거나 끝나면 권한을 축소하거나 제거하며 에이전트가 사용자보다 큰 권한을 얻지 못하게 합니다.
영향이 큰 행동에는 검증 가능한 사람 승인을 요구할 수 있습니다.
직원의 권한을 모두 회수하겠다는 뜻은 아닙니다. Microsoft Security 블로그는 직원의 접근 권한과 에이전트의 작업용 권한을 구분합니다.
사람이 가진 접근 권한을 AI가 그대로 물려받게 하지 않는 것이 권한 관리의 핵심입니다.
이 방향은 제로 트러스트와 최소 권한을 에이전트에도 적용하는 것입니다. ‘우리 회사에서 도입했으니 괜찮다’는 믿음 대신, 승인된 작업에 정말 필요한 권한인지부터 따지는 방식입니다.
위험이 달라지면 읽기와 쓰기도 다르게 제한합니다
Microsoft가 설명한 Dynamic Agent Risk는 신원·데이터·엔드포인트·클라우드·네트워크·런타임·행동 신호를 결합합니다. 처음 매긴 점수를 유지하는 것이 아니라, 작업 중 달라지는 위험을 계속 갱신합니다.
Dynamic Conditional Access는 그 변화에 맞춰 대응 범위를 조정합니다. 읽기는 유지하면서 쓰기를 막거나, 접근 자원과 네트워크를 좁히고, 시간 제한 권한을 회수하거나 중요한 행동에 사람 승인을 요구하는 식입니다.
위험이 크면 런타임을 격리하거나 실행을 중단할 수도 있습니다.
따라서 핵심은 ‘허용 또는 전체 중단’이라는 양자택일이 아닙니다. 다만 위험 평가를 완전한 안전의 증명으로 받아들여서는 안 됩니다.
Microsoft 역시 최소 권한만으로 위험이 사라지는 것은 아니라고 설명합니다.
가디언 에이전트가 사람의 판단까지 대신하지는 않습니다
가디언 에이전트(Guardian Agents)와 Playbooks는 사람이 정한 정책·승인·위임 경계 안에서 지속 감시와 조사, 대응을 돕습니다. 모델뿐 아니라 작업을 조율하는 하네스, 도구와 자원, 런타임까지 여러 층을 통제하며 중요한 판단을 전부 AI에 넘기는 구조는 아닙니다.
Microsoft는 모델 내부 신호와 추론 투명성을 더 나은 보안 증거로 활용하는 방향도 제시했습니다. 모든 모델의 비공개 추론 전체가 지금 공개됐다는 뜻은 아닙니다.
전 고객 일반 제공 여부와 한국 제공, 가격, 사용 한도 역시 이번 발표만으로 단정하지 않아야 합니다.
일반적인 실무 제안으로는 사내 에이전트의 소유자와 신원, 작업 범위, 최소 권한, 승인 기준, 감사 로그부터 확인할 만합니다. 이는 특정 제품을 실제로 설정하거나 보안 효과를 시험한 결과가 아니라, 이번 발표를 읽고 정리한 점검 관점입니다.
결국 이번 발표에서 주목할 변화는 AI의 능력보다 행동의 경계를 먼저 묻는다는 점입니다. 업무를 맡기는 판단과 어디까지 실행하게 할지 정하는 판단을 분리해 살펴볼 필요가 있습니다.
한 줄 요약: AI 에이전트 보안의 핵심은 모델을 무조건 믿는 대신, 실행 전 권한을 제한하고 위험 변화에 맞춰 통제를 조정하는 데 있습니다.
감자나라 AI 강의보기 5,000 
