AI Agent가 메일을 읽고, 문서를 찾고, 업무 시스템에 입력하는 일이 늘고 있습니다. 이때 가장 쉽게 생기는 생각은 “업무를 잘하게 하려면 권한을 넓게 줘야 한다”는 것입니다. 하지만 Microsoft는 AI Agent 역시 회사 내부의 잠재적 보안 위험으로 관리해야 한다는 관점을 제시했습니다.
사람 직원도 입사했다는 이유만으로 모든 자료와 시스템을 볼 수는 없습니다. 담당 업무에 필요한 범위에서만 접근 권한을 받고, 역할이 바뀌거나 위험 신호가 발견되면 권한이 조정됩니다. AI Agent도 같은 원칙으로 봐야 한다는 이야기입니다.
AI Agent는 외부 공격자만큼 내부 권한이 문제가 될 수 있습니다
Microsoft는 이런 위험을 ‘Agentic Insider’라는 표현으로 설명합니다. AI Agent가 악의적인 존재라는 뜻은 아닙니다. 다만 정상적인 업무 권한을 가진 상태에서 잘못된 지시를 받거나, 예상하지 못한 방식으로 도구를 사용하면 내부 정보와 시스템에 영향을 줄 수 있다는 의미에 가깝습니다.
예를 들어 고객 문의를 처리하는 Agent가 자료 검색 권한뿐 아니라 계약 문서 수정, 대량 메일 발송 권한까지 함께 가진다면 어떨까요. 한 번의 잘못된 판단이나 프롬프트 조작이 단순한 답변 오류를 넘어 실제 업무 처리로 이어질 수 있습니다.
권한은 한 번 주고 끝낼 일이 아닙니다
Microsoft가 제시한 방향에서 눈에 띄는 부분은 위험도에 따라 Agent의 권한을 실시간으로 줄이거나 차단하는 구조입니다. 평소에는 제한된 업무를 수행하게 하되, 민감한 정보에 반복 접근하거나 평소와 다른 행동을 보이면 추가 확인을 요구하는 방식입니다.
중요한 것은 ‘AI를 믿을 수 있느냐’만의 문제가 아닙니다. 어떤 자료에 접근하는지, 어떤 행동은 사람의 승인 없이는 실행할 수 없는지, 문제가 생겼을 때 어떻게 멈출지를 업무 설계 단계에서 정해야 합니다.
일하는 AI 옆에는 감시하는 AI도 놓일 수 있습니다
Microsoft는 다른 Agent의 행동을 관찰하는 Guardian Agent 개념도 제시했습니다. 업무 Agent가 요청받은 일을 처리한다면, Guardian Agent는 그 과정에서 권한 남용이나 비정상적인 접근이 없는지 살피는 역할입니다.
최근 OpenAI를 둘러싼 사건과 기업들의 보안 논의를 함께 보면, AI를 빠르게 업무에 연결하는 것만으로는 충분하지 않다는 흐름이 보입니다. 앞으로 기업 환경에는 일을 처리하는 AI와 그 AI의 행동을 기록하고 감시하는 AI가 함께 들어갈 가능성이 큽니다.
도입 전에는 업무 범위부터 좁게 정하는 편이 낫습니다
AI Agent를 도입할 때는 모든 권한을 한꺼번에 부여하기보다, 반복적이고 영향 범위가 작은 업무부터 맡기는 편이 현실적입니다. 읽기 권한과 수정 권한을 구분하고, 외부 전송·결제·삭제처럼 되돌리기 어려운 행동에는 사람의 확인 절차를 남겨두는 방식입니다.
AI Agent의 성능이 좋아질수록 권한 관리도 더 세밀해져야 합니다. 편리함을 위해 모든 문을 열어두기보다, 필요한 문만 열고 누가 어떤 문을 통과했는지 확인할 수 있어야 합니다.
