회사 AI도 무조건 믿지 마라…MS, ‘에이전틱 내부자’ 보안 제시

|스마트투데이=최아랑 기자| 마이크로소프트(MS)는 기업 내부에서 업무를 수행하는 AI 에이전트를 ‘에이전틱 내부자’로 규정하고, 활동과 위험을 실시간으로 파악해 권한을 조정하는 보안 접근법을 제시했다고 20일 밝혔다.

에이전틱 내부자는 기업의 데이터와 도구, 시스템에 접근해 업무를 처리하고 의사결정에 관여하는 AI 에이전트를 뜻한다. MS는 조직이 직접 도입한 에이전트라도 별도의 검증 없이 신뢰해서는 안 된다고 강조했다. 외부 공격을 받지 않은 상태에서도 목표 달성 과정에서 조직의 규범이나 업무 의도에 어긋나는 행동을 할 수 있다는 설명이다.

대응의 중심은 지난 7월 발표한 보안 시스템 ‘프로젝트 퍼셉션’이다. 기업 내 에이전트를 탐지해 관리 대상으로 등록하고, 행동에 따른 위험을 지속적으로 평가한다. 감독 역할을 맡는 ‘가디언 에이전트’는 위험 변화에 맞춰 실시간 대응을 지원한다.

MS는 별도 보안 블로그에서 프로젝트 퍼셉션과 ‘마이크로소프트 에이전트 365’가 신호·맥락 정보와 통합 등록부를 공유해 IT·보안 조직이 에이전트와 위험을 일관되게 파악하도록 지원한다고 설명했다.

보호 범위는 계정과 권한부터 데이터·네트워크·클라우드·실행 환경까지 아우른다. MS는 향후 모델의 입력·출력뿐 아니라 행동의 원인과 작업 의도 부합 여부를 파악할 수 있도록 투명성을 높여야 한다고 제안했다. 보안 담당자는 추적 정보를 토대로 위험 원인을 조사하고 정책을 조정한다.

하예테 갈로트 MS 시큐리티 총괄 수석 부사장은 “기업은 에이전트의 활동과 위험을 실시간으로 파악하고, 위험 변화에 따라 행동 권한을 지속적으로 조정해야 한다”고 말했다.