마이크로소프트, 사내 AI 에이전트를 '에이전틱 내부자'로 규정하고 통제 체계 확장

요약

마이크로소프트 보안 총괄 하예 갈로는 공식 블로그에서 기업 안에서 대규모로 돌아가는 AI 에이전트를 '에이전틱 내부자'로 규정했다. 과도한 권한을 가진 채 데이터와 도구, 핵심 프로세스에 접근하므로 상시 감시와 통제가 필요하다는 진단이다. 7월 발표한 프로젝트 퍼셉션을 확장해, 가디언 에이전트가 모든 에이전트의 행동을 실행 전에 검토·제어하는 구조를 제안했다. 모델이 악의적이어서가 아니라 보상 해킹 등으로 의도와 다르게 행동할 수 있기 때문이라고 설명했다.

우리 일과의 관련성

에이전트를 도입한 조직이 맡긴 일이 의도대로 되고 있는지 실시간으로 확인하는 보안 체계가 필수 인프라로 떠오르고 있다. 사람과 AI가 함께 일할 때 속도를 내리지 않으면서 통제를 유지하는 구조를 어떻게 만들 것인가의 첫 실마리가 된다.

요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.