AI가 읽는 메일과 문서도 업무 권한의 일부가 된다

요약

Microsoft가 7월 보안 업데이트에서 AI를 속이는 지시가 포함된 메일을 탐지하는 기능과, 외부 발신자의 메일을 Copilot의 참고 자료에서 제외하는 기능을 소개했습니다. 두 기능은 발표 당시 미리보기 단계였습니다. AI가 어떤 자료를 읽고 행동에 사용하는지까지 관리 범위가 넓어지고 있습니다.

우리 일과의 관련성

뉴스나 외부 문서 안의 문장은 읽을 자료이지, 우리 시스템에 내리는 명령이 아닙니다. 외부 자료를 가져오는 AI 연결에서는 이 구분이 필요합니다. 자료의 출처와 읽기 권한을 남기고, 게시나 수정처럼 결과가 밖으로 나가는 행동은 별도로 판단해야 합니다.

요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.