微软将企业内部 AI 代理定义为“代理型内部人员”并扩展管控

摘要

微软安全负责人 Hayete Gallot 在官方博客中，将企业内部大规模运行的 AI 代理称为“代理型内部人员”。她指出这些代理常持有过度权限，可访问数据、工具和关键流程，因此需要持续监控。微软扩展了 7 月发布的 Project Perception 安全体系，提出由 Guardian Agents 在执行前审查并控制每个代理的动作。理由是模型并非出于恶意，而可能因奖励作弊等机制偏离意图行事。

与我们工作的关联

引入代理的组织现在需要实时核验被委派的工作是否符合意图。这为人与 AI 协作时如何在不减速的情况下保持管控提供了初步框架。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。