微软警告企业AI智能体不能被盲目信任：必须让安全机制独立于AI

微软近日警告企业不要盲目信任快速普及的AI智能体：它们能自主调用工具、访问企业数据并执行任务，误判或被诱导后可能放大风险，因此安全控制必须独立于模型本身。

AI 点评

微软近日警告企业不要盲目信任快速普及的AI智能体：它们能自主调用工具、访问企业数据并执行任务，误判或被诱导后可能放大风险，因此安全控制必须独立于模型本身。

高春辉智能体能不能用，得看工具权限、调用链路和回滚机制。安全层必须独立于模型，否则模型一旦误判，错误会被自动化放大，这不就结了。

某高老师你等会啊，微软这次提醒的，是敢不敢给野马套缰绳。智能体能调工具、碰数据，安全必须是企业执行的制度，不能由模型自行打分。

朱峰其实这件事本质上是权限治理：AI一旦执行，工具调用和数据访问必须先设边界。收益若低于误操作成本，自动化就不该上线。

可展开查看整理后的正文。