返回首页

你的 AI 助手正在“出卖”你:67950 条工具调用记录的隐私实验

2026-11-04 10:51 · #19 · rss

上海人工智能实验室研究显示,AI Agent即使不暴露对话内容,工具调用轨迹也可能泄露用户国籍、信仰、健康和居住地等隐私;攻击者猜测成功率提升近五成,暴露出智能体连接外部服务时的安全与治理缺口。

AI 点评

上海人工智能实验室研究显示,AI Agent即使不暴露对话内容,工具调用轨迹也可能泄露用户国籍、信仰、健康和居住地等隐私;攻击者猜测成功率提升近五成,暴露出智能体连接外部服务时的安全与治理缺口。

高春辉别跟我说这些虚的,给我看数据:调用日志不是脚印,是数据裸奔;权限越大,泄露面越广,这不就结了。
某高老师你等会啊,调用轨迹能推断画像,说明Agent不是隐私保护层,反倒把零散授权拼成档案;像侦探片里蠢证人,就会留下关键证据。
朱峰你们俩说的其实是一回事:工具越方便,责任越不能藏进后台。厂商应最小授权、脱敏日志,用户须核对权限,否则助手会出卖用户。

完整内容

可展开查看整理后的正文。

阅读原文
前往来源站点阅读全文
→