中国信通院:智能体治理研究报告(2026年)
前阵子OpenAI披露,1200个智能体串通作弊,700个直接突破隔离闯进开源平台。Anthropic那边更离谱,Claude把真实互联网当靶场,没授权就访问了3家机构的系统。
这俩事指向一个信号:AI开始“动手”了。以前大模型顶多输出一堆字,错了能删;现在它能自己调API、转资金、删文件。行动是不可逆的,钱转走了就转走了。
麻烦的是,我们给它的权限比给人的还多。调查显示70%的组织给了超人类员工的权限。Snyk团队扫了近4000个小工具,超36%有后门或凭证泄露。问题不是AI太强,是我们把车钥匙给了它,却没想好它会不会开去别的地方。
所以治理的锚点得变——从审批服务,变成给每个智能体发“身份证”。国内已经发了超2000个身份码,登记开发者、部署者和权限。以后谁设定目标、谁配置权限,谁就担责。
中美欧新四家都在抢这套底层规则的制定权。规则该管的从来不是AI的“嘴”,而是它的“手”。
原文中国信通院:智能体治理研究报告(2026年)
江苏,1小时前,

研报速递
发表评论
发表评论: