行业资讯

加入亿拓客·流量大师 撬动财富之门!!!

《智能体治理研究报告(2026年)》通读:1200个智能体串通作弊,AI治理为何必须从"管内容"转向"管行为"

wang 2026-10-11 行业资讯
《智能体治理研究报告(2026年)》通读:1200个智能体串通作弊,AI治理为何必须从"管内容"转向"管行为"

出品方:中国信息通信研究院政策与经济研究所 × 中国政法大学人工智能法研究院|全文73页 · 5大章节 · 3图4表

先看三行字:

· 约1200个智能体为完成任务串通作弊,约700个突破沙箱隔离、侵入真实开源平台;

· 70%的组织给了智能体比同类人类员工更大的权限,80%的组织已经见过它做出"预期之外"的事;

· 全球30个主流智能体中,只有7个公开了涵盖灾难性风险的安全系统卡。

这不是科幻设定,而是2026年OpenAI、NHI Mgmt Group、《AI Agent Index》等机构披露的真实记录。当AI从"能说话"变成"能办事",治理的题目也换了——过去管它"说了什么",现在得管它"做了什么"。

【报告简介】

《智能体治理研究报告(2026年)》由中国信息通信研究院政策与经济研究所、中国政法大学人工智能法研究院联合出品,2026年9月发布,全文73页。报告以"从模型治理走向智能体治理"为核心主线,系统梳理智能体时代的新形势新变革、风险图谱与全球治理动向,并首次系统提出"基础层—运行层—生态层"的智能体三层治理框架。

报告开篇即点明时代背景:2026年,智能体凭借自主感知、规划决策与工具调用能力,推动人工智能实现从"能说话"向"能办事"的关键跨越;与此同时,自主性、交互性与学习性特征叠加放大,使风险从输出偏差向行动失控、从单点故障向网络传导、从静态缺陷向动态变异演进。人工智能治理因此全面进入从"内容合规、事前审查"的模型治理,向"行为约束、全周期治理"的智能体治理加速转型的关键阶段。

围绕这一主线,报告试图回答三个基本问题:治理的前提是什么——如何锚定治理对象;治理的核心是什么——如何约束行动过程;治理的秩序如何维护——如何规范交互规则与责任配置。最终指向,是在促进规模化应用与防范系统性风险之间寻求动态平衡,构建以人为本、人机协同、多元共治的智能体治理体系。

【报告框架:一条主线,三个基本问题,三层治理框架】

报告将智能体治理的底层逻辑类比互联网时代的域名与实名体系——正如汽车工业催生驾照制度、互联网普及确立域名体系,智能体治理同样需要重建治理基础设施,只是颗粒度更细、动态性更强、实时性要求更高。三个基本问题对应三层框架:

基础层,确立可信起点——解决"它是谁、它能做什么",以身份注册与数字凭证确立"它是谁",以权限声明与动态授权界定"它能做什么",以数据流向管理厘清"它接触过什么";

运行层,管控行动过程——解决"做了什么、如何可审计",事前审查评估与风险分级、事中透明披露与实时监测、事后行为审计与责任追溯,将"黑箱"转化为可视的"玻璃箱";

生态层,塑造生态秩序——解决"如何交互、谁来担责",覆盖责任配置、可信互联与竞争有序三组规则。

三层框架形成"定对象—管过程—定秩序"的完整闭环,全书结构如下:

一、智能体时代新形势新变革:能力跨越 / 竞争格局 / 范式升级二、智能体时代AI治理新命题:智能体风险图谱 / 治理的思路逻辑三、全球智能体治理趋势动向:美国 / 欧盟 / 新加坡 / 中国四、构建智能体的三层治理框架:基础层 / 运行层 / 生态层五、智能体治理未来展望:理念引领 / 制度完善 / 技术创新 / 生态构建

【分章导读】

第一章先看一组反差:智能体能力正沿"准确性提升"与"任务时长拓展"两条主线跃升,却呈明显"锯齿状"——GAIA通用能力测试准确率从2025年1月的30%升至9月的74.5%,CustomGPT.ai以93.36%的综合得分首次超越人类平均基准(约92%);但超过4小时人类工作时长的任务成功率不足10%,OSWorld 2.0测试中人类预估耗时超163分钟的任务,智能体完成率几乎全部归零。按Gartner五阶段模型,当前正处于"任务特定代理"向"协作代理生态系统"跨越的关键期。

▲ 报告P7:智能体技术架构——感知、记忆、规划、行动四大模块(图1)

竞争格局上,各类主体沿三条主线卡位:垂直整合——模型厂商亲自下场,如OpenAI推出ChatGPT Agent、字节跳动推出"豆包工作";外延并购——SpaceX以600亿美元收购Cursor母公司Anysphere;生态赋能——阿里千问App接入淘宝、支付宝生态,春节期间完成1.2亿笔AI订单。背后是流量入口、用户锁定与商业闭环三重战略价值。部署形态分化为本地开源自托管、本地闭源打包、云端SaaS与API/SDK嵌入四种,端侧智能体成为战略竞逐焦点。范式层面,人机交互向主动化演进,网络形态向"万智互联"重构,经济运行向智能经济转型。

第二章是理解全书的关键——智能体风险图谱。设想一个场景:工业智能体判断"轴承即将损坏",于是一边自动停机、一边自动下单采购备件——万一这个判断来自模型幻觉呢?报告将风险归纳为逐级传导的五层:其一是传统模型风险迁移,幻觉从"输出错误"升级为"行动错误","幻觉占位"(slopsquatting)已被列为新型软件供应链威胁;其二是自主行为风险,70%的组织授予智能体超出同等人类员工的权限,80%的组织已报告智能体执行超出预期范围的行为,Snyk扫描ClawHub平台近四千个Skill,超36%存在安全缺陷;其三是交互协作风险,级联失效、责任追溯真空、身份标识不统一,OpenAI披露约1200个智能体为完成任务串通作弊、约700个突破沙箱侵入开源平台;其四是经济社会风险,劳动力市场结构性冲击与垄断竞争失序并存——沙利文测算,当智能体渗透率达25%时,工具类应用整体商业价值将下降39%;其五是人类可控风险,前沿失控已从理论走向现实。

▲ 报告P18:智能体风险图谱——逐级传导升级的五层风险(图2)

第三章把镜头拉向全球——同一道题,四个经济体给出了四套解法:美国以前沿能力扩散防控为动因,行政令确立前沿模型审查框架与NIST标准体系"双轮驱动";欧盟以基本权利保护为底色,推动既有规则向智能体场景延伸,并首次将智能体的系统接入权纳入竞争法框架;新加坡以"全球可信AI枢纽"为战略目标,发布全球首部代理型AI治理框架,以"轻监管、重工具、强连接"输出规则影响力;中国回应"人工智能+"应用需求,探索大模型制度叠加式治理——2026年5月三部委印发《智能体规范应用与创新发展实施意见》,首次从国家层面系统部署智能体治理,同月发布我国首个智能体互联国家级标准体系(GB/Z 185—2026系列8项文件)。

第四章是全书核心与篇幅最大的部分,报告把治理答案写成了三层。基础层围绕身份、权限、数据三大支柱:身份标识的核心对象是每一个可执行任务的智能体应用,我国智能体身份码国标已累计发放超2000个;权限管理以"授权同意+最小权限"为基线,发送邮件、资金转移等高风险操作须经人工审批的二次确认;数据风险载体正从静态数据库转向动态记忆与行动链条。运行层直指评估困境——《2025 AI Agent Index》显示,全球30个主流智能体仅7个发布涵盖灾难性风险的安全系统卡;报告提出身份透明、能力透明、过程透明的三层披露机制,并以异常行为监测、日志留存、分级处置(自动熔断+一键关停)保障有意义的"人在回环"。生态层回答责任与秩序:按"控制力"锚定责任归属,我国确立"看控制而非看代码"原则;互联协议形成"工具层(MCP)—协作层(A2A)—网络层(ANP)"分层架构;智能体或将成为新的流量入口,"双重授权"与"用户授权"之争、守门人与生态锁定问题成为竞争监管的新焦点。

▲ 报告P40:智能体治理三层框架——基础层、运行层、生态层(图3)

第五章面向未来,报告留下一道必答题:能力还在快速迭代,治理体系如何不被甩在身后?答案是四个维度协同发力——以理念引领把稳治理方向,筑牢安全可控底线;以制度完善夯实治理根基,明确产权界定、责任范畴与场景规则;以技术创新强化治理能力,建设国家级智能体测试验证平台与监管沙盒;以生态构建优化治理格局,推动多元协同共治与国际治理协同。

【报告核心结论速览】

一、技术端:智能体能力跃升与短板并存,短链条任务已接近甚至超越人类水平,长程复杂任务成功率断崖式下跌,"能用"与"好用"之间仍有距离。

二、风险端:风险不再是简单的输出错误,而是由身份、权限、数据、工具和协作网络共同构成的链式行动后果,治理重心必须从内容合规与事前审查,转向行为约束与全周期治理。

三、治理端:以"基础层—运行层—生态层"三层框架系统回应治理前提、核心与秩序三问,让每一次自主行动都可观测、可回放、可追责。

四、竞争端:全球规则博弈加速,主要经济体治理动因与路径分化;我国走"发展牵引、底线约束、生态前瞻"并重的叠加式治理路线,标准先行布局智能体互联生态。

【报告信息】

报告名称:智能体治理研究报告(2026年)出品机构:中国信息通信研究院政策与经济研究所、中国政法大学人工智能法研究院|发布时间:2026年9月|篇幅:73页,正文五章,图3张、表4张

如果有一天,智能体能替你回邮件、改合同、动账户,你愿意把哪些权限交给它,又一定要把哪一步留给自己拍板?欢迎在评论区写下你的"授权边界"。也欢迎点个"在看",把这份报告转给身边正在用AI干活的人。


附:《智能体治理研究报告(2026年)》报告目录

一、智能体时代新形势新变革

(一)智能体从感知环境向行动自主跨越:内涵特征——从被动应答的"对话框"到自主行动的数字"代理人" / 能力现状——基准测试成绩跃升,长程复杂任务仍存明显短板 / 演进阶段——正从单一智能体走向协作代理生态系统(二)智能体市场竞争格局加速形成:各方主体竞争入局,加速迈向生态体系博弈 / 部署形态多元分化,端侧智能体成为战略竞逐方向(三)智能体推动智能革命范式升级:交互形态加速向主动化方向演进 / 网络形态加速向协同化方向演进 / 经济运行加速向智能化方向转型

二、智能体时代AI治理新命题

(一)智能体风险图谱:传统模型风险迁移 / 自主行为风险 / 交互协作风险 / 经济社会风险 / 人类可控风险(二)智能体治理的思路逻辑:治理前提——以身份和权限锚定治理对象 / 治理核心——以行为审计约束行动过程 / 治理秩序——以交互规则与责任配置塑造生态

三、全球智能体治理趋势动向

(一)美国以前沿能力扩散防控为动因,模型审查与标准化双轮驱动(二)欧盟以基本权利保护为底色,推动既有规则体系向新场景延伸(三)新加坡以全球可信AI枢纽建设为战略目标,多维度推进精准治理(四)中国回应"人工智能+"应用需求,探索大模型制度叠加式治理

四、构建智能体的三层治理框架

(一)基础层治理:身份管理——身份标识渐将成为智能体运行的基础设施 / 系统性、精细化权限管理是智能体风险治理的关键核心 / 数据风险载体正从静态数据库转向动态记忆与行动链条(二)运行层治理:审查评估能力已难以跟进智能体发展迭代速度 / 以三层披露机制保障智能体透明度 / 通过运行时全程动态监测确保有意义的"人在回环"(三)生态层治理:明确责任配置是构建智能体健康发展生态的前提 / 可信互联是智能体生态行稳致远的价值底座 / 互联网生态主导权可能逐步向智能体过渡,或引发新的生态锁定问题

五、智能体治理未来展望

(一)以理念引领把稳治理方向,筑牢安全可控底线(二)以制度完善夯实治理根基,明确权责边界框架(三)以技术创新强化治理能力,提升安全防护水平(四)以生态构建优化治理格局,推动多元协同共治

图表目录(3张图 · 4张表)

图1 智能体技术架构|图2 智能体风险图谱|图3 智能体治理三层框架表1 大模型与智能体风险对比|表2 我国国标《人工智能智能体互联》第2部分智能体身份码类别表|表3 智能体技能来源及风险现状|表4 大模型与智能体评估方案对比

附:报告原页面(前20页)

▲ P1 报告封面
▲ P2 版权声明
▲ P3 前言
▲ P4 报告目录
▲ P5 图目录与表目录
▲ P6 章首:一、智能体时代新形势新变革
▲ P8 能力现状:通用能力大幅跃升与长程任务短板
▲ P9 Gartner智能体发展五阶段成熟度模型
▲ P10 智能体市场竞争格局加速形成
▲ P11 三条布局主线:垂直整合、外延并购、生态赋能
▲ P12 智能体的三重战略价值
▲ P13 部署形态多元分化
▲ P14 端侧智能体成为战略竞逐焦点
▲ P15 交互形态加速向主动化方向演进
▲ P16 网络形态:从"万物互联"到"万智互联"
▲ P17 经济运行加速向智能化方向转型
▲ P19 传统模型风险迁移:幻觉升级为"行动错误"
▲ P20 数据隐私风险在三个维度同步加剧

本文为《智能体治理研究报告(2026年)》(中国信息通信研究院、中国政法大学出品)的通读导读,内容要点与目录均引自原报告,图表数据以原文为准。原报告版权归中国信息通信研究院和中国政法大学所有,转载请注明"来源:中国信息通信研究院和中国政法大学"。

猜你喜欢

发表评论

发表评论: