行业资讯

加入亿拓客·流量大师 撬动财富之门!!!

【附下载链接】智能体治理研究报告|2026 年 9 月|中国信通院 · 中国政法大学

wang 2026-10-26 行业资讯
【附下载链接】智能体治理研究报告|2026 年 9 月|中国信通院 · 中国政法大学
报告背景

这份报告由中国信息通信研究院政策与经济研究所和中国政法大学人工智能法研究院联合发布,2026 年 9 月,73 页。

报告的出发点是智能体带来的治理变化。它没有专门写医药行业,但医疗在报告里被反复当作高风险场景举例,而且医疗行业的团体标准已经出台。报告结构是五章:智能体时代的新形势、治理新命题、全球趋势、三层治理框架、未来展望。

关键数据解读

三层治理框架管三件不同的事。 基础层回答「它是谁、它能做什么」,由身份管理、权限管理、数据管理构成,报告把它的地位类比成互联网时代的域名与实名体系。运行层回答「做了什么、如何可审计」,从内容审查转向行为管控。生态层回答「如何交互、谁来担责」,含责任配置、可信互联、竞争有序。

权限管理的几条硬规定。 报告引用 CoSAI 的「消除常驻权限」原则,要求智能体只继承用户已有的权限。高风险任务比如权限变更、安全配置修改,不允许智能体自主执行。OWASP 把操作分成四级:只读查询自动批准;可逆的内部写入,校验通过后自动批准;对外通信和财务操作,需要人工审批;不可逆或安全敏感的操作,默认拒绝。

运行层要求三层披露。 身份透明,交互初始就披露非人类代理属性并提供身份卡片;能力透明,披露权限等级、能力边界、数据访问范围与留存期限、技能清单与操作后果;过程透明,通过界面状态指示器告知运行状态,风险操作动态告知。三层合起来是把黑箱变成玻璃箱。

责任配置有个核心原则:按控制力锚定。 谁设定目标、谁配置权限、谁分发能力、谁从中获益,谁承担相应义务。我国《智能体规范应用与创新发展实施意见》确立的原则是「看控制而非看代码」。

风险图谱分五类,几组数字很扎眼。 报告把风险分成传统模型风险迁移、自主行为风险、交互协作风险、经济社会风险、人类可控风险。2026 年一项调查显示,70% 的组织授予智能体的权限超出同等人类员工,80% 的组织已经报告智能体执行了超出预期范围的行为。Skill 供应链方面,2026 年 2 月 Snyk 扫描某平台近四千个技能组件,超过 36% 存在后门指令、恶意代码、凭证泄露等安全缺陷。

医疗在报告里的位置。 在「人类可控风险」一节,报告引用了 OWASP 的案例:医疗辅助智能体给出看似合理的剂量调整方案,医生未复核即执行,用这个例子说明人类自主性被侵蚀和自动化偏见的现实风险。在数据部分,报告指出多智能体协同决策的组合式隐私泄露可能重构用户身份特征和健康数据等敏感信息。

政策层面,2026 年 5 月 8 日国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,首次从国家层面对智能体治理作系统部署。其中权限分配区分三种模式:仅限用户本人决策、需由用户授权决策、智能体自主决策。准入管理以正面清单加负面清单实行分类分级。

医疗行业自己的标准已经出了。 报告在梳理中国治理实践时写明,中国信通院联合复旦大学附属中山医院牵头 17 家医疗机构发布了《医疗健康行业智能体协同要求》,这是国内首个医疗多智能体协同规范,对协同架构、接口协议、安全测评要求作出系统规定。中国互联网协会也发布了《口腔智能体技术要求》并立项了呼吸内科方向的专科智能体标准。报告对此的评价是,行业团体标准以「软法」形式在强制性制度到位前先行划定行业行为基线。

行业发展价值和意义

对医疗和医药行业来说,这份报告的价值在于它把智能体治理的规则框架一次讲清,而医疗已经被明确列入高风险场景。欧盟《人工智能法》语境下,智能体在医疗等高风险场景的应用须满足风险管理、人工监督、日志留存等要求;西班牙数据保护局的指引则要求为每项操作设定明确自主等级,对涉及医疗、法律等敏感决策及删除、支付等不可逆操作设置强制人工审批。

对药企有三处落点,都在合规范围里。药企对外的智能体触点,先要过权限设计这一关,那份实施意见里的三种权限模式可以直接拿来对照,哪些结论只能由医生本人判断、哪些可以自动给出、哪些必须回到人工审核。委托第三方运营的智能体,审计基线提高了,基础层要求身份透明和能力透明、运行层要求行为日志可回放可追责,这两条可以写进合同验收项。还有一条需要提前准备的推论,报告提出的责任按控制力锚定,意味着药企作为目标设定方和预算支付方,难以再用「技术由供应商负责」把合规责任完全转移出去。报告本身没有做医药行业的适用性分析,这一条是推论,但方向需要提前准备。

来源:中国信息通信研究院和中国政法大学

点击“阅读原文”下载报告

猜你喜欢

发表评论

发表评论: