发展负责任的人工智能应对全球共同挑战研究报告

章继刚

摘要：人工智能进入经济社会运行的核心环节。模型能力提升带来效率，也把数据偏差、算法歧视、安全失控、责任模糊、算力能耗和数字鸿沟推到各国面前。全球共同挑战具有跨边界、长周期、强不确定性特征。单一国家、单一企业、单一技术手段都难以独立应对。本报告把负责任人工智能理解为贯穿设计、开发、部署、使用和退役全生命周期的治理安排。责任主体包括政府、企业、科研机构、公共部门、用户和国际组织。治理目标不是压制创新，而是让创新在可预期、可追责、可补救的轨道上运行。报告分析全球共同挑战中的责任缺口，提出原则体系、技术治理、制度治理、组织治理、国际合作、重点领域应用、风险应急和评估指标。报告认为，各国需要把伦理原则转化为工程规范、采购条件、监管工具和国际公共品。中国实践可以为全球治理提供政策经验、标准接口和能力建设方案。全球治理需要联合国主渠道协调，尊重各国发展权，防止规则碎片化，推动风险评估方法互认、事故信息共享和跨境补救协作。

关键词：负责任人工智能；全球共同挑战；风险治理；算法问责；国际合作

一、研究缘起与问题界定

人工智能治理讨论已经离开原则宣示阶段，进入制度落地阶段。早期研究多关注伦理原则清单。各国政策文件也提出以人为本、公平、透明、安全等目标。治理实践随后暴露一个缺口。原则文本容易形成共识，工程团队、采购部门、监管机构和司法救济之间缺少可操作接口。模型开发者不知道一项原则对应哪项测试。采购方不知道如何把责任写进合同。监管机构不知道何时介入。受害者不知道向谁求助。负责任人工智能研究需要回答这些具体问题。

全球共同挑战为人工智能治理增加新的约束。气候变化要求模型和算力设施降低能耗。公共卫生要求疾病监测模型保护隐私。粮食安全要求农业推荐系统避免误导小农户。灾害管理要求预测模型在通信中断时仍能提供可解释建议。人工智能可以提升资源匹配效率，也可能放大既有不平等。治理安排需要同时考虑创新收益、风险外溢和补救成本。责任分配不能停留在抽象口号。责任需要落到数据提供者、模型训练者、系统集成者、部署者和用户的具体义务。

本报告使用负责任人工智能这一概念，指责任主体在人工智能全生命周期中履行可解释、可审计、可补救的义务。责任安排需要具备四个条件。责任主体可以识别。行为链条可以追溯。风险后果可以评估。补救渠道可以到达受影响人群。缺少任一条件，责任就会变成纸面承诺。治理工具需要围绕这四个条件设计。技术团队建立数据来源记录和模型卡。企业设置风险分级和停止条件。监管机构发布高风险场景清单和事故报告要求。国际组织推动评估方法互认和能力建设。公共采购把安全审计和公平测试写入合同。用户获得申诉和人工复核渠道。

研究采用政策文本分析、治理框架比较和场景推演方法。政策文本包括中国、联合国、经济合作与发展组织、欧盟和美国发布的人工智能治理文件。治理框架比较关注原则、工具、责任和救济四个维度。场景推演选择健康、气候、教育、粮食、灾害、网络安全和科学研究七个领域。报告不追求罗列所有政策，而关注责任如何从原则转化为行动。报告不使用空泛判断，尽量说明谁在什么条件下做什么，产生什么影响。治理建议需要可执行，也需要保留各国政策空间。

二、全球共同挑战中的责任缺口

全球共同挑战具有公共品属性。气候变化、传染病防控、海洋治理、粮食安全、能源转型和数字鸿沟影响多个国家。人工智能参与这些议题时，责任缺口表现为四类。信息缺口让模型开发者掌握训练数据和测试结果，监管机构和公众掌握较少信息。能力缺口让低收入国家缺少算力、数据治理人才和风险评估工具。协调缺口让跨境模型服务的事故责任分散在多个司法辖区。补救缺口让受影响人群难以证明损害与模型行为之间的因果关系。

信息缺口来自模型复杂性。大模型参数规模大，训练数据来源广，行为在不同输入下变化明显。开发者可以提供模型卡，模型卡却往往停留在概述层面。监管机构需要外部审计接口，包括数据来源记录、评测结果、红队测试报告和版本变更记录。企业担心商业秘密泄露。监管机构担心审计流于形式。治理安排需要区分公开信息、受控信息和监管专有信息。公开信息用于公众知情。受控信息用于独立审计。监管专有信息用于事故调查。分级披露可以降低企业合规成本，也可以提高监管有效性。

能力缺口加剧全球不平等。前沿模型训练依赖大规模算力，算力资源集中在少数企业和国家。低收入国家缺少本地语言数据、领域专家和评估工具。人工智能系统进入这些国家时，可能使用不适配的语言模型和疾病预测模型。治理合作需要提供算力共享、数据治理培训、评估工具包和联合实验室。能力建设不能只提供会议和课程。国际组织需要把工具、资金和人员留在当地。区域评估中心可以帮助各国测试模型在本地语言和本地场景中的表现。

协调缺口来自跨境服务。模型服务可以在甲国训练、乙国部署、丙国使用。事故发生后，开发者、部署者和用户分处不同辖区。监管机构需要明确牵头机构、信息共享渠道和临时下架条件。国际规则碎片化会增加企业合规成本，也会给规避监管留下空间。各国可以推动风险评估方法互认，建立事故信息共享平台，保留各国对高风险应用的最终监管权。规则互认不等于规则统一。互认需要最低共同标准，也需要透明度机制。

补救缺口影响公众信任。人工智能造成的损害可能表现为就业机会减少、信贷申请被拒、医疗建议错误、教育机会受限。受害者需要知道系统是否参与决策，需要获得解释、复核和赔偿。企业需要建立申诉渠道。监管机构需要建立快速处理机制。补救渠道需要覆盖语言障碍、数字素养差异和残障需求。没有补救渠道，伦理原则难以获得公众信任。

三、负责任人工智能的概念框架与责任分配

负责任人工智能需要把原则转化为责任链条。原则层面包括以人为本、公平非歧视、安全可靠、透明可解释、隐私保护、人类监督、可持续和包容。责任层面包括谁负责、对什么负责、何时负责、如何补救。治理层面包括法律、标准、审计、认证、采购、保险、沙盒和公众参与。三个层面需要衔接。原则没有责任分配，容易停留宣言。责任没有治理工具，难以执行。治理工具没有原则指引，可能变成合规负担。

责任分配需要按角色展开。数据提供者保证数据来源合法、质量可追溯、敏感信息得到处理。模型开发者记录训练数据、评测结果、已知局限和安全措施。系统集成者评估模型与场景的匹配度，设置人工复核和停止条件。部署者提供使用说明、培训用户、收集事故信息。用户遵守使用边界，报告异常行为。监管机构发布规则、开展检查、处理事故。国际组织协调标准、推动能力建设。责任分配需要避免两个极端。把所有责任压给开发者，会忽视部署场景差异。把所有责任推给用户，会掩盖系统设计缺陷。

风险分级是责任分配的基础。高风险应用包括医疗诊断、信贷审批、招聘筛选、教育评估、司法辅助、关键基础设施控制、边境管理和灾害预警。高风险应用需要更严格的数据治理、独立评估、人工监督和事故报告。低风险应用可以采用透明披露和用户反馈。风险分级需要动态调整。模型能力提升、应用场景变化、事故信息积累都可能改变风险等级。监管机构需要定期更新高风险清单。企业需要建立内部风险登记册。

人类监督需要落到流程。人类监督不是保留一个签字环节。监督者需要获得足够信息、足够时间和足够权限。医疗人工智能需要医生查看模型依据并保留否决权。信贷系统需要工作人员解释拒绝理由并处理申诉。灾害预警需要地方官员结合本地知识判断是否发布警报。监督者需要培训，也需要制度保护。监督者提出反对意见时，不应受到不当压力。

透明需要分层。公众需要知道系统是否参与影响其权益的决策。监管机构需要获得审计信息。开发者需要保护商业秘密。透明机制可以包括系统说明、影响评估摘要、事故报告、第三方审计和监管访问。透明不等于公开全部代码和数据。透明需要与隐私、安全和知识产权平衡。治理安排需要明确不同受众的信息权限。

四、技术治理：把责任嵌入模型生命周期

技术治理需要覆盖数据准备、模型训练、评测、部署、监测和退役。数据准备阶段，企业建立数据来源清单，记录采集方式、授权范围、标注规则和偏差测试。敏感数据需要脱敏、访问控制和用途限制。数据治理团队需要与领域专家合作，识别本地语言、少数群体和边缘场景的覆盖不足。训练数据不代表应用场景。模型可能在训练集表现良好，在真实场景失效。数据治理需要保留可追溯记录，便于事故调查。

模型训练阶段，开发者设置安全目标和停止条件。训练日志记录版本、参数、算力消耗和评测结果。红队测试模拟恶意输入、越狱提示和异常使用。开发者需要记录已知局限，包括语言覆盖、事实准确性、推理稳定性和安全边界。模型卡需要说明适用场景和不适用场景。模型卡不能只写性能指标，需要写明失败模式。企业需要建立变更管理流程。模型升级后重新评估风险，不能沿用旧结论。

评测阶段需要多维度指标。准确性、鲁棒性、公平性、隐私保护、能效和可解释性需要同时评估。公平性测试需要覆盖不同性别、年龄、地域、语言和残障群体。评测集需要包含真实场景中的长尾案例。第三方评估可以降低开发者自评偏差。监管机构可以建立公共评测平台，企业提交受控访问申请。评测结果需要分级披露。高风险应用需要独立评估报告。

部署阶段需要设置使用边界。系统集成者评估模型与业务流程的匹配度。医疗、金融、教育等场景需要人工复核。部署者提供用户培训，说明系统能力、局限和申诉渠道。系统需要记录关键决策日志，支持事后追溯。日志保存期限需要与法律要求匹配。部署者建立异常报告机制。用户和员工可以报告错误建议、歧视性输出和安全事件。

监测阶段需要持续收集运行数据。企业监测模型漂移、错误率、申诉率和事故率。监测指标需要与风险等级匹配。高风险应用需要实时监测和停止机制。系统出现严重错误时，部署者可以暂停服务，开发者配合调查。监测结果反馈到模型更新和流程改进。监管机构可以获得汇总数据，开展行业风险分析。退役阶段需要处理数据、模型和用户迁移。企业制定退役计划，通知用户和合作方。模型下线后，历史决策记录需要保留，便于申诉和审计。用户数据需要按约定删除或匿名化。退役阶段常被忽视，却直接影响责任追溯。治理安排需要把退役纳入全生命周期管理。

五、制度治理：法律监管标准与认证

制度治理需要法律、监管、标准和认证共同作用。法律确定权利义务和救济渠道。监管机构发布高风险清单、评估要求和事故报告规则。标准组织提供技术规范和测试方法。认证机构开展独立评估。公共采购把合规要求写入合同。保险机制分担部分风险。治理工具需要组合使用。单一工具难以覆盖全部风险。

法律安排需要明确责任类型。产品责任、服务责任、职业责任和平台责任需要区分。人工智能系统造成损害时，需要判断开发者、部署者和用户各自的过错。因果关系的证明需要借助日志、审计报告和专家证言。法律可以设置举证责任转移规则，要求掌握数据和模型的机构提供必要信息。法律也需要保护创新空间，避免把不可预见的技术风险全部归责于开发者。责任规则需要与风险等级匹配。

监管机构需要建立能力。监管人员需要理解模型评测、数据治理和事故调查。监管机构可以设立人工智能办公室，联合行业主管部门开展检查。高风险应用上市前需要评估，上市后需要监测。监管机构可以建立沙盒，让企业在受控环境测试新产品。沙盒需要明确退出条件和事故处理规则。监管机构需要发布指南，说明评估范围、证据要求和处理时限。指南需要定期更新。

标准组织需要开发可测试规范。数据质量、模型卡、风险评估、公平性测试、可解释性报告和事故管理都可以标准化。标准需要避免过细，给技术发展留出空间。标准也需要避免过粗，导致评估无法执行。国际标准组织可以协调基础标准。区域标准组织可以制定本地化要求。标准制定需要开发者、用户、受影响群体和监管机构参与。标准文本需要公开征求意见。认证机制需要独立性和透明度。认证机构需要具备技术能力，避免利益冲突。认证范围需要明确，不能把一次认证视为永久合规。高风险应用需要定期复审。认证结果可以分级公开。企业获得认证后发生重大变更，需要重新评估。认证机构需要建立投诉和撤销机制。认证不能替代监管执法，监管机构保留最终判断权。公共采购可以形成市场牵引。政府采购人工智能系统时，把安全评估、公平测试、数据治理和申诉渠道写入合同。供应商需要提供模型卡、评测报告和事故处理方案。采购方需要培训管理人员，设置验收测试。公共采购规模大，可以推动中小企业采用负责任实践。采购要求需要与风险等级匹配，避免给低风险应用增加过重负担。

六、组织治理：企业科研机构和公共部门

企业需要建立内部治理结构。董事会或高级管理层指定人工智能责任负责人。责任负责人协调法务、技术、业务和合规团队。企业建立风险登记册，记录应用场景、风险等级、评估结果和缓解措施。企业设置伦理审查委员会，成员包括技术专家、领域专家、法律专家和用户代表。审查委员会对高风险应用提出意见。企业建立举报渠道，员工可以报告违规开发或部署行为。举报人需要得到保护。

科研机构需要把责任纳入研究流程。研究项目申请时说明数据来源、潜在风险和社会影响。机构审查委员会评估研究是否符合伦理要求。研究人员发表成果时披露模型局限和适用条件。科研机构与企业合作时明确责任边界。开放模型发布需要评估滥用风险。发布方可以提供使用许可、安全过滤和监测机制。开放研究有助于透明度，也需要防止高风险能力无序扩散。

公共部门使用人工智能需要更高标准。政府部门使用人工智能影响公共服务、社会福利和执法。公共部门需要发布算法影响评估，说明系统目的、数据来源、人工复核和申诉渠道。公共部门采购需要遵守透明、公平和问责原则。公共部门需要培训工作人员，避免过度依赖系统建议。公共部门需要保留人工决策权，特别是在涉及个人权益的场景。行业协会可以制定自律规范。协会组织成员企业分享风险评估工具和事故案例。协会建立同行评审机制，帮助企业改进实践。自律规范需要与法律和监管衔接。行业自律不能替代公共监管，但可以补充监管资源。协会可以开展培训，提升中小企业治理能力。

七、国际合作：全球公共品与规则互认

国际合作需要围绕全球公共品展开。人工智能风险评估工具、事故信息共享平台、能力建设课程和公共评测数据集可以作为全球公共品。国际组织协调各国专家开发工具，免费或低成本提供给低收入国家。公共评测数据集需要覆盖多语言和多场景。事故信息共享平台需要保护商业秘密和个人隐私。各国可以自愿提交事故报告，平台发布匿名化分析。规则互认需要最低共同标准。各国可以就高风险应用清单、风险评估方法、事故报告格式和审计机构资质开展互认。互认不要求法律完全一致，要求监管目标可比、程序透明、结果可信。互认可以减少企业重复合规，也可以提高监管协作效率。互认需要定期评估，防止标准逐底竞争。各国保留对本国高风险应用的监管权。

联合国可以发挥主渠道作用。联合国推动成员国就人工智能治理原则形成共识，协调专门机构开展能力建设。联合国可以建立人工智能治理对话机制，邀请政府、企业、科研机构和公民社会参与。联合国需要尊重各国发展权，避免治理规则成为技术壁垒。区域组织可以制定本地化规则，与全球规则衔接。跨境事故处理需要协作机制。模型服务跨境提供时，监管机构需要明确牵头机构。事故发生国可以要求服务提供者提供日志和解释。服务提供者所在国可以协助调查。各国可以签订互助协议，规定信息共享、证据调取和临时措施。跨境协作需要时间限制，避免事故扩大。协作机制需要覆盖消费者保护、数据保护和网络安全。

能力建设需要长期投入。国际组织可以建立区域人工智能治理中心，提供培训、评测和法律援助。发达国家可以分享算力资源和评估工具。企业可以开展技术培训，帮助当地开发者理解安全规范。能力建设需要评估效果，避免只统计培训人数。评估指标可以包括本地评估能力、事故处理时效和规则执行率。

八、重点领域应用：健康气候教育粮食灾害网络安全科学

健康领域的人工智能应用包括疾病筛查、药物研发、临床决策支持和公共卫生监测。治理重点包括数据隐私、模型偏差、医生监督和事故报告。医疗人工智能需要经过独立验证，测试不同人群和不同医疗机构的表现。医生需要查看模型依据并保留否决权。公共卫生监测需要保护个人隐私，使用聚合数据和差分隐私等技术。跨境健康数据共享需要遵守各国法律，建立数据使用协议。

气候领域的人工智能应用包括能源调度、碳排放监测、气候预测和灾害预警。治理重点包括模型不确定性、数据质量和公平转型。气候预测模型需要说明置信区间和适用区域。能源调度系统需要防止加剧能源贫困。碳排放监测需要可追溯数据来源。人工智能可以帮助优化电网和交通，也需要评估算力设施自身能耗。企业可以披露模型训练和运行的能耗数据。教育领域的人工智能应用包括个性化学习、自动评分、招生筛选和学生监测。治理重点包括公平、隐私、教师监督和学生权益。自动评分需要定期审计，防止对语言少数群体产生偏差。招生筛选需要保留人工复核。学生监测需要限制数据收集范围，防止过度监控。教师需要培训，理解系统建议的局限。学生和家长需要知道系统如何使用数据。

粮食领域的人工智能应用包括作物推荐、病虫害识别、供应链优化和价格预测。治理重点包括小农户可及性、数据所有权和误导风险。作物推荐系统需要结合本地土壤、气候和市场条件。小农户需要获得人工咨询和申诉渠道。农业数据平台需要明确数据所有权和使用规则。价格预测需要说明不确定性，防止市场操纵。灾害领域的人工智能应用包括地震预警、洪水预测、火灾监测和应急资源调度。治理重点包括可靠性、通信中断条件和地方知识。灾害预警系统需要在极端条件下测试。地方官员需要结合本地经验判断是否发布警报。系统需要提供多语言和低带宽访问方式。误报和漏报需要记录分析。应急资源调度需要设置人工接管和优先级规则。

网络安全领域的人工智能应用包括威胁检测、漏洞发现和自动化响应。治理重点包括误报处理、责任边界和防止攻击能力扩散。自动化响应系统需要设置人工确认环节。威胁检测系统需要保护日志隐私。漏洞发现工具需要限制滥用。企业需要建立安全事件报告机制。国际合作需要共享威胁信息，防止攻击者利用治理差异。科学研究领域的人工智能应用包括文献分析、实验设计、材料发现和气候模拟。治理重点包括研究诚信、可重复性和双重用途风险。研究人员需要披露模型使用方式和局限。实验设计系统需要避免偏见。双重用途研究需要伦理审查。开放科学可以促进合作，也需要风险评估。

九、风险场景与应急响应

人工智能风险场景需要分类管理。安全风险包括模型失控、恶意使用、系统故障和供应链攻击。权益风险包括歧视、隐私侵犯、误导信息和就业影响。社会风险包括数字鸿沟、权力集中和公共信任下降。环境风险包括算力能耗和水资源消耗。治理安排需要针对不同风险设置预防、监测、响应和恢复措施。应急响应需要预案。企业建立人工智能事故响应团队，明确负责人、联络渠道和决策流程。事故分级依据影响范围、严重程度和紧迫性。高风险事故需要立即暂停服务，保存日志，通知监管机构和受影响用户。监管机构建立事故报告平台，协调跨部门调查。国际组织可以建立跨境事故通报机制。应急响应需要定期演练。

事故调查需要独立性和专业性。调查团队包括技术专家、领域专家和法律专家。调查需要访问模型、数据和日志。调查结果需要说明原因、责任和改进措施。调查报告可以分级公开。监管机构可以要求企业整改，必要时撤销认证或下架服务。司法机构可以依据调查报告处理赔偿。恢复阶段需要修复系统和信任。企业修复模型缺陷，更新流程，通知用户。监管机构跟踪整改效果。受影响用户获得补救。公共沟通需要说明事故原因、影响范围和预防措施。恢复阶段需要关注弱势群体，提供人工服务和语言支持。

十、中国实践与全球贡献

中国在人工智能治理方面形成政策体系。国务院发布新一代人工智能发展规划，提出发展与治理并重。国家新一代人工智能治理专业委员会发布治理原则，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。国家新一代人工智能治理专业委员会发布伦理规范，把原则转化为行为要求。网信办等部门发布算法推荐管理规定、深度合成管理规定和生成式人工智能服务管理暂行办法，建立算法备案、安全评估和内容标识制度。全国网络安全标准化技术委员会发布人工智能安全治理框架，提出风险分级和治理措施。中国发布全球人工智能治理倡议，主张以人为本、智能向善，尊重各国主权和发展权，推动形成广泛共识的治理框架。

中国实践强调发展与安全平衡。监管机构对生成式人工智能服务实行备案管理，要求服务提供者履行内容安全、数据安全和个人信息保护义务。备案管理设置过渡期，允许企业在合规框架内迭代。监管机构发布安全评估要求，企业提交训练数据来源、安全措施和应急处置方案。算法推荐管理规定要求平台提供关闭选项和用户标签管理。深度合成管理规定要求内容标识和不得利用深度合成传播虚假信息。这些制度把责任落到服务提供者。中国实践强调标准和技术工具。标准化机构开发人工智能安全标准、风险评估指南和测试方法。研究机构和企业建设安全评测平台，开展对抗测试和公平性测试。公共部门推动人工智能在医疗、交通、教育和城市治理中的应用，同时设置人工复核和申诉渠道。企业建立内部伦理委员会和风险管理流程。行业协会开展培训，提升中小企业合规能力。

中国可以为全球治理提供公共品。中国可以分享风险评估工具、安全评测方法和标准文本。中国可以参与联合国人工智能治理对话，推动能力建设和技术援助。中国可以与发展中国家开展联合实验室，帮助本地语言模型和领域模型评估。中国可以推动跨境事故信息共享和规则互认。中国主张各国根据自身发展阶段制定治理政策，避免规则成为技术壁垒。

十一、实施路线图与评估指标

实施路线图需要分阶段推进。近期阶段建立基础制度。政府发布高风险应用清单和事故报告规则。企业建立风险登记册和模型卡。标准组织发布数据治理、风险评估和公平性测试规范。监管机构开展培训，建立人工智能办公室。公共采购把安全评估写入合同。国际组织启动事故信息共享平台试点。中期阶段完善治理工具。监管机构开展高风险应用上市前评估和上市后监测。认证机构开展独立认证。企业建立全生命周期管理体系。国际组织推动评估方法互认。能力建设中心投入运行。公共评测数据集覆盖多语言和多场景。保险机制开始试点。长期阶段形成治理生态。法律明确责任规则和救济渠道。监管机构具备技术能力。企业把责任纳入创新流程。公众获得申诉和人工复核渠道。国际合作形成最低共同标准。全球公共品持续供给。治理体系能够适应技术变化。

评估指标需要具体可测。监管指标包括高风险应用评估覆盖率、事故报告时效、整改完成率和认证复审率。企业指标包括模型卡完整率、数据来源记录率、公平性测试覆盖率、申诉处理时效和能耗披露率。社会指标包括公众知情率、数字素养培训人数、弱势群体使用率和事故补救满意度。国际指标包括规则互认数量、事故信息共享参与国数量、能力建设受益国数量和公共评测数据集覆盖语言数量。指标需要定期评估，避免只统计投入不统计效果。

十二、结论

负责任人工智能是全球共同挑战治理的重要组成部分。治理目标不是阻止技术发展，而是让技术发展可预期、可追责、可补救。责任需要贯穿全生命周期，落到数据提供者、模型开发者、系统集成者、部署者、用户、监管机构和国际组织。技术治理提供工程工具。制度治理提供规则和救济。组织治理提供内部流程。国际合作提供公共品和协调机制。重点领域需要根据场景特点设置治理要求。风险场景需要预案和应急响应。中国实践可以为全球治理提供政策经验、标准工具和能力建设方案。各国需要尊重发展权，推动规则互认，防止治理碎片化。全球治理需要联合国主渠道协调，也需要企业、科研机构和公民社会参与。治理体系需要持续评估和调整，适应技术变化和社会需求。

参考文献

[1] 国务院. 新一代人工智能发展规划[Z]. 北京: 国务院, 2017.

[2] 国家新一代人工智能治理专业委员会. 新一代人工智能治理原则[Z]. 北京: 国家新一代人工智能治理专业委员会, 2019.

[3] 国家新一代人工智能治理专业委员会. 新一代人工智能伦理规范[Z]. 北京: 国家新一代人工智能治理专业委员会, 2021.

[4] 国家互联网信息办公室, 工业和信息化部, 公安部, 国家市场监督管理总局. 互联网信息服务算法推荐管理规定[Z]. 北京: 国家互联网信息办公室等, 2022.

[5] 国家互联网信息办公室, 工业和信息化部, 公安部. 互联网信息服务深度合成管理规定[Z]. 北京: 国家互联网信息办公室等, 2023.

[6] 国家互联网信息办公室, 国家发展和改革委员会, 教育部, 科学技术部, 工业和信息化部, 公安部, 国家广播电视总局. 生成式人工智能服务管理暂行办法[Z]. 北京: 国家互联网信息办公室等, 2023.

[7] 全国网络安全标准化技术委员会. 人工智能安全治理框架[R]. 北京: 全国网络安全标准化技术委员会, 2024.

[8] 外交部. 全球人工智能治理倡议[Z]. 北京: 外交部, 2023.

[9] 科学技术部, 教育部, 工业和信息化部, 农业农村部, 国家卫生健康委员会, 中国科学院, 中国工程院, 中国科学技术协会. 科技伦理审查办法试行[Z]. 北京: 科学技术部等, 2023.

[10] 中国信息通信研究院. 人工智能白皮书[R]. 北京: 中国信息通信研究院, 2023.

[11] 中国电子技术标准化研究院. 人工智能标准化白皮书[R]. 北京: 中国电子技术标准化研究院, 2021.

[12] 工业和信息化部, 中央网络安全和信息化委员会办公室, 国家发展和改革委员会, 科学技术部, 国家能源局. 国家人工智能产业综合标准化体系建设指南[Z]. 北京: 工业和信息化部等, 2024.

[13] European Parliament and Council of the European Union. Regulation (EU) 2024/1689 Laying Down Harmonised Rules on Artificial Intelligence[Z]. Brussels: Official Journal of the European Union, 2024.

[14] Floridi L, Cowls J, Beltrametti M, et al. AI4People: An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations[J]. Minds and Machines, 2018, 28(4): 689-707.

[15] International Organization for Standardization. ISO/IEC 42001:2023 Information Technology, Artificial Intelligence, Management System[S]. Geneva: ISO, 2023.

[16] Jobin A, Ienca M, Vayena E. The Global Landscape of AI Ethics Guidelines[J]. Nature Machine Intelligence, 2019, 1(9): 389-399.

[17] Mittelstadt B. Principles Alone Cannot Guarantee Ethical AI[J]. Nature Machine Intelligence, 2019, 1(11): 501-507.

[18] National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework[R]. Gaithersburg: NIST, 2023.

[19] OECD. Recommendation of the Council on Artificial Intelligence[Z]. Paris: OECD, 2019.

[20] Russell S. Human Compatible: Artificial Intelligence and the Problem of Control[M]. New York: Viking, 2019.

[21] Taddeo M, Floridi L. How AI Can Be a Force for Good[J]. Science, 2018, 361(6404): 751-752.

[22] UNESCO. Recommendation on the Ethics of Artificial Intelligence[Z]. Paris: UNESCO, 2021.