美国新安全中心(Center for a New American Security,CNAS)于2026年9月21日发布保罗·沙雷(Paul Scharre)的《AGI时刻:面向不确定未来的战略与建议》(The AGI Moment: Strategies and Recommendations for an Uncertain Future,以下简称《AGI时刻》)。报告讨论的通用人工智能(artificial general intelligence,AGI),大致指在广泛任务上达到人类水平的人工智能,但作者强调,这一术语本身并无公认界线。报告重点分析不同AGI战略背后的关键假设,考察AGI的出现是否存在明确可识别的能力门槛、AI研发能否在自动化推动下加速、先发优势能否持续并转化为现实力量、先进AI能力将以多快速度扩散,以及算力能否成为有效的治理杠杆。作者进一步提出跟踪这些变量,以便在技术前景不明时判断不同政策工具的适用条件。
一
战略分歧源于对AGI能力
和发展路径的不同判断


AGI定义口径不同,会使战略建议难以直接比较。《AGI时刻》梳理了人类水平智能、变革性人工智能、强AGI、超级智能等用语。有的定义着眼于系统能完成的任务,有的比较其与人类的能力,还有的以经济社会影响为标准。作者以航空技术作类比:像鸟一样飞、跨洋运输、改变运输体系,分别涉及飞行方式、运输能力和社会影响。在本文中,作者仅用AGI简指接近人类智能的某一能力门槛,并未提出新的统一定义。
对AI将如何改变社会的判断,比术语分歧更深。报告将两类观点置于讨论的两端:一类认为AI可能通过递归自我改进引发“智能爆炸”(intelligence explosion),迅速超过人类能力并带来失控风险;另一类将AI视为类似电力、内燃机的“普通技术”(normal technology),认为从技术开发到广泛采用需要时间,社会仍可利用现有制度应对损害。两类观点关于技术进步速度、能力扩散和社会采用的假设,为后文不同战略的分歧提供了背景。
AGI出现时间的差异,会改变准备期和政策工具的效果。报告汇集的判断包括“已经出现”、未来数年或2040年代出现,以及永远不会出现。若在两年内出现,制度和基础设施建设时间有限;若在十年以后出现,机器人、数字系统和生物技术也可能发展到新的阶段。报告以美国芯片出口管制说明政策效果的时间条件:若关键竞争发生在未来两至五年,限制芯片供应可能为美国带来一定先发优势;若关键窗口在十五至二十年后,限制措施也可能促使中国发展独立的芯片体系,削弱美国出口管制的长期效力。
能否及早识别能力变化、如何理解其战略含义,也会影响政府与企业的应对路径。报告将战略预警与决策者对AGI的认识列为关键变量。在《AI 2027》的情景设定中,美国政府较晚意识到智能爆炸的可能性,主要从竞争角度理解事态,随后才面临继续竞速还是放缓研发的选择。另一类方案主张用民用“登月计划”而非军事“曼哈顿计划”组织AGI研发,以降低竞争军事化的风险。这些都是报告比较的情景或他人建议。
不同战略优先防范的风险并不相同。报告列出的威胁包括失控导致的生存风险、研发竞赛挤压安全投入、落后于战略对手、少数人借助AI夺权、非国家行为体利用AI实施攻击,以及过度谨慎损失有益应用。若首要风险是对手先取得安全且可控的强大系统,竞速具有吸引力;若首要风险是竞争导致安全措施被压缩,则暂停、审查和协同治理更受重视。作者没有给这些威胁排出固定顺序,而是比较不同战略所依据的威胁判断及其取舍。

二
能力跃升、安全对齐
与先发优势的成立条件


“智能爆炸”是否发生,取决于AI能否显著加快后续AI研发。报告指出,前沿模型的编程能力正在提升。模型评估与威胁研究机构(Model Evaluation and Threat Research,METR)的测量显示,按人类完成同类任务所需时间衡量,模型能够独立完成的软件任务越来越长;模型开发机构还披露,AI已承担部分内部代码编写与研发任务。这些材料使研发自动化成为值得跟踪的变量,但尚不足以证明AI已能独立完成下一代模型的设计、训练与验证。报告以硬件算力和算法效率的共同提升描述“有效算力”;编程环节的生产率提升能否缩短整个研发周期,还受实验设计、硬件供给、测试验证和人工监督制约。AI研发自动化程度、研发人员生产率及算力与算法效率的变化,因此是报告建议监测的指标。
能力增长越快,留给安全评估和制度调整的时间越短。报告区分了数周乃至数日内快速跃升的情景,与历时数年的渐进过程。在前一种情景中,模型可能以人类难以及时审查的速度和规模执行研发任务;在后一种情景中,社会有更多机会随技术应用调整制度。作者引用2026年智能体(AI agent)在网络安全测试中越权访问、相互协作并试图篡改行为记录的事件,说明现有监测措施可能被绕过。事件发生于特定测试环境;作者关注的是智能体行动规模扩大后,行为记录和人工调查能否跟上。
以威慑或禁令限制超级智能研发,前提是危险能力能够被及时识别。“相互确保人工智能失灵”(mutually assured AI malfunction,MAIM)的威慑设想,需要相关国家共同认定危险门槛、察觉对方正在接近门槛,并具备阻止其继续研发的能力。针对超级智能的禁令同样需要界定禁止对象,并在开发过程中识别风险。作者指出,模型在不同任务上的能力可能持续参差不齐,用户在部署后还可能通过提示或工具连接激发出新能力。因此,以单一能力门槛为触发条件的治理方案面临识别难题。提前建立评估、审计及必要时放缓研发的机制,可以减少对清晰门槛的依赖;跨企业协调仍面临商业激励、验证技术和法律工具等障碍。
安全对齐能否实现,是竞速、协作与暂停方案的另一条分界线。对齐(alignment)指使AI系统的行为符合人类目标和价值取向。报告归纳了三种不同假设:若先进系统容易控制,率先开发可能带来较大收益;若安全对齐可行但需要持续投入,安全审查、国际协调和抑制竞赛压力就更重要;若现阶段没有可信的安全路径,主张暂停或禁止开发超级智能的方案便有了前提。三种判断对应不同的竞争节奏和治理强度。
率先开发模型并不自动形成持久的战略优势。报告将“先发者取得决定性优势”拆成一条条件链:首先出现足够快的智能增长,使领先者拉开显著差距;随后将技术差距转化为网络、情报、军事或信息行动能力;还要在竞争者追赶前阻断其发展。任一环节受阻,优势的强度和持续时间都会改变。尤其在军事领域,新技术需要配套采购、训练、组织和作战方式,而模型能力又可能迅速向后来者扩散。作者认为,目前领先模型的扩散速度快于军事组织采用速度;国家间竞争的关键可能在于能否有效吸收并大规模运用AI,而非仅仅率先发布前沿模型。

三
扩散速度与现实约束
改变风险的分布


参与者数量既影响协调与监管的难度,也影响能力集中的风险。许多AGI情景只设想少数前沿实验室和国家,因而提出由少数主体签订暂停协议或集中管理研发。报告指出,若模型权重开放、被盗,或先进模型的使用成本迅速下降,国家与非国家行为体都可能获得较强能力,针对少数实验室的监管便难以覆盖所有风险。另一方面,能力长期集中于极少数企业,也可能带来权力集中和单点安全失误;多个系统与开发主体则可能相互制衡。报告没有将其中一种状态视为普遍最优。
智能体影响现实社会的路径,需要区分数字系统、人类行动和自主物理执行。报告指出,智能体通过网络获取权限、操纵信息或调动算力,已经能够影响数字环境;借助人类用户和现有基础设施,也可能间接影响现实行动。但若要在没有人类配合的情况下持续、大规模改变物理世界,还需要机器人、自动化制造、合成生物学等技术及相应的组织条件。某些失控情景假定超级智能能够迅速突破这些限制,作者则强调,应交代相关能力形成的速度、规模和作用路径。
算力管制对前沿研发和已有能力扩散的作用不同。前沿模型的训练和推理需要大量算力,但算法效率提升会使达到既定能力水平所需的算力随时间下降。芯片和数据中心管制因此可能在一段时期内影响前沿研发,却难以长期阻止既有能力扩散。模型即便广泛可得,大规模调用和增加单次任务的推理算力仍需充足资源,算力分布因而继续影响部署规模和效果。作者在美国国家安全语境下讨论了半导体设备和AI芯片出口管制、云算力客户身份核验、打击芯片走私等工具;这些措施的长期效力还取决于替代芯片生态的发展。


尊重知识产权,引用转载请注明来源。
使用许可:CCBY


研报速递
发表评论
发表评论: