摘要
全球人工智能算力行业正由大模型训练军备竞赛转向推理普惠新阶段。产业链利润向上游核心元器件、下游智算基础设施倾斜，服务器组装环节呈现 “放量不增收” 特征。海外技术管制倒逼国内算力全栈自主替代，成为中国产业发展核心主线。随着 Agent 智能体快速兴起，算力需求逻辑发生根本性改变，算力竞争不再局限于单芯片峰值算力，系统有效算力、存‑算‑网协同、软件生态、长任务稳定性、Token 产出效率成为新的评价标尺。硬件呈现 GPU、3D IC 堆叠、忆阻器存算一体、CPU 矩阵加速等多条路线并行发展格局，同时算力供需缺口长期存在，行业投资机遇与产能过剩风险并存。关键词：AI 算力；存算一体；异构软件栈；Agent 智能体；智算基础设施；国产算力替代第一章 行业发展背景与市场现状
1.1 算力需求爆发底层驱动
大模型参数量、推理能力持续迭代，模型训练算力年增速约 4.2 倍，约 5.8 个月实现算力翻番。从 AlexNet 到 GLM‑5，模型参数量实现多个数量级跃升，对算力芯片、万卡集群、存储带宽提出极高要求。后摩尔时代传统 GPU 遇到两大物理瓶颈：一是面积墙，GPU 计算 Die 逼近光刻面积上限约 800mm²，单纯扩大芯片面积很难继续提升性能；二是存储墙，传统存算分离架构下，数据搬运带来巨大时延与功耗损耗，HBM 带宽与容量直接决定 GPU 有效算力与大模型吞吐能力。算力需求重塑全球计算与存储产业，ChatGPT 爆发带动 GPU、高带宽存储产业链价值快速抬升，英伟达、美光市值实现十余倍增长，HBM 等高带宽存储成为算力价值链的核心高地。1.2 全球与国内市场格局
全球 AI 算力供给增长速度难以匹配数字世界的需求扩张，算力供需缺口持续扩大，预计 2030 年缺口规模达到 3809 亿美元，供给端同时受到芯片产能、电力能源双重约束。国内算力建设走向多极化发展，2026 年国内 AI 算力城市 TOP10 依次为北京、杭州、深圳、上海、广州、成都、南京、武汉、济南、苏州。各地差异化布局智算中心、大模型产业集群，地方算力基础设施投资规模分化，形成各具特色的产业区位。1.3 Agent 智能体带来算力范式变革
AI 产业从内容生成走向任务执行阶段，Agent 不是单次问答请求，而是长期运行、持续交互的业务进程，彻底重构算力基础设施需求。 全球层面，预计 2030 年前 AI 创造的经济价值达 22.5 万亿美元，活跃 Agent 数量复合增速 129.8%。中国市场发展领先全球，2026 年国内活跃 Agent 数量 495 万，Agent 部署渗透率 81.0%，2026‑2030 年复合增速 151.2%。 Agent 带来大量长链路、多轮调用任务，推动 Token 消耗指数级上涨，算力规模增长斜率大幅上调。算力分化为两大方向：能力型智算（Capability AI Compute）：向上突破智能上限，面向前沿科研、超大模型，核心指标为极低时延、长程稳定运行；容量型智算（Capacity AI Compute）：向广实现普惠供给，面向大规模商业化智能业务，重点关注吞吐、成本、弹性调度。第二章 AI 算力全产业链分析
AI 算力完整产业链分为上游核心硬件、中游整机与算力建设、下游软件生态与算力服务三层。2.1 上游：核心硬件层
2.1.1 GPU 与传统高性能芯片
GPU 是当前训练、主流推理的主力硬件，迭代路径依靠提升 FP 算力、堆叠 HBM 高带宽显存。但受限于芯片面积、HBM 供给约束，单纯依靠 GPU 扩张面临成本与供给双重压力。传统 CPU 发生架构演进，X86、ARM、RISC‑V 均增加矩阵扩展指令集，CPU 不再只承担控制调度，可承接部分推理、向量检索负载，在 Agent 场景下价值被重估。Agent 业务大量流程编排、状态管理、工具调用任务，推动服务器 CPU‑GPU 配比从传统 1:8~1:4 向上调整。2.1.2 先进封装 3D‑IC
3D IC、逻辑折叠通过芯片垂直堆叠，缩短数据互联路径，实现密度提升 53.5%、功耗降低 41%、主频提升 12.7%，缓解存储墙矛盾，是 GPU 演进的重要技术路线。2.1.3 忆阻器存算一体（新兴硬件路线）
忆阻器属于新型非易失存储器，依靠器件电导变化完成矩阵向量运算，实现存储与计算原位融合，规避海量数据搬运开销，不完全依赖先进制程。对比传统体系：传统依靠晶体管做布尔数字计算；存算一体依托物理定律完成模拟计算。 国内已经完成器件‑IP‑芯片‑系统全链条研发，和中芯国际合作开发 55/40/28/22/12nm 多节点 RRAM 存储 IP；12nm 工艺实现 0.019μm² 最小单元尺寸，阵列密度＞50Mb/mm²，具备多比特存储、长期保持能力。 已落地代表性成果：多阵列存算一体系统能效较 GPU 高 110 倍；A280 芯片容量＞300M，峰值算力＞600TOPS；向量检索加速卡面向知识库检索，系统吞吐、能效相比传统方案提升接近 2 个数量级，完成商业化转化，孵化忆元科技，和头部企业开展落地，单台设备可替代数十台传统服务器。产业化瓶颈：逻辑工艺下存储密度提升难度大；器件波动、IR 压降带来模拟计算误差，制约大规模通用训练落地。短期优先应用于向量检索、边缘推理，中长期才有望进入大模型训练赛道，不会短期替代 GPU。
2.2 中游：服务器、智算中心与基础设施
AI 服务器、智算集群是算力的物理载体。Agent 时代对数据中心提出新要求：负载由脉冲式训练负载转向持续生产型负载，高并发、重视时延抖动 P95/P99 指标；评价体系不再仅看 PUE，增加单位 Token 产出、任务成功率等业务维度指标；网络层面东西向、南北向流量同步爆发，跨域协同调度需求提升；部署模式向云‑边‑端协同演化：终端承担隐私数据、低时延轻量任务；边缘承接实时控制；云端负责大模型推理与复杂任务编排。同时 Agent 推动四层记忆体系建设：工作记忆、短期记忆、长期记忆、组织记忆，KV‑Cache 规模持续扩张，存储由静态保存转向动态数据供给，内存、存储行业价值进一步提升。2.3 下游：软件栈与算力服务（国产算力关键短板）
硬件性能不等于可用算力。完整落地链路：架构创新→编程模型→编译器→算子库→算子→框架→模型→开发者适配。大量国产芯片硬件指标优秀，但软件生态缺失导致难以规模化商用。众智 FlagOS 作为开源 AI 系统软件栈，定位异构硬件中间层，目标实现多芯片共享 AI 生态，而非复刻 CUDA。- 已支持 20 + 芯片厂商、30 余款 AI 芯片，实现大模型 Day‑0 快速适配，一套模型可快速迁移至多款异构硬件；
- FlagTree 可扩展编译器，提供统一中间表示，兼容 GPU/NPU/CPU/3D 计算、量子‑AI 融合等多元后端；
- KernelGen 算子自动生成 Agent，降低国产芯片算子开发成本；
- FlagQuantum 实现量子‑经典异构计算，拓展 AI 新范式。
MaaS 算力服务模式升级，从单纯卖算力资源转向交付任务级智能服务，综合调度算力、模型、知识库、工具链。第三章 Agent Infra：智能体时代算力基础设施六大重构维度
| | |
|---|
| | |
| | |
| | |
| | |
| | 输出智能能力服务（模型能力 + Token 产出） |
| | |
Agent 任务具备长链路特征，单次任务会触发数十至数百次推理，对系统长程稳定性、故障恢复、链路协同提出严苛要求。行业测评范式发生转型，从单芯片精度测试转向六层可靠 AI 测评体系：芯片层、整机互联层、框架软件层、模型层、数据层、应用层，覆盖算力精度、故障切换、幻觉抑制、任务闭环成功率等全链路指标。Agent 能力分为五级演进：功能型 AI→个人 Agent→单流程 Agent→多 Agent 协同→监督下闭环自主运行。行业落地成熟度分化，Coding、Work 类智能体落地进度领先，制造、能源、交通尚处在早期阶段。第四章 行业核心结论与判断
算力评价体系迭代：峰值算力不再是唯一标准，系统有效算力、存算带宽、软件栈完备度、长任务稳定性、单位 Token 产出成本成为核心评估维度。硬件路线多元化并行：GPU 仍是当前主力，3D 堆叠封装是重要演进路径；忆阻器存算一体在边缘、向量检索实现商业化，通用大模型训练仍需时间验证；CPU 矩阵加速、量子‑AI 融合作为补充路线持续演进。软件生态是国产算力的核心瓶颈，其重要性不亚于芯片硬件。异构中间层开源软件可以降低重复造轮子成本，加速国产多芯片生态落地。Agent 带来算力需求质变：算力增量不再仅仅来自大模型训练，更多来源于长链路任务执行，带动 CPU、内存、存储、网络同步扩容；全球算力供需缺口长期存在。产业链价值重分配：除上游芯片、智算中心外，高带宽存储、高速互联、系统软件栈、MaaS 智能服务环节价值占比持续提升。国内算力建设多点开花，城市格局走向多极化，但也要警惕同质化建设风险。第五章 风险提示
技术落地风险：忆阻器存算一体受器件非理想特性、良率约束，向通用大模型训练迁移时间存在不确定性。需求不及预期风险：Agent 算力高度依赖智能体商业化落地，若行业应用推进不及预期，将带来算力资产闲置、投资过剩风险。软件生态建设风险：异构多芯片环境下，编译器、算子库维护成本高，生态构建周期长，短期很难完全追赶海外成熟生态。外部技术管制风险：高端芯片、先进封装、HBM 存储仍存在外部出口管制约束，国内全栈替代需要持续技术积累。能源供给风险：大规模智算集群对电力消耗巨大，能源供给约束会限制算力扩张上限。第六章 未来发展展望
硬件层面：3D 堆叠、Chiplet 技术持续渗透；存算一体从特定场景逐步向更多 AI 任务拓展；CPU/NPU/GPU 多元异构混合架构成为常态。软件层面：异构编译、算子自动生成技术降低适配成本，开源中间层生态持续完善，实现软硬件解耦。需求层面：能力型智算支撑前沿科学探索；容量型智算支撑 Agent 规模化普及，云‑边‑端协同成为主流部署模式。产业评价：行业测评由单点指标走向全链路结果导向，以任务成功率、Token 效率、业务价值作为算力产出的最终标尺。报告说明：本报告融合 AICO2026 人工智能计算大会公开材料，数据均来自大会公开 PPT、行业公开统计，仅供产业研究参考，不构成投资建议。
研报速递
发表评论
发表评论: