最近我拜访了不少券商,聊完 AI 算力采购之后,脑子里冒出来一个特别不成熟的想法:要不我卖套房,买几台 AI 服务器,租给券商算了。
但玩笑归玩笑,这个念头能冒出来,说明这门生意确实值得算一笔账。某券商一年1700 亿 Token,报价150 万元/年,三年起签。某北京券商租3 台 910B4,运营商最低报价280 万元/年,也是三年起签。所以这篇文章,我想认真聊聊:券商租 AI 服务器这笔账,到底应该怎么算?
一、Token 年包:三年 450 万,买到的是服务,不是资产
某券商项目采用的是1700 亿 Token/年、150 万元/年、三年起签的计费方式。150 万元/年 × 3 年 = 450 万元
如果拆开算,1700 亿 Token/年,按一年 250 个工作日、每天 10 小时使用测算,相当于每个工作日约6.8 亿 Token,每小时约6800 万 Token。按照当前主流国产 AI 服务器推理能力估算,这个需求量大约1.5 台 910B4 服务器就可以覆盖。实际采购当然不可能买 1.5 台,通常至少按 2 台配置。客户三年支付 450 万元,确实获得了 AI 推理服务,但三年之后,这笔钱并不会沉淀成自己的算力资产。Token 年包解决的是“现在能不能用”的问题,但没有解决“未来算力底座是不是自己的”这个问题。
二、服务器租赁:三年 840 万,服务器还不是券商的
某北京券商需要租用3 台 910B4 AI 服务器,运营商给出的最低报价是:280 万元/年,三年起签。
280 万元/年 × 3 年 = 840 万元
这个价格已经是较低报价了。北京地区在电力、机房资源等方面,相比很多地方确实有一定成本优势。但关键问题不在于这个价格是不是最低,而在于三年之后的资产归属。客户三年支付 840 万元,获得的是三年的服务器使用权;三年期满之后,这些服务器仍然不属于券商。如果换成“以租代建”的方式,在同样三年期、同样按年付费的前提下,整体价格同样可以控制在840 万元以内。但不同的是,三年服务期结束后,服务器资产最终归券商所有。运营商租赁:三年花 840 万,服务器仍然是运营商的。 以租代建:三年总投入控制在 840 万以内,服务器最终属于券商。
所以,券商真正要比较的,不只是每年付多少钱,而是三年之后有没有形成自己的 AI 算力资产。
三、券商为什么明知道贵,还是愿意租?
首先,AI 模型更新太快。模型在更新,推理框架在更新,国产算力生态也在变化。客户会担心现在花几百万买服务器,两三年后会不会就过时了。其次,自建私有化 Token 工厂看起来很重。它不只是买几台服务器,还涉及模型部署、算力调度、权限管理、计费统计、推理调优、数据安全、运维监控和持续更新。第三,很多 AI 场景还在探索阶段。智能投研、智能客服、合规审核、知识库问答、代码助手、运营助手,这些方向都有价值,但并不是所有场景都有非常清晰的 ROI。领导如果一次性批准几百万甚至上千万预算,后续场景没有跑起来,决策压力会很大。最后,券商原有机房不一定适合 AI 服务器。AI 服务器功耗高、重量大、散热压力大,对供电、机柜承重、网络和机房环境要求都更高。客户如果自己买服务器,可能还要做机房改造,这又是一笔额外成本和额外审批。前期投入低,决策压力小,不用马上改造机房,也不用自己承担全部技术和运维风险。
四、问题不在于租,而在于三年后什么都没留下
它可以帮助券商快速启动 AI 项目,降低一次性投入,减少机房改造压力,也让内部决策更容易推进。三年起签,三年付完,服务器还不是客户的。
但如果客户已经明确未来三年都会持续使用 AI 算力,那么纯租赁就未必是最优解。因为 AI 算力未来大概率不是临时能力,而会变成证券公司的新型基础设施。未来券商内部需要的,不只是模型,而是自己的AI Token 工厂。
五、更合理的模式:不是纯租赁,也不是一次性重资产自建
券商真正需要的,可能不是简单租几台服务器,也不是一上来就重资产自建,而是一种更折中的模式:前期像租赁一样轻决策,后期像自建一样沉淀资产。
客户仍然可以三年起签,仍然可以按年付费,仍然不需要一开始承担过高的建设压力。第一,客户前期不用一次性投入太多资金,领导决策压力更小。第二,客户三年后可以沉淀自己的 AI 算力资产,而不是钱花完了,设备还在别人手里。
六、Token 工厂不是一堆服务器,而是一套持续运营体系
很多人以为建设 Token 工厂,就是买几台 AI 服务器,再部署几个模型。但真正能服务券商业务的 Token 工厂,远不止这些。先梳理客户到底有哪些真实业务场景,是智能投研、智能客服、合规审核,还是知识库问答、代码助手、运营助手。再根据客户的使用频率、并发需求、Token 消耗量、模型参数规模、数据安全要求和未来扩展计划,规划合理的服务器配置。简单说,不是一上来就问客户买几台机器,而是先帮客户把账算清楚:到底需要多少 Token?需要支撑多少并发?适合部署什么模型?需要几台服务器?未来三年是否需要扩容?放在自有机房,还是托管在专业机房更合适?真正稳定运行的 Token 工厂,应该具备计费、权限、配额、部门用量统计、云上和本地 Token 统一管理、模型推理调优、算力资源调度、持续咨询和持续运维能力。客户不仅要知道“用了多少 Token”,还要知道“谁在用、哪个部门在用、用在什么场景、成本是多少、效果怎么样、是否需要限额、是否需要扩容”。AI 一旦进入券商真实业务,就不能只看模型能不能跑,而要看能不能长期稳定运行,能不能控制成本,能不能保证权限安全,能不能让不同部门有序使用。
七、持续运营的目标,是三年内稳定产出高质量 Token
Token 工厂的价值,不在于服务器买回来的那一刻,而在于未来三年能不能持续、稳定、高效地产出高质量 Token。这就需要持续咨询、持续计费、持续调优和持续模型更新。随着客户 AI 场景越来越多,需要不断评估哪些场景适合上模型,哪些场景需要调整模型,哪些场景需要增加算力,哪些场景应该控制用量。不同部门、不同业务线、不同模型调用,也需要清晰的 Token 统计和费用分摊机制。否则 AI 用起来之后,很容易出现资源滥用、成本失控、部门之间说不清账的问题。同样的服务器,不同的推理优化水平,最终能支撑的 Token 数量和响应速度可能差很多。因此,模型部署、并发能力、显存使用、长文本处理和国产算力适配,都需要持续优化。同时,客户最担心的不是今天能不能部署模型,而是模型能力、行业适配和推理框架会不会很快过时。所以,基座模型升级、行业模型适配、私有知识库更新、新版本模型迁移、安全合规策略更新,也都应该纳入持续运营范围。确保客户三年内的 Token 工厂稳定运行,持续产出高质量 Token。
八、如果客户没有合适机房,也不一定要回到纯租赁
还有一种情况也很常见:券商愿意建设自己的 Token 工厂,但现有机房条件不适合 AI 服务器。这种情况下,客户并不一定要马上改造机房,也不一定只能选择运营商纯租赁。更合理的方式,是把服务器部署在满足供电、散热、网络和安全要求的专业机房里,同时继续为客户提供算力管理、模型部署、持续运营和统一 Token 管理服务。这样客户既不用承担复杂的机房改造压力,也不会像传统租赁那样,三年之后没有自己的服务器资产。使用体验像租赁,资产归属像自建。
结语:券商真正要建的,不是服务器,而是自己的 AI 算力底座
它会逐渐进入投研、投顾、客服、运营、风控、合规、开发、办公等各个环节。所以券商真正需要的,不是临时租几台服务器,而是建设自己的私有化 Token 工厂。如果三年付的钱,已经足够支撑以租代建,那么更合理的选择就不是继续纯租赁,而是:用租赁的方式降低前期压力, 用咨询和运营保障长期效果, 用自建的结果沉淀长期资产。
这才是券商建设 AI 算力基础设施更稳妥、更划算的路径。