token 单价在政企大模型项目里,通常只占总成本的一成不到。真正决定预算上限的是数据合规、系统集成和运维人员三块。把这三个大头算清楚,比对着 API 报价单纠结有用得多。
一张 API 报价单引发的错位
「你们私有化部署要几十万,我用公有云 API 一年才几万块。」这是我们做技术评估时最常听到的开场白。
报价单没有错,错的是比较方式。公有云按 token 计费,私有化按项目计费,两者的成本结构根本不在一个维度上。把「按用量计费」和「按项目计费」直接比单价,就像比较打车和买车——一个算单次出行,一个算十年使用权。对个人开发者,token 单价几乎是全部成本;对政企客户,它通常只占很小一部分。真正的成本大头在后面三个地方。
大头之一:数据合规
政企数据出不出域,不是技术问题,是责任问题。等保测评、数据安全要求、行业监管口径,都会指向同一个结论:核心业务数据尽量留在自己环境里。
数据不出域意味着推理环境要部署在客户侧,这本身就是一笔算力投入;安全评审、测评配合、审计方案,还需要有人持续跟进。公有云方案里省下的那笔「算力钱」,有一大半会变成「合规协调成本」。安全与合规的配合方式我们在项目里按等保目标逐项落地,这块的投入比模型费用稳定得多,也常被预算表漏掉。
大头之二:系统集成
智能体要接 ERP、MES、OA,不是开通一个接口那么简单:接口有没有文档、能不能申请独立服务账号、网段通不通、字段编码统不统一,每一项都要业务部门配合,排期以周计。
集成成本跟模型无关,跟系统现状有关。存量系统接口齐全的,走 REST API 或消息队列;接口不全的,要退到数据库受控访问甚至项目适配层。这条成本曲线无论选公有云还是私有化都存在,只是付钱的时间点不同——私有化是在建设期付,公有云是在每次深度接入时以定制服务费的形式付。
大头之三:运维与人员
模型不是装完就完事。知识库要更新、权限要调整、模型要升级、日志要审计。私有化部署要求客户有一支能承接运维的团队,或者购买持续的运维服务。这笔钱是年付的,很多选型对比表里干脆不写。
公有云方案表面上是「平台帮你管了」,实际上变成了订阅费,只是换了个名字。老实说,不少政企算完这笔账才发现,公有云「便宜」的前提是永远不需要把数据拿回来——而一旦数据出过域,再想收回来,成本比当初省下的高一个数量级。
什么时候私有化,什么时候公有云
这不是非此即彼的选择题,六维对比里数据边界、系统集成、源码掌控、模型选择、运维治理和成本结构各有适用场景。我们给客户的判断准则很简单:
我们的建议始终是:先拿一两个高价值场景做 试点验证(通常 4–6 周),用试点数据算总拥有成本,而不是用报价单算。
