" 坦白讲,窗口期已经不长了。企业的 AI 转型,可能要在两年内完成。"
盈米基金高级技术总监梁仲智指出,率先完成转型的企业将获得巨大的成本和效率优势,从而锁定所在领域的增量市场。在他看来,AI 转型已不关乎发展,而是企业的 " 生死问题 "。
然而,当前多数企业的 AI 落地正陷入困境。大量厂商和 App 仅在原有交互形态上 " 硬塞 " 一个 AI 助手,却难以真正解决用户的业务问题,导致用户使用强度普遍不高。问题的核心往往不在于技术本身,而在于生产关系难以匹配新的生产力,而调整生产关系是一个极其痛苦的过程。
据麦肯锡《2026 年组织状态报告》显示, 高达 88% 的 AI 试点项目未能规模化,主因并非技术缺陷,而是评估机制缺失和治理障碍。组织准备度不足作为一项 " 慢变量 " 相比技术风险更具有隐蔽性。
盈米基金的探索非常具有参考性。自 2026 年起,这家企业便开始主动求变展开 AI 改革。仅在研发端,所有角色便被合并为 " 产品工程师 "。其旗下的 AI 智能助手 "AI 小顾 " 已累计处理超过 100 万个用户提问,当 Token 消耗达到每日百万级的真实调用时,成本不再是抽象的数字,而是一张实实在在的账单。
据盈米基金董事长肖雯近日公开透露,盈米内部已部署 200 多个模型,月 Token 消耗量达千亿级别,AI 已不再是实验项目,而是真正成为了水电煤,成为了普通员工日常工作的必需品。
金融场景 Token 消耗三座大山
在探索降本路径前,盈米基金已尝试了模型分级调度、Prompt 精简、缓存与预计算、RAG 优化等多种手段,虽有效果,但他们希望找到更接近底层逻辑的解决方案。
梁仲智分析认为,金融场景的 Token 消耗有三大特征,直接推高了成本:
一是上下文特别长。融决策需要综合量信息——个客户的持仓数据、交易历史、险偏好、沟通记录,加在起可能就是千甚上万 Token。这跟写个代码补全完全不是个量级。
二是对准确性要求极高。个人用户可以容忍 AI 写的博客文章有点啰嗦,但企业却不能容忍 AI 给出的投资建议算错收益率。这意味着金融场景往往需要更强(也更贵)的模型,以及更多的推理步骤。
三是场景的价值密度差异极大。用户问 " 什么是基金定投 " 和高净值客户问 " 我的 500 万资产怎么配置 ",消耗的 Token 可能差不多,但业务价值相差几个量级。
"Token 焦虑这个词很准确 ",但在梁仲智看来,它更多是认知阶段的产物,焦虑往往来自 " 不知道值不值得 ",如果能清楚算出每一笔 Token 消耗对应的业务价值,焦虑就会消失。
除了常见的 " 炫技式调用 "、" 暴力式上下文 "、" 重复式推理 " 等浪费外,梁仲智特别指出了一种更隐蔽的浪费:" 用概率推理解决确定性问题 "。这类场景本该开发成传统软件,一次开发、无限复用,却被反复交给 AI 处理,凭空产生了线性成本,其浪费加起来可能占企业 AI 应用 50% 以上的 Token 消耗。
为此,盈米基金发展出了一套 "Token 套利 " 思维框架:
第一步,判断该场景是否有最优解。如果有,最好的做法是将其开发成传统软件——一次开发、无限复用、边际成本为零,比如基金筛选器、净值查询、账户总览等。
第二步,如果确定没有最优解,再看 Token 套利是否成立。在线性成本场景中,Token 消耗本质上是在购买 " 非线性增长的杠杆 "。
基于此,盈米基金选择在金融投顾场景上大量投入 Token,让每一个 Token 替代的不是几分钱的计算成本,而是几十块甚至几百块的人力边际成本。
" 工业革命的机器是一次投入、边际成本趋于零的,AI 时代的机器是按使用量付费的,边际成本不为零。传统软件时代,你追求一次开发、无限复用;AI 时代,你追求的是每一次调用都创造正向价值。这是一个根本性的思维转变。" 梁仲智指出。
让 Token 不成为成本中心
事实上,Token 成本的精细化管控,正从企业的选修课变为必修课。
高盛 2026 年 5 月发布的报告指出,AI 行业正从成本叙事转向利润叙事。报告显示,主流大模型 Token 定价已从此前每年约 40% 的降幅趋于稳定,而英伟达、AMD、谷歌 TPU 等驱动的每 Token 算力成本仍在以每年 60%-70% 的速度下降。两条曲线的 " 剪刀差 " 正在打开利润空间。高盛预计,到 2030 年,消费端和企业端 Agent 合计将推动全球 Token 消耗量较 2026 年增长 24 倍,达到每月约 120 千万亿个 Token。
" 如果现代中文比英文更省 Token,那作为人类语言中信息密度最高的书面语之一,文言文是否也行?"
2024 年底,海外社交媒体上出现了一波 " 学中文省 Token" 的热潮:美国开发者发现,同样的意思用中文表达,Token 数量比英文少很多。
梁仲智通过实测发现:将同一段话分别用英文、现代中文、文言文写出,计算 Token 消耗。结果惊人,文言文的 Token 数量大约只有英文的 30-40%。
这也是 Token-Zip 提出的核心思路:用一个低成本高速度的模型将用户原始输入翻译成文言文,然后用高成本高质量的模型用文言文思考和回答,最后再还原输出最终结果。相当于在昂贵模型的两端加了一个 " 压缩 - 解压 " 层。
实测显示,在 54 个跨 14 个领域的英文提示词用例中,平均节省 51% 的费用成本,且回复质量也有所提升。" 我们推测,这是因为文言文的简洁性迫使模型更聚焦于核心信息,减少了废话。" 梁仲智补充。
此外,金融场景是一类需要大量自然语言交互的场景,如投顾服务、客户咨询、研报成、合规审查,这些场景的输和输出都是以自然语言为主。Token-Zip 的 benchmark 数据显示,然语密集型内容的压缩效果最好:如法律 60%、教育 60%、医疗 57%、金融经济类 45%。这意味着金融场景天然适合 Token-Zip 所提代表的压缩方案。
过去两年,盈米基金在 Token 成本控制上已经构建了一套分层策略:
一是模型路由,不是所有场景都用最贵的模型,只有真正需要强推理能力的场景才会用到顶级模型。并且选择模型的过程也不是一次性决策,而是持续优化的过程。
二是 Prompt 工程与上下文管理,包括精简 system prompt、动态加载上下文、优化 few-shot 示例等。
三是场景固化,当一个 AI 场景被反复使用且逻辑稳定后,将其从每次从零推理逐步固化为模板化执行,Token 消耗量可能降低 80%。AI 帮开发人员快速验证一个场景是否有价值、逻辑如何,一旦验证通过且模式稳定,就可以进行场景固化。
当然,当前三步工作都做完之后,对那些确实需要用贵模型且无法进一步固化的场景,便可以使用 Token-Zip 提供额外的压缩层。此外,盈米基金还实践出一条最具战略价值的路径——AI 原生能力再资产化,即将企业内部所有的金融能力(如数据查询、投研分析、交易执行等)封装成 AI 原生的标准化工具(MCP Server),每个工具都有清晰的语义描述和标准化的输入输出格式,届时 AI 调用时 Token 消耗量将大幅降低。
整体来看,从模型路由到场景固化,再到 Token-Zip 和 AI 原生工具封装,盈米基金正在构建一套系统化的 Token 成本控制体系。这套体系的核心不是简单地 " 省钱 ",而是让每一笔 Token 消耗都变成可计算、可衡量、可优化的价值投资。
当你知道每一个 Token 都在为你购买非线性增长的杠杆时,Token 焦虑就会真正消失。" 消耗 Token 不是坏事,但这个过程中一定要思考,如何将这些 Token 消耗稳定且持续地转化为企业增量。" 梁仲智建议。
(作者 | 杨丽,编辑 | 杨林)