无锡“词元超市”上线：让大模型像水电一样按需取用

上周，安防算法工程师老林盯着上个月的服务器账单直叹气。最近行业里都在推行AI任务自动拆分，把复杂计算交给云端大模型、隐私数据留在本地小端，但老林的公司根本养不起一套智能调度中台，只能按天高价租用GPU。闲置时段照样扣钱，就像租了辆超跑却只在早高峰堵在环线上。转机出现在他接入了无锡刚上线的“词元超市”。 这个由无锡市数字新基建公司牵头的平台，把江苏首个商用万卡集群的超13000 PFLOPS算力（每秒千万亿次浮点运算能力，衡量AI处理速度的硬指标）集中上云。老林不再需要自己攒机房，而是像逛便利店一样，在后台货架上直接挑选阿里通义、DeepSeek等三十余家主流模型。计费逻辑也彻底翻新：系统按实际消耗的词元（Token，即AI处理文本和图像的最小计价单位，好比水电表走的度数）精准核算。平台接驳多厂商后，后台会自动比对任务特征并派发给最匹配的模型，把原本需要工程师手动配置的资源调度变成了系统默认动作。 试运行不到一个月，老林所在企业的模型迭代周期缩短了大半，单次测试成本直降七成。配合无锡市发放的算力券补贴，小微企业的试错门槛被大幅抹平。说白了，城市级智算平台正用“超市化”运营把过去必须重金押注的重资产基建，转变成即插即用的产业公共服务。当算力变成按需取用、按量计费的“水电”，中小企业终于不用为了跑一次AI先背上沉重的硬件包袱。 要把算力做成水电，底座必须足够厚实。无锡此次平台的底层直接部署了江苏首个商用万卡集群，总算力规模突破 13000 PFLOPS（每秒千万亿次浮点运算，衡量 AI 处理速度的硬指标）。万卡集群指的是将上万张高性能 GPU 通过高速网络互联，形成统一计算池。过去企业想跑大模型，得自己买显卡、搭机房、搞定散热，就像为了用水每家每户自己打井，前期投入大且闲置率高。现在平台将这些硬件集中并网，相当于建好了城市级水厂，企业只需通过标准接口接入，就能像拧开水龙头一样直接调用算力，无需再为底层环境配置操心。 硬件并网只是第一步，让大模型真正即插即用，靠的是后台的自动派单与精准计费。平台目前已接驳阿里通义、DeepSeek、阶跃星辰等三十余家主流厂商。用户提交任务后，智能调度系统会像快递分拣中心一样自动识别需求特征，比对各模型的擅长领域与实时负载，将任务直接下发给性价比最优的节点，全程无需工程师手动切换或调参。计费方式也彻底翻新，改按实际输入和输出的词元（Token，即 AI 处理信息的最小计价单位，好比水电表走的度数）核算。用多少扣多少，账单清晰可控，彻底告别了传统租用 GPU 时长带来的闲置浪费。 自五月下旬试运行以来，这套机制已服务近五十家客户。对于中小团队而言，大模型调用不再受限于本地显存瓶颈或硬件快速贬值的风险。城市级智算平台正是通过底层算力集中化与调度自动化的组合，把过去必须重金押注的重资产基建，转化成了标准化、可按需取用的产业公共服务。 算力池子搭好之后，摆在企业面前的现实问题就变了：市面上大模型各有各的专长，复杂业务到底该派给谁去干？无锡词元超市的解法很简单，把挑模型的重活交给后台。平台目前已经接入了阿里通义、DeepSeek、阶跃星辰等三十多家主流厂商，相当于在云端货架上把各家招牌产品全部摆齐。企业不用再为了适配不同接口去反复调试代码，只需把业务需求提交上来，剩下的全由智能调度中枢兜底。智能调度中枢是一种能自动拆解任务特征、实时比对模型性能并分配算力的AI路由系统，相当于给大模型配了个全天候的交通指挥员。 这套自动派单机制，工作原理很像快递枢纽的智能分拣线。比如一家本地安防企业发来视频巡检请求，系统会瞬间拆解需求，判断是需要高精度图像识别还是长文本逻辑推理。紧接着，后台会实时扫描三十多个模型的当前空闲程度和擅长领域，把工单直接派给最对口、响应最快的节点。整个过程就像打车软件自动匹配附近最合适的司机一样，工程师不需要手动切换模型或反复测试调参，系统自己就能算出最优路线。五月下旬试运行至今，这套机制已经平稳支撑了近五十家客户的业务流转。过去中小企业为了跑通一个场景，得自己养团队做模型比对和压力测试，现在平台把底层路由全打包好了。说白了，城市级智算平台就是用统一接口和智能派单，把分散的厂商资源拧成一股绳，让大模型调用真正变成开箱即用的公共服务，企业只管提需求，后台自动匹配最优解。 技术调度跑通，直接反映在中小企业真金白银的成本与效率变化上。过去企业想跑通一个新场景，得先掏钱签长期租用合同或自建机房。哪怕模型在深夜闲置，账单照样按固定时长扣费，就像包了一辆出租车却只坐了三站路。词元超市把这套固定成本彻底打碎，改按实际输入输出的词元精准核算。词元就是AI处理信息的最小计价单位，好比家里电表走的度数。跑一次业务用了多少，就交多少钱，账单一目了然，彻底告别了算力闲置的冤枉钱。 更关键的是，灵活计费还能与无锡市级算力券补贴叠加。算力券是地方政府为扶持产业落地发放的专项凭证，相当于给企业发了一张算力满减券。一家本地智能安防企业接上平台后，原本需要重资产投入的算法验证直接转至云端。叠加补贴后，单次模型试错的资金门槛砍掉大半，研发迭代周期跟着大幅压缩。小微企业不再需要为了验证一个想法先背上沉重的硬件包袱。 城市级智算平台正用超市化运营与政策托底，把大模型从昂贵的基建投入，转化为即取即用的产业公共服务。试错成本被大幅压低，中小企业终于敢放开手脚多做几次技术测试。这就是现实。 无锡模式并非孤例，它折射出整个行业正从粗放采购转向按需调用的服务演进。过去企业跑AI，习惯按整张显卡去租或买。就像为了喝杯鲜奶直接牵回一头牛，独占硬件期间哪怕半夜闲置，账单也照样按秒跳字。现在城市级平台把算力集中并网后，玩法彻底变了。复杂业务不再指望单个模型大包大揽，而是被拆成多个子环节协同处理。任务拆分，也就是把一条完整的AI工作流切碎，按数据敏感度和计算难度分发给不同层级的节点，让计算资源真正各尽所长。 这种精细化分工，靠的是平台后台的自动路由。以实际业务为例，系统收到请求后会先做特征识别。涉及常规问答或隐私脱敏的轻量级环节，直接交由本地小模型快速闭环；遇到需要海量参数攻坚的复杂推理，再无缝抛给云端的大参数模型。这就像医院的分级诊疗，小病去社区门诊，疑难杂症转专科专家，不再让所有算力挤在一条赛道上内耗。无锡词元超市正是把这套混合调度能力，即自动在本地设备与云端集群之间切换分配任务的技术，做成了标准化接口。企业连底层服务器都不用维护，只需提交需求，后台自动完成算力拼单。 说白了，AI服务正在告别“一刀切”的重资产囤货模式，转向按需分流、精准计费的公共管网。城市级智算平台用超市化运营和智能调度抹平了技术门槛，把过去必须重金押注的基建包袱，变成了即插即用的产业水电。分工越细，效率越高。中小企业终于能轻装上阵，把真金白银全押在业务创新上。 算力获取变得像买菜一样方便，但要把能力真正转化为生产力，还得跨过软硬件协同的门槛。硬件并网只是搭好了水管，水能不能顺畅流进千家万户，还得看水龙头和水管接口是否统一。最近天风分析师郭明錤点评英伟达 RTX Spark 处理器时就点出了这个现实：芯片算力再强，如果操作系统底层的 AI 智能体架构（也就是让 AI 能在电脑里自动跨软件干活的底层程序）、跨应用工作流和开发工具包没有跟上，硬件也很难兑现重新发明 PC 的承诺。说白了，软件生态才是决定用户体验的最后一公里。 对无锡词元超市这样的城市级平台来说，下一场硬仗正是跨平台适配与标准化接口建设。过去开发者接不同厂商的模型，得为每家写一套适配代码，就像给不同品牌的电器配不同的插座。现在平台需要把调度能力封装成统一的 SDK（软件开发工具包，程序员用来快速调用外部功能的代码库），让企业无论用 Windows、苹果系统还是国产芯片，都能通过标准指令直接调用云端算力。行业里已经出现类似趋势，比如 AI 产品 Perplexity 正在测试混合调度功能，能自动把敏感数据留在本地电脑处理，复杂计算扔给云端，这背后依赖的正是本地与云端无缝切换的跨端软件框架。 当算力变成公共服务，比拼的就不再是谁的显卡更多，而是谁能提供开箱即用的开发环境。无锡平台若能进一步打通主流操作系统与本地设备的连接协议，提供标准化的智能体工作流模板，就能让中小企业像搭积木一样快速拼出 AI 应用。算力铺好了高速公路，软件生态就是沿途的加油站和维修站。只有把适配成本打下来，大模型才能真正从能用走向好用，完成从昂贵基建到即取即用公共服务的最后一公里。