做搜索排序、商品推荐、支付审批的团队都懂一件事:模型再准,慢半拍就是废的。Liquid AI 这次拿出的东西,就是冲着这几毫秒来的——推理引擎 Liquid RIPL,主打低延迟,需与 Liquid AI 自家模型搭配使用。
![]()
名字里的 RIPL 展开是「每一毫秒都算数的实时智能」。这个定位很直白:不是通用推理加速,而是把「快」当成第一指标来设计。搜索排名生成、商品推荐系统、支付授权这类场景,一旦把 AI 塞进链路里,延迟压不下来,整个流程就卡在那儿。
![]()
官方给出的对比图里,横轴是每秒请求数,纵轴是延迟长度。三组条件摆在一起:LFM2.5-350M 跑在 Liquid RIPL 上、同一个 LFM2.5-350M 跑在 vLLM 上、以及 Qwen3.5-0.8B 跑在 vLLM 上。同模型对同模型比,Liquid RIPL 的延迟压得更低。
![]()
更狠的一组数字在后面。把 MiniCPM5、Granite 4.2、Qwen3.5 分别跑在 vLLM 上,再和跑在 Liquid RIPL 上的 LFM2.5 对比:LFM2.5-1.2B 走 Liquid RIPL,延迟只有 Qwen3.5-0.8B 走 vLLM 的 14.4 分之一。这个倍数不是靠换硬件堆出来的,是引擎和模型配套调出来的结果。
硬件侧,Liquid RIPL 面向 NVIDIA 的 GPU,明确点名了 H200 和 RTX Pro 6000,用途是把 Liquid AI 自家模型跑在这些卡上。换句话说,它不是一个拿来就能套任意模型的通用方案,模型和引擎是绑定的。
至于钱的事,官方没公布定价细节。想评估落地的企业,得直接找 Liquid AI 的销售团队问。对 SRE 和基础设施团队来说,这意味着采购前多一道沟通成本——延迟数字好看,账单还得单独谈。
低延迟推理这条赛道最近不缺玩家,但把「毫秒级」写进产品名、还拿出 14.4 倍这种对比数字的,Liquid AI 算是把话挑明了。搜索和支付这类场景要不要换引擎,先看自家链路里那几毫秒到底值多少钱。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.