界面新闻从多个知恋人士处获悉,豆包大模型去年大幅降价后,毛利率依然为正。其中,字节跳动最新推出的豆包大模型1.5,在推理成本优化上获得进一步突破。在火山引擎上售卖API的Doubao-1.5-pro,毛利率仍能达到50%。
去年5月,字节跳动正式对表颁布豆包大模型。其中,豆包通用模型pro-32k版,模型推理输入价值仅每百万tokens 0.8元,而其时市场上同规格模型的定价通常为每百万tokens 120元,是豆包模型价值的150倍。
豆包大模型降价之后,阿里云通义大模型等产品也相继调低了价值。市场上也一向有声音质疑价值大幅降低之后,大模型是否还能赢利。上述知恋人士暗示,此刻看来,这种不安有些多虑了。
火山引擎总裁谭待此前接受界面新闻采访时,也已经谈及过模型大幅降价的问题。在他看来,使用量足够大,能力打磨出好模型,也能大幅降低模型推理的单元成本。“大模型降价,不能只提供廉价的轻量化版本,主力模型和最先进的模型也要够便宜,能力真正满足企业的复杂业务场景需要,充分验证大模型的利用价值,从而催化出超过现有产品和组织模式的创新。”
从从前一年的发展来看,豆包通用大模型在市场上的阐发肯定水平上验证了谭待的判断。
一方面,豆包大模型的挪用量在急剧增长。字节跳动对表颁布的数据显示,截至去年12月中旬,豆包通用模型的日均tokens使用量已超过4万亿,较初次颁布时增长了33倍。
另一方面,豆包大模型的能力急剧提升,但成本仍在持续降低。1月22日,字节跳动颁布了豆包大模型1.5Pro,机能比之前版本显著加强,多项基准测试甚至超过GPT4o,推理成本却大幅降低。据字节跳动官方介绍,豆包1.5选取大规模稀少MoE架构,机能等效7倍激活参数的浓密模型,远高于业界通例的3倍杠杆。
界面新闻查问火山引擎官网发现,Doubao-1.5-pro-32k的百万tokens输入价值仍为0.8元,射中缓存为0.16元,输出价值为2元;轻量化版本Doubao-1.5-lite-32k的百万tokens输入价值0.3元,射中缓存0.06元,输出价值0.6元。两款模型价值在业界同级别最低。
新模型在价值维持不变的同时,随着推理成本持续优化,毛利率也显著增长。一位靠近火山引擎的知恋人士泄漏,豆包大模型API之前只能说是有合理毛利率,1.5版的毛利则能达到50%的可观水平。
大模型利用在向各行各业加快渗入。据字节跳动方面此前颁布的信息,豆包大模型已经与八成主流汽车品牌合作,并接入到多家手机、PC等智能终端,覆盖终端设备约3亿台,来自智能终端的豆包大模型挪用量在半年功夫内增长100倍。最近几个月,豆包大模型在信息处置场景的挪用量增长了39倍,客服与销售场景增长16倍,硬件终端场景增长13倍,AI工具场景增长9倍,进建教育等场景也有大幅增长。
但上述知恋人士泄漏,由于研发投入巨大,字节的大模型业务仍是吃亏状态。只有持续扩大利用侧的模型挪用规模,能力持久摊销掉研发成本。
界面新闻向字节跳动方面求证上述信息,截至发稿,对方暂未回应。









浙公网安备33059102000194号