当前位置:首页 > 公众号精选 > 信息速递
[导读]5月15日,字节跳动正式对外发布豆包大模型。火山引擎是字节跳动旗下云服务平台,豆包大模型原名“云雀”,是国内首批通过算法备案的大模型之一。目前豆包大模型日均处理1200亿Tokens文本,生成3000万张图片。

5月15日,字节跳动正式对外发布豆包大模型。火山引擎是字节跳动旗下云服务平台,豆包大模型原名“云雀”,是国内首批通过算法备案的大模型之一。目前豆包大模型日均处理1200亿Tokens文本,生成3000万张图片。

今日火山引擎总裁谭待重点披露了豆包大模型的商业化价格——豆包主力模型在企业市场的定价为0.0008/Tokens,即0.8厘的价格可处理1500多个汉字,较行业平均价格便宜99.3%。市面上同规格模型的定价一般为0.12/Tokens,是豆包模型价格的150倍。

但火山方面并未披露豆包大模型的具体参数规模。火山方面人士对记者表示,目前参数规模已经不是衡量大模型能力的唯一指标。采访中谭待表示,“今年行业不再比拼参数规模了,因为大家都‘悟’了。”不同尺寸的模型具备不同性能,价格自然不同,但豆包是以最终能力最强的主力模型来定价,同时与行业价格进行对比。

在具体优化成本的方式上,谭待披露称,一方面通过技术层面手段将成本做低,如对模型结构进行优化调整。其次是在工程方面将过去的单机推理升级为分布式推理,同时结合对云计算算力的混合调度,通过综合方式将成本做低。

至于为什么要做降价这个市场动作,谭待表示,今年一个很大的变化在于行业大模型能力大幅提升,做应用这件事变得很重要,也就是一定要将生态做繁荣。谭待称目前接触的很多客户都在做大模型方面的尝试,但创新这件事的风险度很高,尤其在AI领域,因此需要将成本降低,拉动大家更广泛地使用起来。从这个角度来讲,不论是大企业还是个人,都需要更低成本、更高质量的大模型。

目前,大模型应用发展仍处于早期阶段。QuestMobile数据显示,截至今年3月,基于大模型的AIGC行业用户量为7380万,尽管同比增长了8倍,也仅占移动互联网用户量的6%。谭待认为,降低成本是推动大模型快进到“价值创造阶段”的一个关键因素。

如今行业内降低大模型价格渐成趋势,昨日OpenAI在进行大模型技术更新的同时,也宣布了价格的下降。OpenAI新推出的两个嵌入模型:text-embedding-3-small模型与text-embedding-3-large模型,前者的价格仅为上一代的五分之一,每1000tokens的价格从0.0001美元降低到0.00002美元。后者可以创建多达3072维(dimensions)的嵌入,其主要提升在于性能。

另在513日,智谱大模型开放平台(bigmodel.cn)上线新的价格体系,入门级产品 GLM-3 Turbo 模型调用价格下调80%,从5/百万tokens降至1/百万tokens1元可以购买100tokens。面壁智能方面针对大模型降价趋势表示,自身产品小钢炮MiniCPM一直0元购,降无可降。

对于降价这件事,谭待在采访中表示,To B业务通过亏损换收入是不可持续的,所以火山不走这条路,更多考虑的是让更多人来使用,“大的使用量才能打磨出好模型,也能大幅降低模型推理的单位成本。”谭待表示,通过技术手段将价格打下来后,行业便会踊跃进来尝试这件事。

截至目前,字节跳动基于豆包大模型打造了AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”,以及星绘、即梦等AI创作工具,并把大模型接入抖音、番茄小说、飞书、巨量引擎等50余个业务,用以提升效率和优化产品体验。

字节跳动产品和战略副总裁朱骏认为,技术在快速演化,但用户核心的需求没有改变,包括高效获取信息、工作提效、自我表达、社交娱乐等,字节跳动希望能够找到适合的大模型应用形态。目前豆包是字节跳动重点投入的大模型应用。据朱骏透露,豆包上已有超过800万个智能体被创建,月度活跃用户达到2600万。

豆包大模型在服务字节内部的同时,也在与火山引擎的众多企业客户合作共创,其所提供的是一个有多模态能力的模型家族,目前主要包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等九款模型。

(第一财经)

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

9月2日消息,不造车的华为或将催生出更大的独角兽公司,随着阿维塔和赛力斯的入局,华为引望愈发显得引人瞩目。

关键字: 阿维塔 塞力斯 华为

加利福尼亚州圣克拉拉县2024年8月30日 /美通社/ -- 数字化转型技术解决方案公司Trianz今天宣布,该公司与Amazon Web Services (AWS)签订了...

关键字: AWS AN BSP 数字化

伦敦2024年8月29日 /美通社/ -- 英国汽车技术公司SODA.Auto推出其旗舰产品SODA V,这是全球首款涵盖汽车工程师从创意到认证的所有需求的工具,可用于创建软件定义汽车。 SODA V工具的开发耗时1.5...

关键字: 汽车 人工智能 智能驱动 BSP

北京2024年8月28日 /美通社/ -- 越来越多用户希望企业业务能7×24不间断运行,同时企业却面临越来越多业务中断的风险,如企业系统复杂性的增加,频繁的功能更新和发布等。如何确保业务连续性,提升韧性,成...

关键字: 亚马逊 解密 控制平面 BSP

8月30日消息,据媒体报道,腾讯和网易近期正在缩减他们对日本游戏市场的投资。

关键字: 腾讯 编码器 CPU

8月28日消息,今天上午,2024中国国际大数据产业博览会开幕式在贵阳举行,华为董事、质量流程IT总裁陶景文发表了演讲。

关键字: 华为 12nm EDA 半导体

8月28日消息,在2024中国国际大数据产业博览会上,华为常务董事、华为云CEO张平安发表演讲称,数字世界的话语权最终是由生态的繁荣决定的。

关键字: 华为 12nm 手机 卫星通信

要点: 有效应对环境变化,经营业绩稳中有升 落实提质增效举措,毛利润率延续升势 战略布局成效显著,战新业务引领增长 以科技创新为引领,提升企业核心竞争力 坚持高质量发展策略,塑强核心竞争优势...

关键字: 通信 BSP 电信运营商 数字经济

北京2024年8月27日 /美通社/ -- 8月21日,由中央广播电视总台与中国电影电视技术学会联合牵头组建的NVI技术创新联盟在BIRTV2024超高清全产业链发展研讨会上宣布正式成立。 活动现场 NVI技术创新联...

关键字: VI 传输协议 音频 BSP

北京2024年8月27日 /美通社/ -- 在8月23日举办的2024年长三角生态绿色一体化发展示范区联合招商会上,软通动力信息技术(集团)股份有限公司(以下简称"软通动力")与长三角投资(上海)有限...

关键字: BSP 信息技术
关闭