豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”
对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”
谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。
另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。
麻豆文化传媒app5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。
其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。
745.21MB
查看499.61MB
查看80.1MB
查看121.10MB
查看944.99MB
查看815.13MB
查看521.22MB
查看529.67MB
查看494.61MB
查看448.75MB
查看658.36MB
查看186.23MB
查看332.89MB
查看369.88MB
查看848.45MB
查看370.53MB
查看211.52MB
查看102.55MB
查看835.55MB
查看165.76MB
查看842.48MB
查看948.33MB
查看706.88MB
查看998.75MB
查看615.18MB
查看561.55MB
查看674.12MB
查看890.45MB
查看371.81MB
查看541.39MB
查看158.35MB
查看635.75MB
查看848.60MB
查看926.44MB
查看421.86MB
查看713.32MB
查看382.86MB
查看797.34MB
查看628.26MB
查看322.37MB
查看106.14MB
查看202.21MB
查看453.10MB
查看181.81MB
查看230.45MB
查看607.99MB
查看717.80MB
查看455.50MB
查看559.96MB
查看654.43MB
查看219.36MB
查看821.73MB
查看481.65MB
查看400.57MB
查看808.88MB
查看681.65MB
查看783.51MB
查看562.82MB
查看256.87MB
查看312.38MB
查看464.14MB
查看129.94MB
查看571.30MB
查看564.47MB
查看988.23MB
查看293.78MB
查看511.46MB
查看726.83MB
查看395.87MB
查看442.83MB
查看865.97MB
查看828.19MB
查看776.98MB
查看674.81MB
查看899.17MB
查看615.58MB
查看514.31MB
查看163.20MB
查看859.83MB
查看784.35MB
查看110.97MB
查看271.77MB
查看303.12MB
查看734.25MB
查看552.30MB
查看632.64MB
查看407.52MB
查看428.81MB
查看311.11MB
查看320.50MB
查看154.19MB
查看703.60MB
查看170.83MB
查看526.63MB
查看255.86MB
查看426.74MB
查看153.24MB
查看123.61MB
查看834.66MB
查看308.41MB
查看483.30MB
查看242.70MB
查看182.85MB
查看533.26MB
查看
157 东营ih
梦幻+罕见!想坐“水上列车”,来这里!🚯
2025-06-30 14:30:59 推荐
713 188****6247
迎峰度夏进行时 “东北电”跨越2000公里首次入川🚳
2025-06-29 06:00:53 不推荐
475 152****5003
再添一金!杨昊/练俊杰夺跳水男子双人10米台冠军🚺
2025-06-29 05:41:43 推荐
19 纸嫁衣2奘铃村
天府融媒联合体今日成立🚽
2025-06-30 08:00:23 推荐