如何评价DeepSeek官网上写预计8.17日大幅度涨价?

懂行才知道kvcache命中提价才是最贵的, 因为90%kvcache都能命中, 成本提升4-10倍不止

我最近在做flash优化,说下我体验的

如果按照v4-flash原价, 即使是4k输入1k输出, 单机要token输出要做到5w(H卡营收单卡45块/hour,还要考虑流量潮汐效应), 才能勉强有盈利,单机输入吞吐要做到20w+(50%命中,命中基本免费送的),如果是长输入数百K,纯靠rdma扛,v4 swa和compress,其实对于kvcache传输极度不友好,而且ds推理应该还是原来dp+ep方式,很糙, 所以经过几个月运营发现血亏,所以市面上无论哪家去做v4模型优化,不可能有盈利空间,鸡贼的会调高kvcache命中率,只能说ds之前太tmd良心了,让其他maas厂没有继续做的动力。

编辑于 2026-08-14 · 著作权归作者所有