
5060Ti 16G、V100 32G 跑 LTX-2.3 文生视频谁更胜一筹?
接上期《5060Ti 16G 本地跑 AI 实测:3500 块的「本地 AI 救星」还是智商税?》,第一位挑战选手是 Tesla V100 SXM2 32,选它是因为今年这卡居然涨到 3500+,这价格和 5060Ti 16G 持平了,如果加上 SXM2 的转接板,价格直奔 4000+,所以相同价位用来做对比测评合理吧?至于谁输谁赢?懂点卡的朋友应该已经知道答案了!
参数对比

5060Ti 16G:显存类型:GDDR7,核心频率 2647 MHz,采用第5代 Tensor Core,CUDA 核心 4608,接口 PCIe 5.0 x8,位宽 128-bit,带宽 448 GB/s。
V100 SXM2 32G:显存类型:HBM2,核心频率 1530 MHz,采用第1代 Tensor Core,CUDA 核心 5120,接口 SXM2 NVLink,位宽 4096-bit,带宽 900 GB/s。
测试环境

目前 5060Ti 16G 装在华硕正统 X99 大板上,PCIe 接口只有 3.0,系统 Windows 10 22H2,内存 DDR4 2133 64G。

V100 32G 为了发挥最大性,不接第三方 PCIe 和 SXM2 转接卡,而是装在原生 SXM2 NVLINK 服务器上,系统 UBUNTU 22.04,内存 DDR4 2400 64G。

同时为保证模型加载速度统一水平,两者都使用硬盘 SSD SATA3.0,理论速度为 6Gbps。
ComfyUI 官方版本为 0.24.0,默认 LTX-2.3 文生视频工作流,默认参数,模型文件总大小 40G,分辨率 1280 x 720。


测试结果

5060Ti 16G 首个视频用时 300.4 秒,第二个用时 104.8 秒,第三个用时 99.93 秒,显存最高占用 14.6G,内存最高占用34G。

V100 32G 首个视频用时 443.97 秒,第二个用时 266.12 秒,第三个用时 260.53 秒,显存最高占用 31G,内存最高占用34G。

测试总结
可以看出显存并不是越大越好,同样的模型、同样的工作流,5060Ti 16G 显存占用不到 15G,而 V100 32G 却接近 31G,生成速度还快了 2 倍以上,这是因为新架构对低精度计算和显存管理的优化,能够让显卡用更少的显存完成相同任务,甚至获得更高的推理性能。因此对于 AI 玩家来说,选对架构,往往比单纯追求大显存更重要,你觉得呢?