本地跑模型,买两张5060ti 16g,是不是比买一张5090抢强?

怎么说呢,自己是真的买了2涨5060Ti的。时间是2026年4月16日,配置如下,可以说非常丐版,但是依然造价不低,只能说AI浪潮导致了太多的溢价。

核心配置清单

CPU:AMD 9700X

主板:微星MEG X870E ACE MAX

内存:Asgard 96G(48G x 2) DDR5 6400 海力士M-die CL32

显卡:2张 影驰GeForce RTX 5060Ti 技术大师 16G

电源:追风者 AMP GH白金 1000W全模

算力差异

2张5060Ti绑在一起的算力,在不考虑NVFP4这个新特性前提下,都打不过4080s,更别说去和5090碰瓷。

显存差异

总量算是持平,但是看看5060Ti的内存带宽,和5090相比,那真的是丐中丐,弟中弟,也别和5090碰瓷了。

价格上

2张5060Ti价格合起来,8K+,最多也就是5090的价格一半吧。

使用上

已经成功运行起来了Qwen3.6-35B-A3B这个模型,使用的是Redhat的Qwen3.6-35B-A3B-NVFP4量化版本,但是依然是用的fp 8的kv cache,获得了一个64K上下文。

效果
速度

算是能完整的进行了识别图片,编写代码,速度上也算说的过去。

自己买这个机器,并不是为了运行非常的模型,因为本身也不太现实,自己主要想做下面这几个事情

  1. 是学习下LoRA + FSDP,LoRA自己会一点,但是FSDP没有搞过,因此想学习下。
  2. 长期后台运行1个9B定制模型和1个9B的embbeding的模型。用来对自己的数据进行处理。
  3. 体验下comfyui这个玩具。

总结下

自己认为,单纯是为了学习,5060Ti这级别的卡子够用了,真正的算力还是需要租用,并且高智力的token还是要靠IDC的服务器和Coding Plan。同时根据自己的观察,5060Ti在很多同时进行轻量级游戏和办公为主的用户手里,算是主力机器了。看到很多装机标配都是5060Ti + 16G/32G内存这种配置。

所以应该想想自己为什么要本地跑模型,是为了处理什么,数据是否需要隐私性质的安全,需要多少的智能。还是说单纯就是想学习下模型训练,进行简单的LoRA。还有就是自己准备用多少预算去获得这些,在思考好之后,大概就知道买还是不买,应该买什么。

最后推荐下自己的一个从0开始开发Agent的课程和Coding Agent(Claude Code,Opencode)的使用经验和一些小故事。AI Agentic 应用开发实战(智体开发)Agent开发使用经验谈

编辑于 2026-04-22 · 著作权归作者所有