本地跑模型,买两张5060ti 16g,是不是比买一张5090抢强?
怎么说呢,自己是真的买了2涨5060Ti的。时间是2026年4月16日,配置如下,可以说非常丐版,但是依然造价不低,只能说AI浪潮导致了太多的溢价。
核心配置清单
CPU:AMD 9700X
主板:微星MEG X870E ACE MAX
内存:Asgard 96G(48G x 2) DDR5 6400 海力士M-die CL32
显卡:2张 影驰GeForce RTX 5060Ti 技术大师 16G
电源:追风者 AMP GH白金 1000W全模
算力差异
2张5060Ti绑在一起的算力,在不考虑NVFP4这个新特性前提下,都打不过4080s,更别说去和5090碰瓷。
显存差异
总量算是持平,但是看看5060Ti的内存带宽,和5090相比,那真的是丐中丐,弟中弟,也别和5090碰瓷了。
价格上
2张5060Ti价格合起来,8K+,最多也就是5090的价格一半吧。
使用上
已经成功运行起来了Qwen3.6-35B-A3B这个模型,使用的是Redhat的Qwen3.6-35B-A3B-NVFP4量化版本,但是依然是用的fp 8的kv cache,获得了一个64K上下文。


算是能完整的进行了识别图片,编写代码,速度上也算说的过去。
自己买这个机器,并不是为了运行非常的模型,因为本身也不太现实,自己主要想做下面这几个事情
- 是学习下LoRA + FSDP,LoRA自己会一点,但是FSDP没有搞过,因此想学习下。
- 长期后台运行1个9B定制模型和1个9B的embbeding的模型。用来对自己的数据进行处理。
- 体验下comfyui这个玩具。
总结下
自己认为,单纯是为了学习,5060Ti这级别的卡子够用了,真正的算力还是需要租用,并且高智力的token还是要靠IDC的服务器和Coding Plan。同时根据自己的观察,5060Ti在很多同时进行轻量级游戏和办公为主的用户手里,算是主力机器了。看到很多装机标配都是5060Ti + 16G/32G内存这种配置。
所以应该想想自己为什么要本地跑模型,是为了处理什么,数据是否需要隐私性质的安全,需要多少的智能。还是说单纯就是想学习下模型训练,进行简单的LoRA。还有就是自己准备用多少预算去获得这些,在思考好之后,大概就知道买还是不买,应该买什么。
最后推荐下自己的一个从0开始开发Agent的课程和Coding Agent(Claude Code,Opencode)的使用经验和一些小故事。AI Agentic 应用开发实战(智体开发)Agent开发使用经验谈