家用电脑跑大模型，什么配置性价比最高？

从零开始配大模型主机，最经济的方案，是自己搞个能装多卡的机箱装卡。别买品牌整机，也别想着往已有的普通CPU服务器机里塞一张卡就完事。

我做AI应用开发，工作里给客户改造过几台2U服务器，加装4090的48G卡跑大模型，踩了不少坑。平时也接付费咨询，有些客户因为数据不想上网，或者是技术发烧友，就想自己搭一台，来问怎么配。给他们做过几套方案，就把里头的思路整理一下，哪些钱该花，哪些是冤枉钱。

⭐ ▎先选机箱，别先挑显卡

配大模型主机，第一件事别看显卡天梯图。顺序反了。

你得先想装几张卡。两张以上的4090，普通台式机机箱塞不下。硬塞进去，两张卡贴一块，散热直接崩。

要装多卡，机箱空间得够。卡和卡之间留得出距离，大电源，额外风扇也装得下。所以第一步，先定个能装多卡的大机箱，显卡往后排。

⭐ ▎多卡就上涡轮版4090

双卡多卡，散热是头等大事。这地方有个选择，涡轮版4090。

普通版4090是开放散热，三槽厚，热往机箱里吹。两张卡叠一起，下面那张吸上面呼出来的热气，温度叠着涨，夏天降频给你看。更别说2U服务器那种窄空间，普通4090太厚压根塞不进去。

涡轮版薄，把热直接往外面抽，不烤旁边的卡。多卡叠放，塞服务器，这个优势太明显。

缺点也说清楚，涡轮卡满载吵，风扇呼呼的。扔机房或者单独房间没事，放工位边上烦人。

⭐ ▎为什么一定要两张卡

说实话，这是我推荐双卡最核心的理由。

一张卡跑大模型，显存和算力基本就吃满了，没余量。你做知识库要做向量化，处理文档要跑识别跑OCR，这些都要算力。一张卡全占给大模型，这些活根本没卡干。

所以第二张卡拿来跑这些周边，一点不浪费。给客户搭的时候，一般一张卡扛主力模型，另一张卡跑向量化，做识别，还有重排，互不打扰。

还有一层，双卡能互为冷备。一张突然坏了，另一张顶上，整个服务不至于停摆，对不对。生产环境这个冗余挺值钱。

一张卡跑大模型就吃满了。第二张卡干周边，做冷备，都用得上。

⭐ ▎显存才是经济账的命门

说实话，经济方案就是把预算全砸显存上，别盯着最便宜的卡买。

大模型推理这事儿，瓶颈在显存和带宽，算力够用就行。这跟打游戏拼帧数是反着来的。

一张24G的卡，跑30B级模型很吃力，量化完还占满，KV cache塞不下。魔改到48G，单卡就能稳跑，还能留一半给上下文。

实际部署里，魔改48G的4090单卡就能跑Qwen3.6这个35B的MoE模型，AWQ量化，vLLM部署，稳得很。换原版24G，这模型单卡压根进不去。

算力再高显存不够，照样跑不动。显存够大算力一般，照样能跑。经济账算显存，别算TFLOPS。

⚠️ ▎攒机没人告诉你的成本

显卡之外还有一堆要花钱的，很多人配完才发现。

电源。双4090满载接近900W，整机还得留余量，电源不能省。单卡金牌850W起步，双卡1200W往上。电源缩水，满载重启甚至炸了，亏的是整台机。

PCIe槽位。双卡要主板有两个间距够的x16槽。槽位太近，两张卡又贴一起，绕回散热问题。便宜板子的槽位设计根本不考虑多卡。

主板供电。H610这种入门板带双卡，长时间满载供电可能不稳，掉速。

这些坑给客户排查的时候基本都遇到过。最坑的一次，发现几台服务器里的卡全跑在PCIe 1.0上，带宽只剩额定的8%，模型加载慢了十倍，之前测的所有数据全是残血状态。

整机的钱一半在显卡，另一半藏在电源主板散热里。

💡 ▎这几个坑别踩

5090D。国内合法卖的是5090D，名字像5090，显存只有24G，带宽还砍了四分之一。性能未必比4090强多少，价格贵一截。奔着5090去买结果买到D版，花更多钱办更少的事。

二手高仿4090。现在二手市场有高仿卡混进来，成色造假。低于市场均价的别碰，交易一定走验货宝这种有担保的渠道。

A100拿来做纯推理。浪费。A100那么高的算力和NVLink，推理根本用不上，钱花在用不着的地方。推理选消费卡，训练再去考虑专业卡。

给客户改造也好，给付费咨询做方案也好，思路都一样：预算先切一半给显存，剩下的分电源主板散热。显存放得下你的模型，这台机器就及格了。30B级模型日常稳跑，向量化识别这些活第二张卡接着，互不影响。

单卡怎么选我之前写过一版，这里。 魔改48G到底靠不靠谱，我单独写过一篇实测，这里。 那次PCIe降级排查的完整过程，这里。

更多大模型私有化部署的实战，发在公众号【AI电参】，欢迎关注。

觉得有用先收藏，下次配机直接翻出来照着对。