深度学习入门，选择 NVIDIA 还是 AMD 显卡更合适？

如果你现在是一个刚开始学AI的新手，想买卡跑模型，我的建议特别朴实：先买N卡学起来，别在环境配置上消耗你的学习热情。等你真的搞明白了、想折腾了，再考虑AMD。毕竟工具是拿来用的，不是拿来伺候的。

我折腾过几回AMD显卡跑AI，几次都败在了配环境这一步。

第一回是想试试Stable Diffusion本地出图。RTX 4060插上去半小时跑起来了。同一台机器换上AMD 7700XT，那个周末就没了。不是跑不了。它确实能跑，但需要你先理解什么是DirectML，什么是ONNX Runtime，以及为什么同样的代码在N卡上没报错，换个卡连错误信息都看不懂。

后来我想，会不会是消费级卡不行，工作站总好点吧。弄了块AMD的W7900，按教程一步步装ROCm。结果发现PyTorch官方对ROCm的支持版本比我当前的操作系统版本还新一两个迭代。折腾到最后倒是跑起来了，但跑个LLaMA推理，帧率还不如我手上一张二手3080。

以上是我作为一个普通AI折腾者的个人感受。但Nvidia能到今天这个位置，不只是因为我这几回折腾，而是整个行业的结构性问题。

先说软件生态。老黄在2006年搞出CUDA的时候，可能自己也没想到这东西后面会变成AI行业的"水电煤"。2006年到AMD推出对标平台ROCm的2015年，中间差了十年，够一个小孩从小学读到大学。这十年里，全世界最聪明的那批搞计算的人，全在CUDA上写代码、做库、搭工具。cuDNN、TensorRT这些底层加速库优化了十几轮，每一轮都是拿真实应用场景在磨。

AMD现在也想做，但这东西不是砸钱就能追的。你得让开发者愿意来你的平台写代码。开发者不愿意的原因很简单：换个平台，代码要重写、要重新调优、遇到问题还找不到人问。在StackOverflow上搜一个CUDA报错，跳出来几十万条结果，随便翻翻就有答案。搜ROCm报错，经常翻几页还是同一个没人回的提问帖。

然后AI框架和开源社区那边也有点偏心。PyTorch、TensorFlow这些框架，开发的时候首选优化的后端就是Nvidia。AMD现在也支持，但在开发者优先级里永远排第二。最新的论文代码挂在GitHub上，作者通常只写了"Nvidia GPU上测试通过"。如果你用AMD卡想复现，等着你的大概率是"这个算子不支持"、"这段代码不兼容"、"显存爆了但是不知道为什么"。最后你花了大半天的功夫，可能只是为了跑通一个别人在N卡上三分钟就出来结果的东西。

现在市面上所有的AI教程、网课、环境配置指南，默认都是N卡。新手买AMD卡想入坑，第一步配环境就卡住了。同样的配置流程，N卡用户复制粘贴就完事。

硬件层面老黄也很鸡贼。从Volta架构开始，他在GPU里塞了专门的Tensor Core来干矩阵乘法这活，而矩阵乘法恰好就是AI训练和推理的核心。后面Ampere、Hopper、Blackwell一代代迭代，每次都在这个方向上变得更快。集群互联这块更不用说。现在的千卡万卡训练集群，NVLink加收购来的InfiniBand网络技术，几乎是一套插上就能用的方案。AMD在单卡硬件参数上确实不差，MI300X的192GB显存比H100的80GB大了不只一倍。但到了大规模多卡协同的时候，互联效率的差距就出来了。

但AMD的硬件本身真的不差。

MI300X跑大模型推理场景，显存带宽优势确实能体现出来。加载70B以上的大模型时，它比同级别的N卡从容得多。ROCm平台这两年的进步也是肉眼可见的，PyTorch已经官方支持了，越来越多的开源项目开始标"AMD compatible"。消费级领域，同级别的AMD卡比N卡便宜一大截。如果你有耐心折腾、动手能力强，它其实是个性价比极高的选择。

但最关键的问题在于：大多数人不是极客。

企业买算力，买的不是纸面参数最强，买的是稳定、高效、出了问题有人管。开发者买显卡，买的不是硬件，买的是别让我在配环境上浪费时间。从这个角度看，Nvidia卖的不是显卡，它卖的是确定性：你确定它能跑，确定它有生态，真遇到问题时也确定能找到答案。

AMD现在的角色，更像那个硬件实力派选手。单看参数数据都漂亮，但跑完整场比赛要经过的软件生态、社区支持、开发者体验这些环节，每一个都还有不小的距离。

所以你说Nvidia是不是不可替代？不是不能，而是短期内真的很难。一张卡解决不了这件事，它背后是一整套生态的问题。

那AMD能不能翻盘？硬件底子没问题，剩下的就看ROCm的进化速度和开发者的耐心了。但说实话，追赶十年的差距，这事急不来。

所以，我的结论是直接买N卡。