为什么amd的显卡不能跑ai?

今天是26年2月8日，其实这个说法优点过时了，你要是3个月前说这句话我觉得你说的非常对，但是现在来说，目前的情况是AMD显卡能跑AI，但是体验有点拉跨，不过性价比却是最高的。

以前不能跑的原因是老黄的生态壁垒CUDA。NVIDIA早在2006年就开始布局CUDA了，到现在正好20年了，无论是生态还是硬件的技术绝对是一条深不见底的护城河，所以在以前你会看到学术界的论文代码、GitHub上的开源项目、各种主流AI框架（PyTorch, TensorFlow），默认全是基于CUDA写的。

不过到了24年底-25年AMD算是在疯了一样补课了，尤其是最近的ROCm 7.2我觉得是一个非常大的进步，好不好先不说但是至少现在是能凑或用了。这意味着对于绝大多数常规操作，代码拿来基本就能跑。

特别是在大模型推理（LLM Inference），这里苏妈绝对要给G胖磕一个，要不是Valve摆脱 Windows (DirectX) 的垄断，让游戏能够在 Linux（以及现在的 Steam Deck）上流畅运行，大力投资 Vulkan并且贡献了极大量的代码和生态建设，现在AMD的卡做推理也是弟弟。

我现在本地部署还是只用Vulkan的llama.cpp呢，因为太好用了。而且现在rocm7.2对windows支持也不错，不过linux上性能就掉了，所以说AMD的生态还是要抓紧才能赶上

而且现在数据中心的Instinct MI专业卡比老黄的便宜不少，性能也差不，所以还是会有一些人用的。不过NVIDIA把生态做得太扎实了AMD这几年在ROCm上投入不少，兼容性确实在改善，但短期内想追上NVIDIA的生态位难度很大。

不过话说回来，要是自己用，除非特殊需求，目前来说还是N卡最省心。所以你看到的是“不能跑ai”，其实能跑只不过是要费劲而已。

最后发两个我的总结，供参考