为什么目前 AI 的设备是用 Mac 为主,而不是熟知的 Windows?

其实个人感觉,目前 AI 的最舒服的环境是 windows +WSL,纯 Linux 后端可以直接扔 WSL 里跑,无缝享受 Linux 生态。

对于 Windows 环境的应用,感觉虽然 PowerShell V7 没有 Bash 那么舒服,但是还能接受。很多人特别难受,是因为用的PowerShell V5版本的,冲突太多,所以 PowerShell 记得升级到 V7。

其实 Windows 平台最大的优势,还不是操作习惯,而是能用 N 卡,有 CUDA 。本地部署模型做开发的时候,简直太方便了。

llama.cpp 主要覆盖的是 LLM,但反推、音乐生成、图形生成这些模型,往往需要各种专用加速轮子,离了 CUDA 基本寸步难行。

很多人觉得 Mac 好,估计主要是馋那个统一内存能跑大模型。

但 128GB 真正覆盖的甜点区其实就是 70B-120B 稠密模型的 Q4 推理.问题是这个区间的性价比已经被 35B MoE 这种架构卷死了。

而对于 Qwen3.6-35B-A3B MoE 与Qwen3.6-27B 这些常用的模型 Q8 版本,即使 4090 与 5090 无法完全装入,剩下用内存,估计吐字速度比 M5 MAX 都要快,毕竟纯算力差距在那摆着了。

说白了,要么 24GB-32GB 小模型够用,要么得上 400GB+,128GB这个数字对于跑 LLM,实际卡在中间哪头都不沾。

当然,Mac 的高续航和优雅设计,台式机和 Windows 本确实比不了。

倒是可以期待一下 RTX Spark,只要不是太贵,算是个对于 AI 开发实用性很强的设备。毕竟 CUDA 生态,能跑全套的反推、音乐、图形等非LLM模型,还能跑训练。

编辑于 2026-07-17 · 著作权归作者所有