
为什么只有统一内存的macbook,才会成为codex这类ai的硅基生命母体?
最近这段时间AI火得真是一塌糊涂,从写代码的Codex,到画画的Midjourney,再到各种能聊天的LLM,感觉这些东西越来越有生命意识了
遇到身边好多在用AI的朋友一咬牙,一跺脚 ,就配了一台大几万、闪着五彩灯效的PC台式机,觉得那两个巨大的显卡就是算力巅峰啦,非也非也
今天学长要唠一个可能会颠覆童靴们认知的结论:
如果你想在家里寰养一个像Codex这样很有深度、确实能思考~做出来的东西跟你心里想的差不多的AI,那些堆满风扇的PC估计还差点意思
只有采用"统一内存"的MacBook,才会成为这些ai硅基生命的母体,这绝对不是俺无脑的吹,主要是由它的底层架构逻辑决定的


1、咱们先了解一下传统PC是怎么跑AI的
为什么MacBook这么牛,咱们就要先瞅瞅传统的Windows PC是怎么整活滴
平时咱们用的windows PC端,CPU和GPU都是分家的,各过各的

CPU旁边会插着普通的内存条,显卡上自带高带宽的显存
如果你想在本地跑一个Codex这样的AI模型时,就要像送快递一样传输数据。
举个栗子~
假如你哪天走了好运,手头宽裕了,就斥巨资搞了一块顶级的英伟达RTX 4090显卡,它算力确实猛啊,但显存只有24GB,这个时候突发奇想,你想跑一个稍微大一点的编程模型
当你点击运行,电脑会发生什么?
24GB的显存会被瞬间塞爆的,剩下的4GB数据装不下,只能留在系统内存里干着急

这个时候如果显卡要计算,就必须要通过主板上的PCIe通道,给我的感觉就好像像"蚂蚁在搬家"一样去内存里面一口一口地啃这4GB的数据,很是麻烦
这个通道的带宽跟它显存内部的速度相比,你的4090算力就算吹破天,再强,98%的时间还不是都在原地踩油门等数据送过来啊兄der
AI能力是被限制住了的。
假如你想用48GB甚至更高显存的卡?对不起,那是老黄显卡(比如H100),一张就要十几万甚至几十万,反正俺是根本玩不起的
2、Macbook统一内存确实挺秀的
MacBook统一内存的含金量越来越高了
在Apple Silicon(M1、M2、M3、M4、M5芯片)的架构里,mac的CPU、GPU、NPU(神经网络引擎)会被苹果工程师封装在同一个芯片上
给你们瞅瞅学长店里实拍的Macbook:


它的内存不再分什么"系统内存"和"显存",它们是合二为一的
如果你手里有一台128GB统一内存的MacBook,当你随手把28GB的编程模型丢给codex时时,Mac说:"来啦老弟,屋不大,但128GB你可以随便躺"
GPU不需要费劲巴拉的把模型代码从内存吭哧吭哧的搬运到显存里——因为介个时候内存就是显存,显存就是内存,你中有我,我中有你
AI的模型参数是不需要做任何肢解的,可以直接整整齐齐地躺在高达400GB/s带宽的统一内存里,你就说牛不牛吧!

它M芯片里每一个参数、每一个神经单元,其实都是处于GPU、NPU的肉眼可见的范围里,就好比学长中午做菜,味精、胡椒粉、海盐、菜籽油我随手就能够到,主打的就是一个快
当用PC的同学还在算计"24GB显存能塞下几个参数"的时候,用MacBook的同学已经通过统一内存把百亿、千亿参数级别的ai agent 直接塞进包里,带去奶茶店一边咂摸着薄荷奶绿的醇厚感,一边用mac生产着奇思妙想的创意
这就是为什么学长说它是"ai硅基生命的母体"——它是能提供足够大的空间,去孕育那些体量巨大的AI生命
【利益相关:张诚实学长从事二手iphone、Macbook事业很多年了,以前Mac大家都比较看中颜值,现在越来越关注它在运行ai智能体的强大作用了。二手Mac性价比的确很高,但是缺少验机,检测经验也真的很容易被坑。如需学长帮着验mac,检测机子,挑放心mac,头像滂可寻俺 @张诚实学长 】

3、 速度差距多大?
我知道有些同学肯定会反驳:"Macbook的GPU算力根本打不过4090啊!4090算力要高好几倍腻!"
没错!要是单看纯粹的"暴力算力",老黄家都英伟达的确是当之无愧的王者
但在跑本地AI大模型时,Mac依然是不可被替代的!

大模型的运行瓶颈,往往不是"算力",而是同学们都没有注意到的宽带。
AI在生成文本的时候,不是在做复杂的微积分而是在做海量的"选择题"~算力就像做题的速度,宽带就像你拿到试卷的速度,大模型每输出一个字,都要把整个模型的几十亿、上百亿参数在脑子里"过一遍"的
4090感觉就像班里的尖子生,做题速度特别快,但是因为它显存太小、通道太窄,试卷传不过来,导致它大部分时间都在"咬笔头"等试卷,而MacBook的统一内存不仅容量大带宽也高!!
4、实际体验差距
把它两个放一起,跑一个本地的任务,PC端可能会因为显存的不足,触发内存交换, PC的风扇都会呼呼直转,一边以每秒10个Token的速度憋代码
而MacBook Pro,风扇甚至都没怎么转,却能够以每秒30个Token的速度跑起来!
Mac的芯片里还集成了专门的NPU(就是我们常说的神经网络引擎),它就是专门为了跑AI矩阵运算而生的,可谓是时势造英雄,英雄造时势
再配合统一内存,它能让AI用特别低的能耗、极高的效率,来运作整个人类千年的文明
学长的一些感悟:生命有一个核心特征叫做"能量利用率"
人类大脑实际上只有十几瓦,智慧却是无限的。
我相信AI一定会成为一种硅基生命,到那个时候PC架构不能统一的话,一定会被ai所抛弃。
而MacBook也它凭着它统一内存、超高的能效比,只需要几十瓦的功耗,把一个个足以改变某个行业的代码模型跑得飞起!
它不仅能装得下AI的灵魂,还能提供优雅、冷静的环境,要是你,你会怎么选择?
在这里,AI的数据就像是血液,统一内存就像是全身的血管,算力就像是心脏,它们浑然一体
这才算真正属于AI硅基生命的合格母体!
非常感谢同学们的认真阅读,学长后面也会不断的更新mac、 iPhone相关的数码知识,您的每一转发都是对学长的巨大鼓励和支持!再次感谢。