为什么CPU设计了三级缓存，GPU只设计两级缓存？

和CPU与GPU的本质差异有关。

CPU是延迟敏感型架构，需要处理复杂逻辑和随机访问内存，每一步的延迟都会影响整体性能，所以需要三级缓存。

三级缓存通过小容量高速度（L1）→中容量平衡（L2）→大容量共享（L3）的阶梯设计，降低内存访问延迟。

而GPU是吞吐量优先型架构，专注于高度并行的连续数据处理，几千个线程并行运行，单个线程的延迟可通过“线程切换”掩盖，所以无需为单线程优化多级缓存。

并且CPU处理的任务，数据重用率高，比如循环中的变量会多次访问，多级缓存能有效减少重复读取内存的性能开销。

GPU处理的任务，数据重复率低，GPU像素渲染时每个像素的数据仅用一次，即使是AI计算时，数据也是按批次连续读取，所以高带宽的显存比三级缓存更有效。

若是为GPU增加L3缓存，需要占用芯片面积，挤压计算单元的空间，反而会让同等芯片面积下的流处理器数量变少，影响计算能力，这对依靠并行数量提升性能的GPU来说有些得不偿失。

所以GPU只设计了两级缓存，GPU的并行架构和数据特性决定了它不需要像CPU那样用三级缓存优化延迟，两级缓存（L1+L2）+高带宽显存+线程级并行，已能满足其核心需求。