中国如意论坛一资料新人权益 - 中国如意论坛一资料

近日小米玄戒O100 AI加速芯片与苹果新款Mac mini及Mac Studio先后亮相，两者均将内存带宽推至TB/s级别。 对照阅读这预示着喂饱GPU的数据之争已经打响。

这并非偶然，这一趋势与2025年初发布的英伟达RTX 5090不谋而合——无论是桌面SoC、端侧NPU还是独立GPU，都在将内存带宽推向新的高度，以解决AI大模型运行时数据搬运的瓶颈问题。 相关文章

内存带宽是计算核心与数据之间的通道宽度。 同题参见大语言模型在自回归生成阶段，每输出一个Token，都需要将内存中数千亿参数的权重完整读取一遍。

计算单元再强大，大部分时间也在等待数据到达。也就是说这种“内存受限”现象已成为制约AI性能的关键瓶颈。

苹果Mac产品营销总监Laura Metz表示，M6系列将内存带宽提升了数倍。因为运行AI Agent时模型必须驻留在统一内存中随时待命。

苹果M6系列的三档配置，恰好标出了AI硬件内存带宽的三个门槛。标准版170GB/s，Pro版307GB/s，顶配Ultra版突破至1.2TB/s。

小米玄戒O100采用晶圆级垂直堆叠技术，将DRAM晶圆直接压在NPU上方，实现1.22TB/s带宽。

英伟达RTX 5090通过512-bit位宽配合GDDR7显存，达到接近1.8TB/s。

三家带宽齐冲TB/s，虽然路径不同，但指向同一个结论：数据喂给计算核心的速度，决定了AI硬件的真实性能。

这项竞赛让内存带宽成为比核心数更值得关注的AI性能指标。例如谁能在数据搬运速度上建立优势。谁就能在下一个计算时代占据先机。