全新芯片
AMD 近期发布了两款基于其最新 CDNA 4 架构、采用台积电 3 纳米工艺制造的 AI 芯片：Instinct MI350X 和 MI355X。每款芯片都集成了高达 1850 亿个晶体管，并支持 FP4 和 FP6 等新型数据格式。两款型号均配备 288GB HBM3E 内存，这对于 AI 应用至关重要。
其中，风冷 MI350X 功耗为 1000 瓦，而 MI355X 功耗为 1400 瓦，并支持风冷或液冷。从纸面数据来看，MI355X 的 TFLOPs 评分仅略高于 MI350X，但 SemiAnalysis 预计其实际性能将提升 10% 以上。
AMD 新芯片与英伟达的对比
据 SemiAnalysis 分析，在某些 AI 工作负载下，尤其是运行中小型语言模型时，MI355X 在每总拥有成本 (TCO) 性能方面可与英伟达的 HGX B200 相媲美。TCO 不仅考虑采购价格，还包括功耗和维护成本，AMD 声称在自营系统中可节省 33% 的成本。AMD 表示，MI355X 拥有 1.6 倍的内存容量和 2.2 倍于英伟达 B200 的 FP6 性能。然而，SemiAnalysis 指出，在 FP4 计算方面，英伟达的 B300 比 MI355X 快 1.3 倍。
可见，MI350 系列看起来确实是一个有力的竞争者。但 SemiAnalysis 也提到，与英伟达顶级的 GB200 NVL72 系统相比，MI355X 在处理超大型模型或训练新模型时仍显不足。其中一个原因是其较小的“世界规模（world size）”——仅有 8 个 MI355X 芯片能以全速通信，而英伟达的 GB200 NVL72 则允许 72 个芯片实现此功能。SemiAnalysis 指出，因此，需要大量芯片之间频繁通信的复杂工作负载在 AMD 的设置上运行速度可能至少慢 18 倍。
此外，SemiAnalysis 还批评 AMD 将“128 GPU 机架”的 MI355X 作为机架级解决方案进行宣传。实际上，它由 16 个独立的服务器组成，每个服务器配备 8 个 GPU，而非紧密集成的机架级系统。
AMD 确实通过 XGMI 连接将 8-GPU 集群内的数据交换速度（纵向扩展）提高到 76.8 GB/秒，但英伟达的同类系统仍然快 1.6 倍。
软件、合作与未来展望
软件是 AMD 推动 AI 发展的关键一环。通过 ROCm 7 版本，AMD 提升了 AI 应用性能，声称比之前版本平均提升了 3.5 倍。对 AI 编程工具 Triton 的支持也得到了改善。然而，用于多芯片协作的 ROCm Collective Communication Library (RCCL) 仍然是一个薄弱环节，本质上是英伟达 NCCL 软件的一种复制。
SemiAnalysis 报告称，AMD 正在努力扩大其“新云”提供商生态系统，这些提供商租赁 AMD 的计算能力。AMD 本身也从 AWS 和 Oracle 等公司租赁计算容量。该公司还提供自己的“AMD 开发者云”，MI300X GPU 的租用价格低至每小时 1.99 美元，旨在刺激市场竞争。与此同时，AMD 也在努力使其 AI 工程师的薪资与市场保持一致。
市场对新芯片表现出浓厚兴趣，主要云平台和 AI 研究实验室纷纷关注。AWS 首次计划大量采购 AMD GPU。Facebook 母公司 Meta 正在开始在 AMD 硬件上训练模型，而 Oracle 正准备部署 30000 个 MI355X 加速器。微软正在订购少量 MI355，并对即将推出的 MI400 表现出兴趣。
MI400 系列预计将于 2026 年下半年推出，旨在成为一个真正的机架级解决方案，有望与英伟达的 VR200 NVL144 系统竞争。它将使用 AMD 开发的“UALink over Ethernet”技术，这是一种通过标准以太网实现高速连接的方法，类似于英伟达的 NVLink。SemiAnalysis 对此是否能达到专用解决方案的性能持怀疑态度。展望未来，MI500 UAL256（包含 256 个芯片）计划于 2027 年底推出。MI350 系列现已接受订单，并将于 2025 年第三季度开始更广泛地供货。
