AMD为其新的MI300X AI平台的推出活动得到了该行业中一些知名人士的支持,包括Microsoft,meta,OpenAI等。这些大三大都说他们计划使用芯片。
AMD的首席执行官Lisa Su Biged Mi300X,将其描述为该公司有史以来最复杂的芯片。总而言之,它包含1530亿个晶体管,大大超过了80亿NVIDIA的全征用H100 GPU。
它还使用AMD所说的是世界上最先进的包装,在5nm和6nm节点的混合物中使用了不少于12个芯片。芯片的基层是四个大的IO模具,包括无限速度,PCIE Gen 5,HBM接口和无限织物。最重要的是八个cDNA 3加速器芯片或“ XCD”,总计1.3 Petaflops的原始FP16计算功率。
这些堆叠模具的两侧是八个HBM3内存模块,总计192GB的内存。所以,是的,这东西是一个怪物。
总体上,AMD声称MI300X具有2.4倍的内存能力,是内存带宽的1.6倍,是NVIDIA H100的原始计算功率的1.3倍。在实际的AI培训和推断基准测试中,AMD通常声称MI300X的速度比H100快1.2倍。
实际上,只要MI300X在硬件方面具有广泛的竞争力,那么它比较的细节可能并不重要。因为可以说更重要的是软件支持。迄今为止,NVIDIA的CUDA平台比AMD的ROCM得到了更好的支持,因此后者可以证明很多。
值得注意的是,NVIDIA比硬件工程师雇用更多的软件工程师,这对NVIDIA的价值和重要地说明了。
话虽如此,AMD确实强调了其内存能力优势意味着您可以比NVIDIA的H100做更多的MI300X。八个MI300X的完全构建的服务器节点可为等效的NVIDIA H100 GHX节点的640GB提供1.5TB的内存。
MI300X的成功将有多成功。虽然显然很希望看到Microsoft,meta,OpenAI支持AMD的大型AI发布会,但我们不知道他们每个人都会真正购买的芯片。
正如我们报道的那样,据估计,仅微软就在最近的季度购买了价值5英镑的NVIDIA H100 GPU。从这项活动中不清楚的是,像Microsoft这样的公司是否计划在AMD上花费数十亿美元,或者目前的参与是否在于将NVIDIA保持在脚趾上,而愿意购买竞争产品,而实际上是关于实际购买真正大量AMD的新GPU。
同样,AMD对MI300X收入的预测非常保守。但是,这是否反映了其真正的野心,还是试图将期望设定低,然后粉碎它们?一如既往,观看这个空间。
这对PC游戏意味着什么,即使没有更多的雾气也是如此。如果AMD可以在AI芯片上赚钱,那么从理论上讲,它将其投资于游戏GPU技术的更好位置。另一方面,它也可能会转移AMD的注意力,甚至可以在其主要的Foundry合作伙伴TSMC上获得尖端生产能力。
所有这些都意味着我们只需要拭目以待,看看它是如何抛弃的。通常,我们认为AMD在AI中表现良好,对于PC游戏玩家来说,如果它使更健康,更强大的AMD变得更加强大。但是同样有很多变量在玩,很难确定。如果您有兴趣了解更多信息,则可以在此处观看整个发布会。