solidot新版网站常见问题,请点击这里查看。

AMD 发布 MI300X,称性能比 H100 高 30%

AMD
Wilson (42865)发表于 2023年12月07日 15时57分 星期四

来自美丽之星
AMD 正式发布了 AI 芯片 MI300X,FP8 FLOPS 性能比英伟达的 H100 高 30%,内存带宽多 60%,内存容量是其两倍以上。Meta、OpenAI 和微软都表示将采购 MI300X 以作为英伟达产品的替代。但要将硬件性能转换为实际性能,AMD 还需要在 AI 软件上取得突破,才有可能打破英伟达的 CUDA 软件护城河。AMD 表示它已经改进了其 ROCm 软件堆栈。目前 MI300X 的性能优势主要在大模型的推理而不是训练上,Meta 表示将在 AI 推理工作负荷中使用 MI300X。


https://www.semianalysis.com/p/amd-mi300-performance-faster-than
https://www.amd.com/zh-cn/products/software/rocm.html
https://www.cnbc.com/2023/12/06/meta-and-microsoft-to-buy-amds-new-ai-chip-as-alternative-to-nvidia.html