生成式 AI 使用的 GPU 基本上指的都是英伟达的产品。英伟达被广泛视为是一家硬件公司，但它的软件工程师数量多于硬件工程师。它对使用其软件工具（CUDA）设定了非常低的门槛，围绕其硬件构建了强大的软件护城河。完全依赖于英伟达的产品对生成式 AI 领域的众多科技公司而言并非好事，其中一大问题是英伟达的产品供不应求。部分大公司拥抱了自研 AI 芯片，而 AMD 和英特尔等也都努力进入这一市场。因为 CUDA 工具的广泛使用，即使不使用英伟达的硬件，其它公司的 GPU 和加速器仍然需要设法支持 CUDA。PyTorch 已经将用户与底层 GPU 架构分离开来，而 AMD ROCm 提供了 CUDA 的开源替代，今天跨越 CUDA 护城河可能就像使用 PyTorch 一样简单。

https://www.hpcwire.com/2023/10/05/how-amd-may-get-across-the-cuda-moat/