微软开发工具包突破NVIDIA壁垒！AMD显卡能运行CUDA代码

11月9日消息，一直以来，NVIDIA依靠自身强大的CUDA生态系统，在AI领域稳占主导位置，尽管AMD的ROCm等竞争对手的相关技术尚不够成熟，但如今这一局面正迎来新的改变者——微软。

据一位“高级别”微软员工透露，该公司已开发出一款“工具包”，可将NVIDIA CUDA模型转换或转译为ROCm兼容代码，从而让这些模型能够在AMD的GPU上运行。

此举的目的是破除CUDA的“生态锁定”局面，为微软不断增加的AI推理工作负载探寻更具成本优势的替代选择。

微软此次行动的核心驱动力是，他们察觉到AI推理工作负载的需求正显著增长，相较于价格高昂的NVIDIA GPU，AMD的AI芯片在推理场景下拥有更出色的性价比。

借助软件层面的转换，微软能够借助AMD的硬件优势，从而实现运营成本的降低。

据推测，该工具包或许会运用类似ZLUDA的运行时兼容层技术，在不对源代码进行修改的前提下，把CUDA API调用实时转换为ROCm指令。

不过，因为ROCm尚不够“成熟”，部分CUDA代码还没有对应的映射方案，可能会造成性能降低，这在大型数据中心场景下依旧是一个难题。