作为 AMD 为 AMD Ryzen AI 系列 PC 提供的 AI 推理工具和库集合,Ryzen AI 软件的最新点版本支持 Linux,尽管这种“早期访问”的 Linux 支持仅限于注册的 AMD 客户。
今年早些时候,我们报道了 AMD 预览了一个新的 Linux 运行时堆栈,用于 Ryzen AI NPUs,并基于他们的 AMDXDNA 内核加速器驱动程序构建。现在这被捆绑到了 Ryzen AI 软件集合中,该集合之前仅限 Windows 使用。在最新的 Ryzen AI 软件 1.6.1 点版本中,发布说明中唯一提到的变化是支持 Linux:

Ryzen AI Linux 支持 CNN、Transformer 和 LLM 流。尽管“Ryzen AI Software Early Access Lounge”会将你引导到 AMD 注册开发者/客户的登录区域。然而,关于今天早些时候刚刚了解到的这个新的 Linux 支持,我并没有任何细节。很可能它只是基于上游的 AMDXDNA 内核加速器驱动程序,然后是用户空间的部分,如 Xilinx XRT 堆栈。他们继续在预构建的 Linux 二进制文件上设置门槛,这无疑让 Linux 开发者更难参与和利用 Linux 下的 Ryzen AI NPUs。

此文档页面指出 Ubuntu 24.04 LTS 是 Ryzen AI Software 唯一官方支持的 Linux 发行版。

据说 Linux 支持 NPU 执行,并与 INT8 或 BF16 格式的 CNN 模型、BF16 格式的 NLP 模型以及仅用于 NPU 执行的 LLMs 协同工作,通常需要 64GB+的系统内存。
转自 Ryzen AI Software 1.6.1 Advertises Linux Support – Phoronix
Linuxeden开源社区