在 AMD GPU 上编译和部署大模型

2023-08-11 14:08 by 繁星若尘

今天的大模型主要用英伟达的 GPU 训练，但让英伟达一家独大对整个生态系统并不是好事。MLC（Machine learning compilation） 项目正致力于在 AMD GPU 上编译和部署大模型，实现与英伟达 GPU 相当的性能。相对于英伟达深耕了近二十年的 CUDA 软件生态系统，AMD GPU 最大问题在于软件支持，它正通过投资 ROCm 缩小与英伟达的差距。MLC 是一项新兴技术，旨在编译和自动优化机器学习工作负载。它不会为每个后端如 ROCm 或 CUDA 构造特定的内核，而是自动为不同后端生成代码。开发者称，MLC-LLM 方案在 AMD RX 7900 XTX 上的性能达到了英伟达 GeForce RTX 4090 的八成，而 7900 XTX 的价格只有 RTX 4090 的六成。

https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference

#AMD

英特尔抨击 AMD 的芯片命名是在欺骗客户

2023-12-07 14:32 by 巨龙之日

英特尔发布然后又删除了名为 Core Truths 的文档，抨击了竞争对手 AMD 的芯片命名，尽管芯片巨人以前也没少干类似的事情。英特尔在文档中指责 AMD 的芯片命名是“蛇油”，是在欺骗客户。英特尔特别点名了 AMD 的低端移动芯片 Ryzen 5 7520U。它的宣布日期是 2022 年 9 月，上市日期是 2023 年，但使用的是 2019 年发布的 Zen2 架构(数字里的 2 就是指 Zen2)。不知情的客户看到名字以为它是最新的基于 Zen4 架构的 Ryzen 7000 系列产品，英特尔强调儿童教育的未来需要性能最好的 CPU。芯片巨人还对比了 Ryzen 5 7520U 和它的第 13 代酷睿 i5-1335U，显示后者的性能要比前者快得多。AMD 发布的名字令人困惑的芯片都是针对移动市场，旨在适应不同的移动应用场景。YouTube 频道 Gamers Nexus 帮助 AMD 发布了一则反驳视频。

https://slashdot.org/story/23/12/06/1247205/intel-calls-amds-chips-snake-oil
https://www.youtube.com/watch?v=xUT4d5IVY0A

#AMD