Forwarded from Solidot
在 AMD GPU 上编译和部署大模型
2023-08-11 14:08 by 繁星若尘
今天的大模型主要用英伟达的 GPU 训练，但让英伟达一家独大对整个生态系统并不是好事。MLC（Machine learning compilation） 项目正致力于在 AMD GPU 上编译和部署大模型，实现与英伟达 GPU 相当的性能。相对于英伟达深耕了近二十年的 CUDA 软件生态系统，AMD GPU 最大问题在于软件支持，它正通过投资 ROCm 缩小与英伟达的差距。MLC 是一项新兴技术，旨在编译和自动优化机器学习工作负载。它不会为每个后端如 ROCm 或 CUDA 构造特定的内核，而是自动为不同后端生成代码。开发者称，MLC-LLM 方案在 AMD RX 7900 XTX 上的性能达到了英伟达 GeForce RTX 4090 的八成，而 7900 XTX 的价格只有 RTX 4090 的六成。
https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference
#AMD
2023-08-11 14:08 by 繁星若尘
今天的大模型主要用英伟达的 GPU 训练，但让英伟达一家独大对整个生态系统并不是好事。MLC（Machine learning compilation） 项目正致力于在 AMD GPU 上编译和部署大模型，实现与英伟达 GPU 相当的性能。相对于英伟达深耕了近二十年的 CUDA 软件生态系统，AMD GPU 最大问题在于软件支持，它正通过投资 ROCm 缩小与英伟达的差距。MLC 是一项新兴技术，旨在编译和自动优化机器学习工作负载。它不会为每个后端如 ROCm 或 CUDA 构造特定的内核，而是自动为不同后端生成代码。开发者称，MLC-LLM 方案在 AMD RX 7900 XTX 上的性能达到了英伟达 GeForce RTX 4090 的八成，而 7900 XTX 的价格只有 RTX 4090 的六成。
https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference
#AMD
🤡7👍4
Forwarded from VmShell VPS Channel (CMI.HK VmShell INC)
如果本次SOLUSVM从1-升级到V2
出现BUG，就准备把所有用户产品全部升级到PVE！以前256和384内存的用户也都升级到标准产品！
重点来了：
如果服务器上有重要数据的客户
请备份好数据
出现BUG，就准备把所有用户产品全部升级到PVE！以前256和384内存的用户也都升级到标准产品！
重点来了：
如果服务器上有重要数据的客户
请备份好数据
👎8😁2🤓2
Forwarded from 科技圈🎗在花频道📮 (在花⭐️投稿📮Bot)
🌭20💊10🤣4👍1🎉1
Forwarded from LoopDNS资讯播报
碧桂园：境内多只债券8月14日起停牌 拟就兑付安排召开债券持有人会议
8月12日，碧桂园地产集团有限公司8月12日晚间公告，因近期拟就公司债券兑付安排事项召开债券持有人会议，根据相关规定，经公司申请，“19碧地03”、“20碧地03”、“20碧地04”将自8月14日开市起停牌，复牌时间另行确定。
来源：finance.sina
8月12日，碧桂园地产集团有限公司8月12日晚间公告，因近期拟就公司债券兑付安排事项召开债券持有人会议，根据相关规定，经公司申请，“19碧地03”、“20碧地03”、“20碧地04”将自8月14日开市起停牌，复牌时间另行确定。
来源：finance.sina
故事汇
link
link
Telegraph
没有香港的命？法国强租湛江99年，为何提前53年归还中国？
湛江与广州湾 作者｜碧落清遥 责编｜Thomas 香港和澳门，历史上都是广东省的一部分，如今这两个特区城市的经济活力和国际化程度都位列中国城市前列。 特别是香港，凭借良好的地理和区位优势，经过百余年的发展，已是全球商贸、金融、航运中心之一。 然而，在当年，除了曾经英国、葡萄牙控制的港澳，广东沿海还曾有一座法国人统治的地区——广州湾，即今日广东湛江市的市区。 ▲近代广东地区的三座殖民地城市 香港、澳门、广州湾等……这些曾被外国统治的中国领土，就是近代中国屈辱史的缩影。 回溯到1895年，中国在甲午战争中…
漏电就笑死了
https://youtu.be/yFswDJPvtPY
https://youtu.be/yFswDJPvtPY
YouTube
Building an ACTUALLY water-cooled PC
Sending PC hardware underwater in style! Thanks to ASUS for sponsoring this build! Visit https://asus.click/DIYPerks to check out the Zenbook Pro 14 Duo OLED for those in search of incredible!
Making a submersible PC has a lot of challenges, but also a lot…
Making a submersible PC has a lot of challenges, but also a lot…
👍1