效率提升 2.1 倍!AMD 展示 HRX Loom 黑科技:三天移植 50 个大模型

AMD 工程师近期完成了一项极具突破性的技术实验,利用全新的 HRX Loom 软件与智能体 AI 工作流,在短短三天内将 50 个热门大模型成功迁移至 AMD 消费级显卡硬件。这不仅展示了 AMD 在端侧 AI 领域的快速适配能力,也预示着大模型在个人 PC 上的普及效率将大幅提升。结果显示,在处理 32K Token 的长提示词时,HRX Loom 软件的运行速度比目前主流的 Llama.cpp ROCm 后端提升了 1.5 至 2.1 倍,相比 Vulkan 后端也有 1.9 倍的性能优势。

原文连接