登陆注册

推理方面具有竞争力

  • MLC 项目使得 AMD GPU 在 LLM 推理方面具有竞争力

    站长之家(ChinaZ.com)8月11日消息:AMDGPU通过MLC(Machinelearningcompilation)项目在编译和部署大模型方面取得了进展,实现了与英伟达GPU相当的性能。MLC-LLM方案在AMDRX7900XTX上的性能达到了英伟达GeForceRTX4090的80%,而价格只有RTX4090的60%。
    站长网2023-08-11 17:43:13
    0000