微软公司发布新闻稿公布了全新的Microsoft Olive工具

来源：互联网  |   时间：2023-08-22 15:54:27


(相关资料图)

近日，微软公司发布新闻稿，公布了全新的Microsoft Olive工具，该工具最多可以让AMD旗下的GPU显卡运行模型性能提升9.9倍。

Microsoft Olive是由Python语言开发的工具，能够大幅优化AMD GPU运行大语言模型的性能。 新闻稿中提到，Radeon RX 7900 XTX GPU在启用Microsoft Olive工具后，以运行Stable Diffusion模型为例，基于文本生成图像性能明显提升。Microsoft Olive可以转换、优化、量化和自动调优模型，从而最大化性能输出。 AMD在官方测试中表示，在默认PyTorch路径上运行，AMD Radeon RX 7900 XTX每秒提供1.87次迭代;然而，开启Microsoft Olive工具优化模型后，该GPU每秒可以迭代18.59次。这一结果充分展示了Microsoft Olive工具的强大性能优化能力。

关键词：