微软ONNX Runtime Web更新 支持WebGPU 提升复杂模型性能

近日，微软旗下的 ONNX Runtime Web 进行了更新，引入了 WebGPU 技术，从而提升了复杂机器学习模型在网络浏览器中的运行性能。尽管这项技术仍处于初期阶段，但 Chrome 浏览器和 Edge 浏览器已经提供了初步支持。

ONNX Runtime Web 是微软开发的一款 JavaScript 库，可以让网络开发人员直接在网络浏览器中部署机器学习模型，并提供基于硬件加速的多种后端支持。WebGPU 则是一种用于为网络应用程序提供硬件加速的接口。

过去由于计算能力有限，尤其是大型生成模型在网路浏览器中的高效运行受到限制。然而现在有了 WebGPU 的加入，可以释放设备 GPU 的潜力来处理这些任务，并显著提升性能。

微软表示，“借助计算着色器等先进功能，WebGPU 能够以更高效的方式处理更复杂的机器学习工作负载。”同时它对半精度（FP16）的支持也降低了 GPU 内存使用率和带宽要求，并加快了运算速度。

利用 GPU 处理并行计算任务的能力，WebGPU 可以直接在网络浏览器中实现更高效率、可扩展性的机器学习应用。目前适用于 Mac、Windows、ChromeOS 的 Chrome 113 和 Edge 113 版本以及 Android 版本的 Chrome 121 已默认包含 WebGPU，开发者可以通过 ONNX Runtime Web 调用该功能。

值得注意的是，在使用 WebGPU 运行复杂的机器学习模型时，需要更多的资源来支持其高性能表现。因此，在选择合适的工具进行开发之前，开发者应充分考虑网络浏览器设备的硬件配置情况。