M1 MacOS pytorch Tensorflow加速

pytorch

通过与 Apple 的 Metal 工程团队合作,我们很高兴地宣布支持在 Mac 上进行 GPU 加速的 PyTorch 训练。到目前为止,Mac 上的 PyTorch 训练仅利用 CPU,但随着即将发布的 PyTorch v1.12 版本,开发人员和研究人员可以利用 Apple  silicon GPU 显着加快模型训练。这解锁了在 Mac 上执行机器学习工作流程的能力,例如在本地进行原型设计和微调。

要开始使用,只需在运行 macOS 12.3 或更高版本且具有 Python 的本机版本 (arm64) 的 Apple 硅 Mac 上安装最新的Preview (Nightly)版本。

您还可以在Apple 的 Metal 页面上了解有关 Metal 和 MPS的更多信息。

Introducing Accelerated PyTorch Training on Mac | PyTorch

tensorflow

从 Tensorflow 2.5 开始,可以使用 tensorflow-metal PluggableDevice 来加速 Mac GPU 上的 Metal 训练。

Apple 通过现已弃用的tensorflow-macos插件和更新的tensorflow-metal插件发布了对 Tensorflow 的 GPU 支持

OS Requirements

macOS 12.0+ (latest beta)

  • tensorflow-deps 版本遵循基本 TensorFlow 版本,因此:

    对于 v2.5:

    conda install -c apple tensorflow-deps==2.5.0

    对于 v2.6:

    conda install -c apple tensorflow-deps==2.6.0

注意:支持 python 版本 3.8 和 3.9

Tensorflow Plugin – Metal – Apple Developer

PyTorch on Apple M1 MAX GPUs with SHARK – 2X faster than TensorFlow-Metal – nod.ai

Installing TensorFlow on M1 MacBook Air with GPU (Metal)

https://naolin.medium.com/tensorflow-with-metal-on-a-m1-mac-d8615360c129

其他:

Core ML是一个 Apple 框架,用于将机器学习模型集成到您的应用程序中。

使用coremltools Python 包将模型从TensorFlowPyTorch等第三方训练库转换为 Core ML。然后,您可以使用 Core ML 将模型集成到您的应用程序中。

 

Core ML 为所有模型提供统一的表示。您的应用程序使用 Core ML API 和用户数据来进行预测和微调模型,所有这些都在用户的设备上进行。严格在用户设备上运行模型消除了对网络连接的任何需求,这有助于保持用户数据的私密性和您的应用程序响应。

Core ML 通过利用 CPU、GPU 和 Apple 神经引擎 (ANE) 优化设备性能,同时最大限度地减少内存占用和功耗。


支持的库和框架

您可以将经过训练的模型从以下库和框架转换为 Core ML:

Introduction

Apple Developer Documentation

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
社会演员多的头像社会演员多普通用户
上一篇 2022年5月22日
下一篇 2022年5月22日

相关推荐