PyTorch在苹果芯片Mac上实现GPU加速训练

PyTorch 今天宣布,与苹果Metal工程团队合作后,PyTorch开源机器学习框架将很快支持在苹果芯片Mac (包括 M1、M1 Pro、M1 Max 和 M1 Ultra 晶片) 上开启GPU加速模型训练。

PyTorch Mac GPU加速

目前,Mac上的PyTorch训练仅调用CPU,未来版本的 PyTorch 将可以在苹果芯片Mac上开启GPU加速,性能更快。到目前为止,Mac上的PyTorch训练只利用了CPU,但即将推出的版本将允许开发人员和研究人员利用苹果芯片中的集成 GPU 进行明显更快的模型训练。

此功能由Pytorch与Apple的Metal工程团队合作推出。它使用Apple的Metal Performance Shaders (MPS) 作为 PyTorch 的后端来启用 GPU 加速训练。

PyTorch在苹果芯片Mac上实现GPU加速训练

带有 GPU 加速训练的 PyTorch 1.12 版预览版可用于运行 macOS 12.3 或更高版本的苹果晶片 Mac,并带有 Python 的本地版本。性能比较和其他细节可在 PyTorch 的网站上找到。

每台苹果芯片Mac都有一个统一的内存架构,为GPU提供了对全部内存储存的直接访问。这使得 Mac 成为机器学习的绝佳平台,使用户能够在本地训练更大的网络或批量大小。这减少了与基于云的开发或需要额外的本地 GPU 有关的成本。统一记忆体架构还减少了数据检索延迟,提高了端到端的性能。

相关文章