PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
时隔仅3个月,PyTorch再次迎来升级——1.9版本。
这一次,官方把重头戏放在了移动端上。
不仅Mobile Interpreter发布了新版本,而且TorchVision库也支持在手机上使用了,iOS、Android都支持!
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s6.51cto.com/oss/202106/16/24762a0dd467d5d7ab8ec9a79d1b7ffc.jpg)
网友看了都表示:
这一次更新中,我对移动端最感兴趣。
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s4.51cto.com/oss/202106/16/bfa86911c018c8a1534be12b4622a870.jpg)
而此次1.9版本集合了自2021年3月1.8版本发布以来,超过3400次GitHub提交。
除了移动设备端方面,还有其他诸多亮点:
- 前端API改进(包括torch.linalg、torch.special和 Complex Autograd)
- 实现对弹性、容错分布式训练的本地支持
- 更新PyTorch模型性能分析器
LeCun也在Twitter上站台,称赞PyTorch做的一次比一次好!
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s2.51cto.com/oss/202106/16/39fec17e533859a528c400490ba53dbd.jpg)
在手机上用TorchVision库
首先就是PyTorch Mobile最受欢迎的功能之一Mobile Interpreter更新了。
最新版本能够将移动设备上的二进制文件大小降低到原来大小的一半以下。
比如,在arm64-v8a架构的Android设备中使用MobileNetV2的pt大小,压缩前为17.8MB、压缩后为8.6MB。
而使用新版Mobile Interpreter后,可以把压缩前的文件大小降低到8MB以下,压缩后的大小降低到4MB以下。
与此同时,从1.9版本开始,用户可以在iOS、Android的APP上使用TorchVision库了。
在iOS上,它需要和主要的PyTorch库链接在一起使用;在Android上,则可作为gradle依赖项添加。
在demo APP方面,这一次更新了一个新的基于PyTorch Video库的视频APP和一个基于最新torchaudio,、wave2vec模型的语音识别APP。
有了这两个APP后,PyTorch现在可以提供图像、文字、音频和视频在内的一整套demo APP。
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s6.51cto.com/oss/202106/16/dfe3c157c581c36b55cd5831db3a688d.jpg)
前端API改进
1.9版本中,对torch.linalg、torch.special和Complex Autograd等模块进行了完善。
torch.linalg模块现在可以实现NumPy线性代数模块中的每个函数;
Complex Autograd更新的新功能,可以计算复杂梯度、优化损失函数。
此外,为了帮助调试和编写可重现的程序,PyTorch 1.9增加了一个torch.use_determinstic_algorithms选项。
这是为了避免运行中可能会出现的错误,如下所示:
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s3.51cto.com/oss/202106/16/10ec293c68d6259763e857e9ac46cb3e.jpg)
分布式训练
TorchElastic是PyTorch的一个核心功能,它能够让用户在抢占式实例上运行分布式训练。
△TorchElastic运行原理
新版本中,添加了一个基于c10d::Store的“独立”集合点,能够在本地支持弹性、容错分布式训练。
此外,现在还可在RPC中支持CUDA,并支持对分布式训练进行分析等。
PyTorch Profiler
PyTorch Profiler是用来对PyTorch模型性能分析的一个工具。
通过可视化页面来帮助我们分析具体运行情况。
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s4.51cto.com/oss/202106/16/756d28e97b5b5aec94c0912f8e5c058d.jpg)
在1.9版本中,可以在Windows和Mac中支持新的torch.profiler API了。
新的API支持现有分析器功能,可以与CUPTI库集成(仅限Linux),追踪设备上的CUDA内核,并为长期运行项目提供支持,例如:
![PyTorch 1.9发布!移动端疯狂更新,网友:我的最爱](https://s3.51cto.com/oss/202106/16/5d20aa463ec503e4be258862c234adf8.jpg)
PyTorch Profiler Tensorboard插件还更新了带有NCCL的分布式训练摘要视图、内存分析视图、从Microsoft VSCode启动时可跳转到源代码等新功能。
更多更新信息请戳:
https://pytorch.org/blog/pytorch-1.9-released/
相关文章
- Pratical Cljr – loop/recur
- 一文搞懂Docker的网络模式
- 苹果Safari用户吐槽微软Outlook频繁提示下载异常的iFrame文件
- 超适合程序员的十款 Linux 发行版
- 微软放弃为平板优化的Windows 11任务栏 但系统托盘重排功能仍然缺失
- ACE框架特性调研—手势事件流程分析
- 如何使用Stress-ng工具在 Linux 上施加高 CPU 负载和压力测试
- 如何在 Linux 中导出和导入 KVM 虚拟机
- Linux服务器性能优化
- Podman 的常用命令总结!
- 如何使用Stress-ng工具在 Linux 上施加高 CPU 负载和压力测试
- 电脑卡得受不了还误杀?一键关闭Defender
- Windows和Linux常用TCP端口探测工具总结
- 使用了几天Linux操作系统之后,我又换回了Windows
- 嵌入式 Linux 启动时间优化实战,2.41 秒启动应用!
- 微软放弃 Windows 11 任务栏平板用户界面,但系统托盘应用拖放排序功能仍缺失
- 使用 dnf 进行 Linux 包管理
- 在虚拟机中运行 Linux 的十大优点
- Ubuntu 的 Unity 桌面还活着:时隔 6 年后,7.6 测试版发布
- Windows 11中的祖传UI从Windows 9X流传至今!一文了解详情