PyTorch学习----01
Pytorch深度学习实战教程：UNet模型训练
大家好，又见面了，我是你们的朋友全栈君。1前言本文属于 Pytorch 深度学习语义分割系列教程。该系列文章的内容有： Pytorch 的基本使用 语义分割算法讲解 由于微信不允许外部链接，你需要点击页尾左下角的“阅读原文”，才能访问文中的链接，文中的所有外部链接都已使用蓝色字体标记。2项目背景深度学习算法，无非就是我们解决一个问题的方法。选择什么样的网络去训练，进行什么样的预处理，采用什么
日期 2023-06-12 10:48:40
PyTorch学习系列教程：卷积神经网络【CNN】
导读前篇推文介绍了深度学习中最为基础和常见的一类网络——深度神经网络，也就是DNN，其源起于MLP网络，经过丰富的激活函数和反向传播算法的加持，使得网络在层数深的情况下能够有效训练，并大大增强了网络的信息表达能力（神经网络模型本质上是在拟合一个相对复杂的映射函数，随着网络层数的增加，能拟合逼近的映射函数可以越复杂，意味着信息表达能力越强）。本篇继续深度学习三大基石之卷积神经网络（CNN）——一类在
日期 2023-06-12 10:48:40
PyTorch学习系列教程：何为Tensor？
导读本文继续PyTorch学习系列教程，来介绍在深度学习中最为基础也最为关键的数据结构——Tensor。一方面，Tensor之于PyTorch就好比是array之于Numpy或者DataFrame之于Pandas，都是构建了整个框架中最为底层的数据结构；另一方面，Tensor又与普通的数据结构不同，具有一个极为关键的特性——自动求导。今天，本文就来介绍Tensor这一数据结构。作为Tensor的入
日期 2023-06-12 10:48:40
Pytorch模型训练实用教程学习笔记：二、模型的构建
前言最近在重温Pytorch基础，然而Pytorch官方文档的各种API是根据字母排列的，并不适合学习阅读。 于是在gayhub上找到了这样一份教程《Pytorch模型训练实用教程》，写得不错，特此根据它来再学习一下Pytorch。 仓库地址：https://github.com/TingsongYu/PyTorch_Tutorial复杂模型构建解析模型搭建比较容易，但是复杂模型通常是使用多个
日期 2023-06-12 10:48:40
Hinton等谈深度学习十年；PyTorch落地Linux基金会的影响；机器学习界的“GitHub”｜AI系统前沿动态
1. 重磅！PyTorch落地Linux基金会扎克伯格亲自宣布，PyTorch基金会已新鲜成立，并归入Linux基金会旗下，管理委员会成员，包括Meta、AMD、AWS、谷歌云、微软和英伟达。Meta表示，PyTorch成功背后的驱动力，是开源社区充满活力的持续增长。成立基金会将确保社区成员以透明和公开的方式作出决定。链接： mp.weixin.qq.com/s/832JBlOlJ…www.red
日期 2023-06-12 10:48:40pytorch（8）– resnet101 迁移学习记录
一、前言 本篇记录使用 pytorch 官方 resnet101 实现迁移学习，迁移学习是当前深度学习领域的一系列通用的解决方案，而不是一个具体的算法模型。Pre-training + fine-tuning（预训练+调参） 的迁移学习方式是现在深度学习中一个非常流行的迁移学习方式，有以下3步 （1）把预训练模型当做特征提取器： TensorFlow或者Pytorch都有ImageNet上预
日期 2023-06-12 10:48:40PyTorch中学习率调度器可视化介绍
神经网络有许多影响模型性能的超参数。一个最基本的超参数是学习率(LR)，它决定了在训练步骤之间模型权重的变化程度。在最简单的情况下，LR值是0到1之间的固定值。选择正确的LR值是具有挑战性。一方面较大的学习率有助于算法快速收敛，但它也会导致算法在最小值附近跳跃而没有达到它，甚至在它太大时跳过它。另一方面，较小的学习率可以更好地收敛到最小值，但是如果优化器太小，可能需要太长时间才能收敛，或者陷入停滞
日期 2023-06-12 10:48:40
Python中用PyTorch机器学习神经网络分类预测银行客户流失模型|附代码数据
阅读全文：http://tecdat.cn/?p=8522最近我们被客户要求撰写关于神经网络的研究报告，包括一些图形和统计输出。分类问题属于机器学习问题的类别，其中给定一组特征，任务是预测离散值。分类问题的一些常见示例是，预测肿瘤是否为癌症，或者学生是否可能通过考试在本文中，鉴于银行客户的某些特征，我们将预测客户在6个月后是否可能离开银行。客户离开组织的现象也称为客户流失。因此，我们的任务是根据各
日期 2023-06-12 10:48:40【PyTorch】教程：对抗学习实例生成
ADVERSARIAL EXAMPLE GENERATION 研究推动 ML 模型变得更快、更准、更高效。设计和模型的安全性和鲁棒性经常被忽视，尤其是面对那些想愚弄模型故意对抗时。 本教程将提供您对 ML
日期 2023-06-12 10:48:40【PyTorch】教程：学习基础知识-(7) Optimization
OPTIMIZING MODEL PARAMETERS （模型参数优化） 现在我们有了模型和数据，是时候通过优化数据上的参数来训练了，验证和测试我们的模型。训练一个模
日期 2023-06-12 10:48:40【Pytorch深度学习实战】（9）神经语言模型（RNN-LM）
🔎大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流🔎 📝个人主页－Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞Ǵ
日期 2023-06-12 10:48:40【Pytorch深度学习实战】（4）前馈神经网络（FNN）
🔎大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流🔎 📝个人主页－Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞ὄ
日期 2023-06-12 10:48:40early stopping早停_pytorch学习
转自：https://blog.csdn.net/weixin_40446557/article/details/103387629 1.介绍 结合交叉验证法，可以防止模型过早拟合。在训练中计算模型在验证集上的表现，当模型在验证集上的表现开始下降的时候，停止训练，这样就能避免继续训练导致过拟合的问题。 注：需要将数据集分为训练集和验证集。 早停法主要是训练时间和泛化错误之间的权衡。
日期 2023-06-12 10:48:40第十七篇 PyTorch学习率调整策略
文章目录 摘要 1、对不同层设置不同的学习率 应用举例 2、等间隔调整学习率 StepLR 应用举例 3、按需调整学习率 Mul
日期 2023-06-12 10:48:40Pytorch总结十六之优化算法：图像增广训练模型、微调（迁移学习）实现热狗识别
Pytorch总结十六之优化算法：图像增广训练模型、微调（迁移学习）实现热狗识别 1.图像增广 在（深度卷积神经⽹络）⾥我们提到过，⼤规
日期 2023-06-12 10:48:40Pytorch总结八之深度学习计算（1）模型构造，参数访问、初始化和共享
Pytorch总结八之深度学习计算（1）模型构造，参数访问、初始化和共享 0.层和块 之前首次介绍神经网络时，我们关注的是具有单一输出的线性模型。 在这里
日期 2023-06-12 10:48:40Pytorch总结七之 深度学习的正向、反向传播原理+参数初始化+实战房价预测
1. 正向传播、反向传播和计算图 在实现小批量随机梯度下降法训练模型过程中： 我们只提供了模型的正向传播（forward propagation）的计算，即对输
日期 2023-06-12 10:48:40【Pytorch Lighting】第 8 章：自监督学习
🔎大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流🔎 📝个人主页－Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞&#
日期 2023-06-12 10:48:40【Pytorch Lighting】第 7 章：半监督学习
🔎大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流🔎 📝个人主页－Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞Ǵ
日期 2023-06-12 10:48:40pytorch 21 各种学习率调度器的使用
pytorch内置的学习率调度在lr_scheduler包下可以使用from torch.optim import lr_scheduler。为了更直观的了解各种调度器的学习率调整过程，现将各种学习率调度器的使用和学习率曲线进行绘图。其详细的使用方法可见以下官网地址https://pytorch.org/docs/1.9.1/search.html?q=l
日期 2023-06-12 10:48:40pytorch 16 迁移学习核心技巧·从模型加载到按需初始化模块权重，再到各layer分组设置学习率
实现加载模型任意权重，自动跳过不匹配的layer（name不匹配，权重shape不匹配），该操作通常用在迁移学习模型加载中。 实现对模型中不同moudle甚至不同name的layer进行不同方式的初始化，该操作通常用在迁移学习模型初始化中。 实现对模型中不同的部分设置不同的学习率（支持冻结某些layer），该操作通常用在迁移学习模型训练阶段中。
日期 2023-06-12 10:48:40pytorch 15 模型性能分析，从loss出发到具体数据（以语义分割为例，实现深度学习中的手工TomeLinks方法）
在一些特殊情况下，通过各类调参方法都无法提升模型的效果。那么则需要对模型的loss进行分析，找出其中导致模型性能下降的数据（异常数据，分类错误数据）。通过不断修正错误数据的方式，可以提升模型的性能。修正错误的分类，消除数据中的混淆对，本质上是一种TomekLinks方法。 TomekLinks是指邻近的两个相反类的例子，在深度学习中可以理解为训练数据中正
日期 2023-06-12 10:48:40Chapter3 Pytorch与机器学习有关函数（二）
目录 3.4 tensor中的填充操作 3.4.1 tensor.full 3.5 pytorch中模型的保存/加载/并行化 3.6 导数、方向导数、偏导数 3.6.1 重要概念 3.6.1.1 概念 3.6.1 如何计算梯度 3.6.2 torch.autograd.Function 3.7 pytorch与nn库 3.7.1
日期 2023-06-12 10:48:40Pytorch模型训练实用教程学习笔记：四、优化器与学习率调整
前言 最近在重温Pytorch基础，然而Pytorch官方文档的各种API是根据字母排列的，并不适合学习阅读。 于是在gayhub上找到了这样一份教程《Pytorch模型训练实用教程》ÿ
日期 2023-06-12 10:48:40Pytorch模型训练实用教程学习笔记：三、损失函数汇总
前言 最近在重温Pytorch基础，然而Pytorch官方文档的各种API是根据字母排列的，并不适合学习阅读。 于是在gayhub上找到了这样一份教程《Pytorch模型训练实用教程》ÿ
日期 2023-06-12 10:48:40Pytorch模型训练实用教程学习笔记：二、模型的构建
前言 最近在重温Pytorch基础，然而Pytorch官方文档的各种API是根据字母排列的，并不适合学习阅读。 于是在gayhub上找到了这样一份教程《Pytorch模型训练实用教程》ÿ
日期 2023-06-12 10:48:40pytorch学习笔记（十一）：循环神经网络RNN（简介）
上篇内容记录了在图像领域广泛应用的CNN，这篇将涉猎到新的领域自然语言处理（NLP），简单运用循环神经网络RNN，RNN最难的是维度的变换和处理&#
日期 2023-06-12 10:48:40pytorch学习笔记（十）：卷积神经网络CNN（进阶篇）
文章目录 1、GoogleNet2、重复部分封装1.Concatenate2.1*1卷积核1.信息聚合2.简化计算 3、程序书写4、残差网络的引入——解决梯度消失的问题1.梯度消失2.残差网络
日期 2023-06-12 10:48:40pytorch学习笔记（九）：卷积神经网络CNN（基础篇）
在上一篇中，使用了全连接网络进行手写数字识别的分类。 准确率为97% 本次，将采用卷积神经网络的方法，提升准确率。 目录 1、什么是卷积？2、对RGB
日期 2023-06-12 10:48:40pytorch学习笔记（五）：逻辑斯蒂回归（Logistic Regression）
一、一些数据集的获取 1、手写数字数据集MNIST Dataset 第一个参数数据集保存位置 train=True 训练集，False测试集 第一次用 download=True 会自动连网下
日期 2023-06-12 10:48:403-《PyTorch深度学习实践》-梯度下降算法
穷取法计算量太大，搜索空间太大，不太现实 分治算法，各个击破 分治算法，不适合非凸函数，会陷入局部最优，凸函数，任取两点&
日期 2023-06-12 10:48:40