对抗训练[通俗易懂]
训练 通俗易懂 对抗
2023-06-13 09:12:58 时间
对抗训练
对抗训练是防御对抗样本攻击的一种方法。将对抗样本和正常样本一起训练是一种有效的正则化,可以提高模型的准确度,同时也能有效降低对抗样本的攻击成功率。不过这种防御也只是针对同样用来产生训练集中的对抗样本的方法。
探索网络对底层任务的理解层次,通过对抗训练减少原有独立同分布的测试集的错误率——在对抗扰动的训练集上训练网络
对抗样本的定义和产生
从2013年开始,深度学习模型在多种应用上已经能达到甚至超过人类水平,比如人脸识别,物体识别,手写文字识别等等。 在之前,机器在这些项目的准确率很低,如果机器识别出错了,没人会觉得奇怪。但是现在,深度学习算法的效果好了起来,去研究算法犯的那些不寻常的错误变得有价值起来。其中一种错误叫对抗样本(adversarial examples)。 对抗样本指的是一个经过微小调整就可以让机器学习算法输出错误结果的输入样本。在图像识别中,可以理解为原来被一个卷积神经网络(CNN)分类为一个类(比如“熊猫”)的图片,经过非常细微甚至人眼无法察觉的改动后,突然被误分成另一个类(比如“长臂猿”)。nemoyy
通过某种算法,针对指定的样本计算出一个变化量,该样本经过修改后,从人类的感觉无法辨识,但是却可以让该样本跨越分割平面,导致机器学习模型的判定结果改变。
简单的理解就是给样本加一些噪声扰动让其分错
对于图像方面比如更改图像的像素值让他分错~
高效的生成对抗样本
见http://www.360doc.com/content/18/0315/19/99071_737305291.shtml
发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/167486.html原文链接:https://javaforall.cn
相关文章
- Tensorflow2.0使用Resnet18进行数据训练[通俗易懂]
- 宽度学习(BLS)实战——python复刻MNIST数据集的数据预处理及训练过程[通俗易懂]
- PyTorch 进阶之路:在 GPU 上训练深度神经网络
- C1能力认证训练题解析 _ 第四部分 _ Web进阶「建议收藏」
- SparK项目原作解读:卷积模型的首个BERT预训练
- 论文速递 | 模型训练加速、文本生成框架、强化学习、知识图谱(NeurIPS2022)
- ECCV 2022 | 谷歌提出Data-free NAS,网络搜索仅需一个预训练模型
- 用少于256KB内存实现边缘训练,开销不到PyTorch千分之一
- 多模态预训练常见问题:为什么不同模态表征存在gap?
- PaddleHub实战篇{词法分析模型LAC、情感分类ERNIE Tiny}训练、部署【三】
- CVPR2022 | UCC:不确定性引导的十字头联合训练半监督语义切分
- [Nature Communications | 论文简读] 由多序列比对训练的蛋白质语言模型学习系统发育关系
- 再掀强化学习变革!DeepMind提出「算法蒸馏」:可探索的预训练强化学习Transformer
- 如何快速成为图像识别大神?英伟达专家带你低门槛、高效实现AI模型训练与部署 | 英伟达CV公开课
- 基于无监督预训练的语音识别技术落地实践 火山语音表示有话要说
- 如何训练深度神经网络?老司机的 15 点建议
- 用金庸、古龙群侠名称训练 LSTM,会生成多么奇葩的名字?