栈式自编码器学习
学习 编码器
2023-09-14 09:11:21 时间
转自:https://blog.csdn.net/wblgers1234/article/details/81545079
1.概念
栈式自编码器就是多个自编码器级联。
栈式自编码器的训练过程是,n个AE按顺序训练,第1个AE训练完成后,将其编码器的输出作为第2个AE的输入,以此类推。
最后得到的特征作为分类器的输入,完成最终的分类训练。如下四幅图所示:
结果:
在逐层训练结束后,还需要一个微调过程(Fine tuning)。大意如下:逐层训练后,每层AE的权重和softmax分类层的权重已经有一个pretrain的值,此时,我们再将整个网络连接起来,用数据进行一次训练,让每层的权重参数同时得到改善。
最后将多个encoder拼接。
2.实现
这个应该可以比较好地说明,栈式是一一分别训练然后拼接的。
相关文章
- spring学习笔记(23)基于tx/aop配置切面增强事务
- 如何创建可扩展表视图中的iOS 学习和拓展优化(有待更新)
- JVM深入学习笔记五:JVM 监控工具
- spring boot 学习前提
- AutoJs学习-QQ自动点赞及打卡
- Python编程语言学习:os模块/sys模块用法之获取当前系统环境的所有变量及其对应值、添加新的系统环境变量地址等案例之详细攻略
- 【Seq2Seq】使用 RNN 编码器-解码器学习短语表示以进行统计机器翻译
- Python Flask框架学习16:Flask 消息闪现
- [Python 学习] 两、在Linux使用平台Python
- Go语言学习——彻底弄懂return和defer的微妙关系
- Lua学习 1) —— Android呼叫变量值和分配
- 从功能测试进阶自动化测试,熬夜7天整理了这一份2000字超全学习指南【附学习路线图】
- Arduino101学习笔记(十)—— 串口通信
- 深度学习——自动编码器,对称网络结构
- 深度学习——无监督,自动编码器——尽管自动编码器与 PCA 很相似,but自动编码器既能表征线性变换,也能表征非线性变换;而 PCA 只能执行线性变换