栈式自编码器学习

转自:https://blog.csdn.net/wblgers1234/article/details/81545079

1.概念

栈式自编码器就是多个自编码器级联。

栈式自编码器的训练过程是,n个AE按顺序训练,第1个AE训练完成后,将其编码器的输出作为第2个AE的输入,以此类推。

最后得到的特征作为分类器的输入,完成最终的分类训练。如下四幅图所示:

结果:

在逐层训练结束后,还需要一个微调过程(Fine tuning)。大意如下:逐层训练后,每层AE的权重和softmax分类层的权重已经有一个pretrain的值,此时,我们再将整个网络连接起来,用数据进行一次训练,让每层的权重参数同时得到改善

最后将多个encoder拼接。

2.实现

 这个应该可以比较好地说明,栈式是一一分别训练然后拼接的。

原文地址:https://www.cnblogs.com/BlueBlueSea/p/14232968.html