RNN

全连接神经网络：

网络结构是从输入层到隐含层，再到输出层，层与层之间是有连接的，隐含层之间的结点是无连接的。

循环神经网络：

隐含层之间的结点使连接是，隐含层的输入不仅包括输入层的输出，还包括上一时刻隐含层的输出。