在循环神经网络(RNN)模型与前向反向传播算法中，我们总结了对RNN模型做了总结。由于RNN也有梯度消失的问题，因此很难处理长序列的数据，大牛们对RNN做了改进，得到了RNN的特例LSTM（Long Short-Term Memory），它可以避免常规RNN的梯度消失，因此在工业界得到了广泛的应用。下面我们就对LSTM模型做一个总结。
1. 从RNN到LSTM
在RNN模型里，我们讲到了RNN具有如下的结构，每个序列索引位置t都有一个隐藏状态
延伸阅读
学习是年轻人改变自己的最好方式