RNN实战篇:循环神经网络与序列数据处理
从序列数据出发,讲解 RNN、LSTM、GRU、字符级语言模型、文本处理、情感分析、Seq2Seq、注意力、时间序列与 Transformer 过渡。
Mav
01CH. 01
RNN 基础概念与数学原理
序列数据的本质、RNN 核心思想、前向传播推导、BPTT 反向传播与梯度消失问题。
开始阅读→
02CH. 02
用 NumPy 手写 RNN
从公式到代码,用 NumPy 实现 RNN 前向传播,与 PyTorch nn.RNN 对比验证。
开始阅读→
03CH. 03
PyTorch 中的 RNN 实现
nn.RNN 参数详解、输入输出格式、多层与双向 RNN、隐藏状态管理。
开始阅读→
04CH. 04
LSTM 与 GRU
LSTM 门控机制与梯度高速公路、GRU 简化设计、手动实现与 PyTorch 对比。
开始阅读→
05CH. 05
字符级语言模型
语言模型的训练目标、困惑度、字符级 RNN 实现与温度采样文本生成。
开始阅读→
06CH. 06
文本处理与情感分析
分词与词汇表、词嵌入(Word2Vec)、预训练向量、BiLSTM 文本分类实战。
开始阅读→
07CH. 07
Seq2Seq 与注意力机制
编码器-解码器架构、Bahdanau 注意力、Teacher Forcing 与 Beam Search。
开始阅读→
08CH. 08
高级主题与 Transformer 过渡
训练技巧、时间序列预测、从 RNN 到 Transformer 的演进、常见错误与速查表。
开始阅读→