深度学习资料

 https://medium.com/pyladies-taiwan/%E6%B7%B1%E5%BA%A6%E5%AD%B8%E7%BF%92%E6%96%B0%E6%89%8B%E6%9D%91-pytorch%E5%85%A5%E9%96%80-511df3c1c025

 http://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html

深度学习与PyTorch：60分钟的闪电战

作者：Soumith Chintala

本教程的目标：

• 高度理解PyTorch的张量库和神经网络。
• 训练一个小型神经网络来分类图像

本教程假设您对numpy有基本的了解

注意

确保安装了割炬和torchvision软件包。

 

什么是PyTorch？

神经网络

训练分类器

https://morvanzhou.github.io/tutorials/machine-learning/torch/

• PyTorch 简介

  1. 1.1 科普: 人工神经网络 VS 生物神经网络
  2. 1.2 什么是神经网络 (Neural Network)
  3. 1.3 神经网络 梯度下降
  4. 1.4 科普: 神经网络的黑盒不黑
  5. 1.5 Why Pytorch?
  6. 1.6 Pytorch 安装

• PyTorch 神经网络基础

  1. 2.1 Torch 或 Numpy
  2. 2.2 变量 (Variable)
  3. 2.3 什么是激励函数 (Activation Function)
  4. 2.4 激励函数 (Activation)

• 建造第一个神经网络

  1. 3.1 关系拟合 (回归)
  2. 3.2 区分类型 (分类)
  3. 3.3 快速搭建法
  4. 3.4 保存提取
  5. 3.5 批训练
  6. 3.6 加速神经网络训练 (Speed Up Training)
  7. 3.7 Optimizer 优化器

• 高级神经网络结构

  1. 4.1 什么是卷积神经网络 CNN (Convolutional Neural Network)
  2. 4.2 CNN 卷积神经网络
  3. 4.3 什么是循环神经网络 RNN (Recurrent Neural Network)
  4. 4.4 什么是 LSTM 循环神经网络
  5. 4.5 RNN 循环神经网络 (分类)
  6. 4.6 RNN 循环神经网络 (回归)
  7. 4.7 什么是自编码 (Autoencoder)
  8. 4.8 AutoEncoder (自编码/非监督学习)
  9. 4.9 什么是 DQN
  10. 4.10 DQN 强化学习
  11. 4.11 什么是生成对抗网络 (GAN)
  12. 4.12 GAN (Generative Adversarial Nets 生成对抗网络)

• 高阶内容

  1. 5.1 为什么 Torch 是动态的
  2. 5.2 GPU 加速运算
  3. 5.3 什么是过拟合 (Overfitting)
  4. 5.4 Dropout 缓解过拟合
  5. 5.5 什么是批标准化 (Batch Normalization)
  6. 5.6 Batch Normalization 批标准化

 ----------------------------

• Tensorflow 简介

  1. 1.1 科普: 人工神经网络 VS 生物神经网络
  2. 1.2 什么是神经网络 (Neural Network)
  3. 1.3 神经网络 梯度下降
  4. 1.4 科普: 神经网络的黑盒不黑
  5. 1.5 为什么选 Tensorflow?
  6. 1.6 Tensorflow 安装
  7. 1.7 神经网络在干嘛

• Tensorflow 基础构架

  1. 2.1 处理结构
  2. 2.2 例子2
  3. 2.3 Session 会话控制
  4. 2.4 Variable 变量
  5. 2.5 Placeholder 传入值
  6. 2.6 什么是激励函数 (Activation Function)
  7. 2.7 激励函数 Activation Function

• 建造我们第一个神经网络

  1. 3.1 例子3 添加层 def add_layer()
  2. 3.2 例子3 建造神经网络
  3. 3.3 例子3 结果可视化
  4. 3.4 加速神经网络训练 (Speed Up Training)
  5. 3.5 优化器 optimizer

• 可视化好助手 Tensorboard

  1. 4.1 Tensorboard 可视化好帮手 1
  2. 4.2 Tensorboard 可视化好帮手 2

• 高阶内容

  1. 5.1 Classification 分类学习
  2. 5.2 什么是过拟合 (Overfitting)
  3. 5.3 Dropout 解决 overfitting
  4. 5.4 什么是卷积神经网络 CNN (Convolutional Neural Network)
  5. 5.5 CNN 卷积神经网络 1
  6. 5.6 CNN 卷积神经网络 2
  7. 5.7 CNN 卷积神经网络 3
  8. 5.8 Saver 保存读取
  9. 5.9 什么是循环神经网络 RNN (Recurrent Neural Network)
  10. 5.10 什么是 LSTM 循环神经网络
  11. 5.11 RNN 循环神经网络
  12. 5.12 RNN LSTM 循环神经网络 (分类例子)
  13. 5.13 RNN LSTM (回归例子)
  14. 5.14 RNN LSTM (回归例子可视化)
  15. 5.15 什么是自编码 (Autoencoder)
  16. 5.16 自编码 Autoencoder (非监督学习)
  17. 5.17 scope 命名方法
  18. 5.18 什么是批标准化 (Batch Normalization)
  19. 5.19 Batch Normalization 批标准化
  20. 5.20 Tensorflow 2017 更新
  21. 5.21 用 Tensorflow 可视化梯度下降
  22. 5.22 什么是迁移学习 Transfer Learning
  23. 5.23 迁移学习 Transfer Learning
  24. 
      x ----------------------------

      • Theano 简介

        1. 1.1 科普: 人工神经网络 VS 生物神经网络
        2. 1.2 什么是神经网络 (Neural Network)
        3. 1.3 神经网络 梯度下降
        4. 1.4 科普: 神经网络的黑盒不黑
        5. 1.5 Why Theano?
        6. 1.6 Theano 安装
        7. 1.7 神经网络在做什么

      • Theano 基础构架

        1. 2.1 基本用法
        2. 2.2 Function 用法
        3. 2.3 Shared 变量
        4. 2.4 什么是激励函数 (Activation Function)
        5. 2.5 Activation function 激励函数

      • 搭建自己的神经网络

        1. 3.1 定义 Layer 类
        2. 3.2 Regression 回归例子
        3. 3.3 可视化结果 回归例子
        4. 3.4 Classification 分类学习
        5. 3.5 什么是过拟合 (Overfitting)
        6. 3.6 Regularization 正规化
        7. 3.7 Save 保存 提取

      • 总结

        1. 4.1 总结和更多