paddle19-分布式训练 【后续学习】

6. 分布式训练: paddle 分布式训练

6.1 分布式训练快速开始

  • 使用 Fleet API 进行分布式训练
    • 准备条件: 会基本单机分布式训练

6.2 使用 FleetAPI 进行分布式训练

  • Fleet API 快速上手实例
    • 定义MLP网络
    • 定义数据生成器
    • 单机Traniner定义
    • Parameter Server 训练方法
    • Collective 训练方法
  • Fleet API 相关的接口说明
    • Fleet API接口
    • RoleMaker
原文地址:https://www.cnblogs.com/zhangtao-0001/p/14747054.html