动态规划初步

初步了解动态规划

动态规划是一种数学规划方法,用于解决具有overlapping subproblems 和 optimal substructure属性的问题,能比天真的算法节省很多时间。

首先讲一下什么是overlapping subproblems。它是指可以被分解成若干次重用的子问题的那类问题。例如Fibonacci sequence(斐波纳契数列,每个数等于前两个数的和,其中fib(0) = 1且fib(1) = 1)。对于overlapping subproblems,天真的算法可能重复计算某些子问题,浪费时间。而dynamic programming使用memoization来解决这个问题,即把计算的结果保存起来,需要的时候取出使用即可。

那么什么是optimal substructure呢?如果可以从其子问题的最优解构造出该问题的最优解,则该问题具有optimal substructure属性。据有optimal substructure的问题适合用动态规划和贪心算法求解。例子是寻找一个图中两个顶点间的最短路径,先找到从开始点的所有邻居到目标的最短路径(递归地使用这一过程),然后选择整体的最短路径。
通常我们可以用三个步骤对具有optimal substructure属性的问题求解:

  1. 把问题分解成subproblems。
  2. 递归地使用这三个步骤求出这些问题的最优解。
  3. 使用局部最优解构造整体最优解。

综上,dynamic programming使用了三种技术:overlapping subproblems, optimal substructure and memoization.

动态规划通常采取两种方法: top-down approach(合并了recursion和memoization)和bottom-up approach(性能稍好,但很难直观地列出所有子问题).

dynamic programming是由Richard Bellman在1940s提出的。bellman的主要贡献是Bellman equation,aka, dynamic programming equation.是dynamic programming最优性的必要条件。

附:贪心算法

贪心算法的特点:每一阶段都追求局部最优,希望最终达到全局最优。
贪心算法能对具有两种属性的问题工作的很好:greedy choice property和optimal substructure.
optimal substructure在上面已经介绍过,greedy choice property是指在做每一步的选择时不需要和以前的选择一起考虑。
贪心算法不会回溯以前的选择,这是和动态规划的主要不同。

原文地址:https://www.cnblogs.com/jiqingwu/p/4043007.html