1.动态规划理论
1.1动态规划基本思想
注意：斐波那契递归求解的时间复杂度为O（2n）。
子问题不独立适合动态规划算法设计。
分治：将原问题划分为互不相交的子问题，递归求解子问题，再将它们的解组合起来。
动态规划：子问题重叠的情况，不同的子问题具有公共的子子问题
利用动态规划需要满足：
- 问题中的状态满足最优性原理。 =》最优子结构
- 问题中的状态必须满足无后效性。 =》以前出现的状态和以前状态的变化过程不会影响将来的变化
1.2动态规划的基本步骤
2.动态规划例子-矩阵相乘
问题提出：
关键计算问题：
完全加括号的矩阵连乘积：
3.举例
1.任务调度安排
。。。
2. 不相邻数字和最大
求一堆不相邻数字和最大，没有要求选两个，可以选多个。
OPT（n）指的是数据到下标为n的数字选取的最好的方案。
#递归方程实现
def rec_opt(arr, i):
if i == 0:
return arr[0]
elif i == 1:
return max(arr[0], arr[1])
else:
A = rec_opt(arr, i - 2) + arr[i]#选择当前值
B = rec_opt(arr, i - 1)#不选当前值
return max(A, B)
#非递归实现：dp动态规划
def dp_opt(arr):
opt = [0 for i in range(len(arr))]
opt[0] = arr[0]
opt[1] = max(arr[0], arr[1])
for i in range(2,len(arr)):
A = opt[i-2] + arr[i]
B = opt[i-1]
opt[i] = max(A,B)
return opt[-1]
arr1 = [4, 1, 1, 9, 1]
arr2 = [1, 2, 4, 1, 7, 8, 3]
print(rec_opt(arr1, len(arr1)-1))#13
print(dp_opt(arr1))#13
print(rec_opt(arr2, len(arr2)-1))#15
print(dp_opt(arr2))#15
3.给出一个数字和一个数组，判断是否数组中存在一些数的和为给出的数字
#递归实现
def rec_subset(arr, i, s):
if s == 0:
return True
elif i == 0:
return arr[0] == s
elif arr[i] > s:
return rec_subset(arr, i-1, s)
else:
A = rec_subset(arr, i-1, s-arr[i])
B = rec_subset(arr, i-1, s)
return A or B
arr = [3, 34, 4, 12, 5, 2]
print(rec_subset(arr, len(arr)-1, 9))#True
print(rec_subset(arr, len(arr)-1, 10))#True
print(rec_subset(arr, len(arr)-1, 13))#False
#非递归实现：dq动态规划
def dp_subset(arr, S):
import numpy as np
subset = np.zeros((len(arr), S+1), dtype=bool)
subset[:, 0] = True
subset[0, :] = False
subset[0, arr[0]] = True
for i in range(1, len(arr)):
for s in range(1, S+1):
if arr[i] > s:
subset[i, s] = subset[i-1, s]
else:
A = subset[i-1, s-arr[i]]
B = subset[i-1, s]
subset[i, s] = A or B
r, c = subset.shape
return subset[r-1, c-1]
arr = [3, 34, 4, 12, 5, 2]
print(dp_subset(arr, 9))#True
print(dp_subset(arr, 10))#True
print(dp_subset(arr, 13))#False
系统学习
1 背包问题
假设你是个小偷，背着一个可装4磅东西的背包。你可盗窃的商品有如下3件。
为了让盗窃的商品价值最高，你该选择哪些商品？
1.1 简单算法
最简单的算法如下：尝试各种可能的商品组合，并找出价值最高的组合。
这样可行，但速度非常慢。在有3件商品的情况下，你需要计算8个不同的集合；有4件商品时，你需要计算16个集合。每增加一件商品，需要计算的集合数都将翻倍！这种算法的运行时间为O(2n)，真的是慢如蜗牛。
只要商品数量多到一定程度，这种算法就行不通。在第8章，你学习了如何找到近似解，这接近最优解，但可能不是最优解。那么如何找到最优解呢？
1.2 动态规划
答案是使用动态规划！下面来看看动态规划算法的工作原理。动态规划先解决子问题，再逐步解决大问题。
对于背包问题，你先解决小背包（子背包）问题，再逐步解决原来的问题。
动态规划是一个难以理解的概念，如果你没有立即搞懂，也不用担心，我们将研究很多示例。
先来演示这种算法的执行过程。看过执行过程后，你心里将有一大堆问题！我将竭尽所能解答这些问题。
每个动态规划算法都从一个网格开始，背包问题的网格如下。
网格的各行为商品，各列为不同容量（1～4磅）的背包。所有这些列你都需要，因为它们将帮助你计算子背包的价值。
网格最初是空的。你将填充其中的每个单元格，网格填满后，就找到了问题的答案！你一定要跟着做。请你创建网格，我们一起来填满它。
1. 吉他行
后面将列出计算这个网格中单元格值的公式。我们先来一步一步做。首先来看第一行。
这是吉他行，意味着你将尝试将吉他装入背包。在每个单元格，都需要做一个简单的决定：偷不偷吉他？别忘了，你要找出一个价值最高的商品集合。
第一个单元格表示背包的容量为1磅。吉他的重量也是1磅，这意味着它能装入背包！因此这个单元格包含吉他，价值为1500美元。
下面来开始填充网格。
与这个单元格一样，每个单元格都将包含当前可装入背包的所有商品。
来看下一个单元格。这个单元格表示背包的容量为2磅，完全能够装下吉他！
这行的其他单元格也一样。别忘了，这是第一行，只有吉他可供你选择。换言之，你假装现在还没法盗窃其他两件商品。
此时你很可能心存疑惑：原来的问题说的是4磅的背包，我们为何要考虑容量为1磅、2磅等的背包呢？前面说过，动态规划从小问题着手，逐步解决大问题。这里解决的子问题将帮助你解决大问题。请接着往下读，稍后你就会明白的。
此时网格应类似于下面这样。
别忘了，你要做的是让背包中商品的价值最大。这行表示的是当前的最大价值。它指出，如果你有一个容量4磅的背包，可在其中装入的商品的最大价值为1500美元。
2. 音响行
我们来填充下一行——音响行。你现在出于第二行，可偷的商品有吉他和音响。在每一行，可偷的商品都为当前行的商品以及之前各行的商品。因此，当前你还不能偷笔记本电脑，而只能偷音响和吉他。我们先来看第一个单元格，它表示容量为1磅的背包。在此之前，可装入1磅背包的商品的最大价值为1500美元。
该不该偷音响呢？
背包的容量为1磅，能装下音响吗？音响太重了，装不下！由于容量1磅的背包装不下音响，因此最大价值依然是1500美元。
接下来的两个单元格的情况与此相同。在这些单元格中，背包的容量分别为2磅和3磅，而以前的最大价值为1500美元。
由于这些背包装不下音响，因此最大价值保持不变。
背包容量为4磅呢？终于能够装下音响了！原来的最大价值为1500美元，但如果在背包中装入音响而不是吉他，价值将为3000美元！因此还是偷音响吧。
你更新了最大价值！如果背包的容量为4磅，就能装入价值至少3000美元的商品。在这个网格中，你逐步地更新最大价值。
3. 笔记本电脑行
下面以同样的方式处理笔记本电脑。笔记本电脑重3磅，没法将其装入容量为1磅或2磅的背包，因此前两个单元格的最大价值还是1500美元。
对于容量为3磅的背包，原来的最大价值为1500美元，但现在你可选择盗窃价值2000美元的笔记本电脑而不是吉他，这样新的最大价值将为2000美元！
对于容量为4磅的背包，情况很有趣。这是非常重要的部分。当前的最大价值为3000美元，你可不偷音响，而偷笔记本电脑，但它只值2000美元。
价值没有原来高。但等一等，笔记本电脑的重量只有3磅，背包还有1磅的容量没用！
在1磅的容量中，可装入的商品的最大价值是多少呢？你之前计算过。
根据之前计算的最大价值可知，在1磅的容量中可装入吉他，价值1500美元。因此，你需要做如下比较。
你可能始终心存疑惑：为何计算小背包可装入的商品的最大价值呢？但愿你现在明白了其中的原因！余下了空间时，你可根据这些子问题的答案来确定余下的空间可装入哪些商品。笔记本电脑和吉他的总价值为3500美元，因此偷它们是更好的选择。最终的网格类似于下面这样。
答案如下：将吉他和笔记本电脑装入背包时价值最高，为3500美元。
你可能认为，计算最后一个单元格的价值时，我使用了不同的公式。那是因为填充之前的单元格时，我故意避开了一些复杂的因素。其实，计算每个单元格的价值时，使用的公式都相同。这个公式如下。
你可以使用这个公式来计算每个单元格的价值，最终的网格将与前一个网格相同。现在你明白了为何要求解子问题吧？你可以合并两个子问题的解来得到更大问题的解。
2 背包问题 FAQ
你可能还是觉得这像是变魔术。
2.1 再增加一件商品将如何呢
假设你发现还有第四件商品可偷——一个iPhone！
此时需要重新执行前面所做的计算吗？不需要。别忘了，动态规划逐步计算最大价值。到目前为止，计算出的最大价值如下。
这意味着背包容量为4磅时，你最多可偷价值3500美元的商品。但这是以前的情况，下面再添加表示iPhone的行。
最大价值可能发生变化！请尝试填充这个新增的行，再接着往下读。
我们从第一个单元格开始。iPhone可装入容量为1磅的背包。之前的最大价值为1500美元，但iPhone价值2000美元，因此该偷iPhone而不是吉他。
在下一个单元格中，你可装入iPhone和吉他。
对于第三个单元格，也没有比装入iPhone和吉他更好的选择了。
对于最后一个单元格，情况比较有趣。当前的最大价值为3500美元，但你可偷iPhone，这将
余下3磅的容量。
3磅容量的最大价值为2000美元！再加上iPhone价值2000美元，总价值为4000美元。新的最
大价值诞生了！
最终的网格如下。
问题：沿着一列往下走时，最大价值有可能降低吗？
答案：不可能。每次迭代时，你都存储当前的最大价值。最大价值不可能比以前低！
2.2 行的排列顺序发生变化时结果将如何
答案会随之变化吗？假设你按如下顺序填充各行：音响、笔记本电脑、吉他。网格将会是什么样的？请自己动手填充这个网格，再接着往下读。
网格将类似于下面这样。
答案没有变化。也就是说，各行的排列顺序无关紧要。
2.3 可以逐列而不是逐行填充网格吗
自己动手试试吧！就这个问题而言，这没有任何影响，但对于其他问题，可能有影响。
2.4 增加一件更小的商品将如何呢
假设你还可以偷一条项链，它重0.5磅，价值1000美元。前面的网格都假设所有商品的重量为整数，但现在你决定把项链给偷了，因此余下的容量为3.5磅。在3.5磅的容量中，可装入的商品的最大价值是多少呢？不知道！因为你只计算了容量为1磅、2磅、3磅和4磅的背包可装下的商品的最大价值。现在，你需要知道容量为3.5磅的背包可装下的商品的最大价值。
由于项链的加入，你需要考虑的粒度更细，因此必须调整网格。
2.5 可以偷商品的一部分吗
假设你在杂货店行窃，可偷成袋的扁豆和大米，但如果整袋装不下，可打开包装，再将背包倒满。在这种情况下，不再是要么偷要么不偷，而是可偷商品的一部分。如何使用动态规划来处理这种情形呢？
答案是没法处理。使用动态规划时，要么考虑拿走整件商品，要么考虑不拿，而没法判断该不该拿走商品的一部分。
但使用贪婪算法可轻松地处理这种情况！首先，尽可能多地拿价值最高的商品；如果拿光了，再尽可能多地拿价值次高的商品，以此类推。
例如，假设有如下商品可供选择。
藜麦比其他商品都值钱，因此要尽量往背包中装藜麦！如果能够在背包中装满藜麦，结果就是最佳的。
如果藜麦装完后背包还没满，就接着装入下一种最值钱的商品，以此类推。
2.6 旅游行程最优化
假设你要去伦敦度假，假期两天，但你想去游览的地方很多。你没法前往每个地方游览，因此你列个单子。
对于想去游览的每个名胜，都列出所需的时间以及你有多想去看看。根据这个清单，你能确定该去游览哪些名胜吗？
这也是一个背包问题！但约束条件不是背包的容量，而是有限的时间；不是决定该装入哪些商品，而是决定该去游览哪些名胜。请根据这个清单绘制动态规划网格，再接着往下读。
网格类似于下面这样。
你画对了吗？请填充这个网格，决定该游览哪些名胜。答案如下。
2.7 处理相互依赖的情况
假设你还想去巴黎，因此在前述清单中又添加了几项。
去这些地方游览需要很长时间，因为你先得从伦敦前往巴黎，这需要半天时间。如果这3个地方都去玩，是不是要4.5天呢？
不是的，因为不是去每个地方都得先从伦敦到巴黎。到达巴黎后，每个地方都只需1天时间。因此玩这3个地方需要的总时间为3.5天（半天从伦敦到巴黎，每个地方1天），而不是4.5天。
将埃菲尔铁塔加入“背包”后，卢浮宫将更“便宜”：只要1天时间，而不是1.5天。如何使用动态规划对这种情况建模呢？
没办法建模。动态规划功能强大，它能够解决子问题并使用这些答案来解决大问题。但仅当每个子问题都是离散的，即不依赖于其他子问题时，动态规划才管用。这意味着使用动态规划算法解决不了去巴黎玩的问题。
2.8 计算最终的解时会涉及两个以上的子背包吗
为获得前述背包问题的最优解，可能需要偷两件以上的商品。但根据动态规划算法的设计，最多只需合并两个子背包，即根本不会涉及两个以上的子背包。不过这些子背包可能又包含子背包。
2.9 最优解可能导致背包没装满吗
完全可能。假设你还可以偷一颗钻石。
这颗钻石非常大，重达3.5磅，价值100万美元，比其他商品都值钱得多。你绝对应该把它给偷了！但当你这样做时，余下的容量只有0.5磅，别的什么都装不下。
3 最长公共子串
通过前面的动态规划问题，你得到了哪些启示呢？
- 动态规划可帮助你在给定约束条件下找到最优解。在背包问题中，你必须在背包容量给定的情况下，偷到价值最高的商品。
- 在问题可分解为彼此独立且离散的子问题时，就可使用动态规划来解决。
要设计出动态规划解决方案可能很难，这正是本节要介绍的。下面是一些通用的小贴士。
- 每种动态规划解决方案都涉及网格。
- 单元格中的值通常就是你要优化的值。在前面的背包问题中，单元格的值为商品的价值。
- 每个单元格都是一个子问题，因此你应考虑如何将问题分成子问题，这有助于你找出网格的坐标轴 下面再来看一个例子。假设你管理着网站dictionary.com。用户在该网站输入单词时，你需要给出其定义。
但如果用户拼错了，你必须猜测他原本要输入的是什么单词。例如，Alex想查单词fish，但不小心输入了hish。在你的字典中，根本就没有这样的单词，但有几个类似的单词。
在这个例子中，只有两个类似的单词，真是太小儿科了。实际上，类似的单词很可能有数千个。
Alex输入了hish，那他原本要输入的是fish还是vista呢？
3.1 绘制网格
用于解决这个问题的网格是什么样的呢？要确定这一点，你得回答如下问题。
- 单元格中的值是什么？
- 如何将这个问题划分为子问题？
- 网格的坐标轴是什么？
在动态规划中，你要将某个指标最大化。在这个例子中，你要找出两个单词的最长公共子串。hish和fish都包含的最长子串是什么呢？hish和vista呢？这就是你要计算的值。
别忘了，单元格中的值通常就是你要优化的值。在这个例子中，这很可能是一个数字：两个字符串都包含的最长子串的长度。
如何将这个问题划分为子问题呢？你可能需要比较子串：不是比较hish和fish，而是先比较his和fis。每个单元格都将包含这两个子串的最长公共子串的长度。这也给你提供了线索，让你觉得坐标轴很可能是这两个单词。因此，网格可能类似于下面这样。
如果这在你看来犹如巫术，也不用担心。这些内容很难懂，但这也正是我到现在才介绍它们的原因！
3.2 填充网格
现在，你很清楚网格应是什么样的。填充该网格的每个单元格时，该使用什么样的公式呢？由于你已经知道答案——hish和fish的最长公共子串为ish，因此可以作点弊。
即便如此，你还是不能确定该使用什么样的公式。计算机科学家有时会开玩笑说，那就使用费曼算法（Feynman algorithm）。这个算法是以著名物理学家理查德·费曼命名的，其步骤如下。
(1) 将问题写下来。
(2) 好好思考。
(3) 将答案写下来。
计算机科学家真是一群不按常理出牌的人啊！
实际上，根本没有找出计算公式的简单办法，你必须通过尝试才能找出管用的公式。有些算法并非精确的解决步骤，而只是帮助你理清思路的框架。请尝试为这个问题找到计算单元格值的公式。给你一点提示吧：下面是这个单元格的一部分。
其他单元格的值呢？别忘了，每个单元格都是一个子问题的值。为何单元格(3, 3)的值为2呢？又为何单元格(3, 4)的值为0呢？
请找出计算公式，再接着往下读。这样即便你没能找出正确的公式，后面的解释也将容易理解得多。
3.3 揭晓答案
最终的网格如下。
我使用下面的公式来计算每个单元格的值。
实现这个公式的伪代码类似于下面这样。
if word_a[i] == word_b[j]:#两个字母相同
cell[i][j] = cell[i-1][j-1] + 1
else:#两个字母不同
cell[i][j] = 0
查找单词hish和vista的最长公共子串时，网格如下。
需要注意的一点是，这个问题的最终答案并不在最后一个单元格中！对于前面的背包问题，最终答案总是在最后的单元格中。但对于最长公共子串问题，答案为网格中最大的数字——它可能并不位于最后的单元格中。
我们回到最初的问题：哪个单词与hish更像？hish和fish的最长公共子串包含三个字母，而hish和vista的最长公共子串包含两个字母。
因此Alex很可能原本要输入的是fish。
3.4 最长公共子序列
假设Alex不小心输入了fosh，他原本想输入的是fish还是fort呢？
我们使用最长公共子串公式来比较它们。
最长公共子串的长度相同，都包含两个字母！但fosh与fish更像。
这里比较的是最长公共子串，但其实应比较最长公共子序列：两个单词中都有的序列包含的字母数。如何计算最长公共子序列呢？
下面是用于计算fish和fosh的最长公共子序列的网格的一部分。
你能找出填充这个网格时使用的公式吗？最长公共子序列与最长公共子串很像，计算公式也很像。请试着找出这个公式——答案稍后揭晓。
3.5 最长公共子序列之解决方案
最终的网格如下。
下面是填写各个单元格时使用的公式。
伪代码如下。
if word_a[i] == word_b[j]:#两个字母相同
cell[i][j] = cell[i-1][j-1] + 1
else: #两个字母不同
cell[i][j] = max(cell[i-1][j], cell[i][j-1])
本章到这里就结束了！它绝对是本书最难理解的一章。动态规划都有哪些实际应用呢？
- 生物学家根据最长公共序列来确定DNA链的相似性，进而判断度两种动物或疾病有多相似。最长公共序列还被用来寻找多发性硬化症治疗方案。
- 你使用过诸如git diff等命令吗？它们指出两个文件的差异，也是使用动态规划实现的。
- 前面讨论了字符串的相似程度。编辑距离（levenshtein distance）指出了两个字符串的相似程度，也是使用动态规划计算得到的。编辑距离算法的用途很多，从拼写检查到判断用户上传的资料是否是盗版，都在其中。
- 你使用过诸如Microsoft Word等具有断字功能的应用程序吗？它们如何确定在什么地方断字以确保行长一致呢？使用动态规划！
练习
请绘制并填充用来计算blue和clues最长公共子串的网格。 
4 小结
- 需要在给定约束条件下优化某种指标时，动态规划很有用。
- 问题可分解为离散子问题时，可使用动态规划来解决。
- 每种动态规划解决方案都涉及网格。
- 单元格中的值通常就是你要优化的值。
- 每个单元格都是一个子问题，因此你需要考虑如何将问题分解为子问题。
- 没有放之四海皆准的计算动态规划解决方案的公式。