算法思想杂谈【原创】

第一章  算法回顾

    我接触算法设计已经5年了,从一开始零零散散,浅尝辄止,到现在全面学习,深入探究,学到了不少的优秀算法,在这里我想分享一下我这几年来总结的学习方法。

1.  算法回顾

    首先我先把看过的算法思想说一下,再介绍几种最近出现的新思想。

1.1  贪心思想

顾名思义,贪心算法总是作出在当前看来最好的选择。也就是说贪心算法并不从整体最优考虑,它所作出的选择只是在某种意义上的局部最优选择。当然,希望贪心算法得到的最终结果也是整体最优的。虽然贪心算法不能对所有问题都得到整体最优解,但对许多问题它能产生整体最优解。如单源最短路经问题,最小生成树问题等。在一些情况下,即使贪心算法不能得到整体最优解,其最终结果却是最优解的很好近似。在面临选择时,贪心算法都作出对眼前来讲最有利的选择,不考虑对将来的不良影响,每个选择一旦做出,不可更改,不允许回溯,根据不同的贪心策略,贪心算法就不同,贪心解的质量也不同,所以贪心策略很重要。可以看出,此算法思想很简单,具有高效性,但不一定得出最优解。

1.2  分治法

    当我们求解某些问题时,由于这些问题要处理的数据相当多,或求解过程相当复杂,使得直接求解法在时间上相当长,或者根本无法直接求出。对于这类问题,我们往往先把它分解成几个子问题,找到求出这几个子问题的解法后,再找到合适的方法,把它们组合成求整个问题的解法。如果这些子问题还较大,难以解决,可以再把它们分成几个更小的子问题,以此类推,直至可以直接求出解为止。这就是分治策略的基本思想。

1.3  动态规划

    动态规划算法通常用于求解具有某种最优性质的问题。在这类问题中,可能会有许多可行解。每一个解都对应于一个值,我们希望找到具有最优值的解。动态规划算法与分治法类似,其基本思想也是将待求解问题分解成若干个子问题,先求解子问题,然后从这些子问题的解得到原问题的解。与分治法不同的是,适合于用动态规划求解的问题,经分解得到子问题往往不是互相独立的。若用分治法来解这类问题,则分解得到的子问题数目太多,有些子问题被重复计算了很多次。如果我们能够保存已解决的子问题的答案,而在需要时再找出已求得的答案,这样就可以避免大量的重复计算,节省时间。我们可以用一个表来记录所有已解的子问题的答案。不管该子问题以后是否被用到,只要它被计算过,就将其结果填入表中。这就是动态规划法的基本思路。

1.4  搜索法

     搜索法包含穷举搜索,深度优先搜索,广度优先搜索,回溯法,分支限界法,其实这些算法的基础就是穷举搜索,只是加上一定的原则来优化过程,就形成了后面的几种算法,回溯法就是在深度优先搜索的基础上允许回溯,分支限界法是在广度优先搜索基础上允许剪枝,学习时主要学习思想,这些算法名字不要太在意。

1.5  基于数学理论的算法思想

随机化算法,线性规划问题,数论算法等,这些算法都是基于严格的数学理论,没有很好的数学基础看起来就有点难了。

1.6  新近出现的部分算法简介

① 遗传算法:从达尔文的生物进化论中得到启发,借鉴自然选择和进化的原理,模拟生物在自然界的进化过程所形成的一种优化求解方法,遗传算法从代表问题的可能潜在解集的一个种群出发,一个种群有一定数量的个体组成,每个个体实际上是染色体带有特征的实体,每一代根据个体的适应度大小挑选个体,并借助遗传算子进行交叉和变异,得到近似最优解。

② 模拟退火算法:他的出发点是物理中固体的退火过程与一般组合优化之间的相似性,固态物质退火时,通常先加温,使其中的粒子自由游动,然后逐渐降低温度,粒子也逐渐形成低能态的晶格,最终形成最低能量的基态。所以他从某一较高初温开始,伴随温度参数的不断下降重复抽样,最终得到全局最优解,他是基于概率的。

③ 蚁群算法:蚁群算法是模拟自然界蚂蚁觅食过程的一种分布式,启发式群体智能算法,用于求解复杂的组合优化问题,如TSP,JSSP,GCP等问题。

第二章  算法感悟

1.  什么是算法

   算法最初就是为了解决某一具体问题而想出来的一种解决方案,随着对这一问题进行抽象,会得到一种解决这种类型相似问题的方案,这就是算法,或者说算法思想。并不是很复杂的解决方案才能称算法,其实解决每一问题的设计都是一个算法,只不过可能没有对他们进行抽象,导致只能解决这一具体问题。

2.  算法是什么

   算法并不像一些人想的那么死板,也不像那么复杂。并不是没学过算法分析设计就不会设计算法,从上面我对算法的解释看出,任何人都能设计,有的人甚至比学过那门课的人设计的还好,究其原因,因为算法实质上是一种解决问题的思想。学过《算法分析与设计》的人知道,书里面有很多优秀算法,每一个都不很简单,大部分人可能简单地认为“以后只要见到类似的问题,直接套现成算法就行了”。事实上,那些算法中蕴含的思想才是我们真正应该掌握的,并内化到自己的思想中。当我们遇到问题时,可能会有两种解决方法:学过算法分析设计的人可能会回想之前学过的算法和问题,看哪个可以套的上;另一种没学过的,应该就是不管三七二十一,先想出解决问题的原始方案,然后再对其优化。这两种方法都行,可能大部分人用的是后一种方法,其实这些优秀算法,在一开始也是这么来的。如果将两种方法结合,利用已内化的算法思想找出原始方案,在对其优化,这才是最好的解决步骤。可以看出,这些算法思想还是要学习的,他可以帮助尽快想出比较好的解决方案,如果不用这些思想,自己慢慢想,优化到最后,可能会发现,这不就是某种算法思想吗!所以我们要站在巨人的肩膀上。学习思想最重要的用处是,当遇到从没见过的问题时,这时已经不能套用已有的模板,就只能厚积薄发,靠积累的算法思想了,有可能会发现一种新思想!

3.  算法为什么很重要

     程序=算法+数据结构

其中算法才是关键,数据结构和具体的编程语言只是工具,只有算法思想是核心,是不变的。我们编写的程序实质是解决某一问题的自动化实现方式,而当遇到一系列问题时,我们可以逐个解决,最终组合一起来解决总的问题,那么怎么解决某个具体问题就是关键,而解决这一问题的过程其实就是算法,从这可以看出,程序从头到尾都是在编写算法,这就是算法重要的原因。优秀的算法可以让程序更加高效,健壮,能够解决一类问题。这里有一个陷阱,算法由于实质上还是为了解决问题,它受多种因素例如环境,理解力,程序架构等影响,所以只要他能很好的解决问题就可以了,不要一味的追求其所谓的“完美”。

4.  怎么学习算法

    算法的学习最重要的是,一定要注重实践,自己多想多实现,只有这样才能把算法思想内化。不是在课堂上听听课,做两道课后习题就能掌握的。平时,遇到问题,可以先按照自己的想法或者逻辑,写出初步解决方案,再对其优化。当然,也可以根据已有的类似算法类比,但是一定要自己想出来,不是按照书上的算法套。对于学习这门课程,并不要求里面的每一个算法都会写出来,但解决问题的思想一定要掌握,具体来说,对于每个算法或者问题,都要深入理解,理解他为什么要这样做,不这样行不行,知道他每一步是怎么走的,虽然我强调最重要掌握思想,但理解具体的算法和这并不矛盾,只有具体的理解了,才能掌握思想,否则都是空话。只不过最后落下的就只有思想,无招胜有招。什么背包问题,旅行商问题,最短路径....都只是具体问题而已。当然,如果这些具体算法能记住那更好,但这不是必须的。有的算法有数学理论基础,比如数论算法,这一类算法主要靠数学建模,如果数学好,那就很简单了,这一类思想实质就是数学理论。另外,做笔记是必要的,在把这些思想内化之前,要把看过的优秀算法的过程描绘并记下来,并总结出思想,在某一天忘了,可以很快看懂。这就是积累!

原文地址:https://www.cnblogs.com/candl/p/4256320.html