优化 | 运筹学:从入门到毕业

https://mp.weixin.qq.com/s/dUacJE9v4zYusnObQ1tBBA

写此文主要是源于知乎上的一个问题,提问者不仅问了哪些运筹学书籍适合入门,更是指出了要全面的书,并强调「全面是指不能为了追求简单而删掉了很多内容」。我很喜欢这个提问者的提问方式和态度,于是有感而发写下了我个人的一些推荐。

当然,为了回答这个问题,我们首先要定义「运筹学」是什么。在数学上,传统的运筹学一般可以认为它包涵了「最优化」「随机模型」这两大类。以下我将以本人读过的一些值得推荐的OR书列清单,并对于该书涵盖的内容进行简评,还有书的难度进行打分(是否适合初学者,或者更适合进阶学习)。

毕竟「入门」这件事情,也要看各位的数学基础,像这几年我认识许多在理论计算机领域(说的就是你,姚班的同志们!)和做纯数的朋友也开始转运筹,那自然有点降维打击的意思,他们的入门和一些管理、工程背景的同学来入门运筹学自然路径是很不一样的。不管如何,以下清单主要适用于想攻读运筹学、管理科学相关专业博士/在该方向深入科研的同学参考。清单最后,我也会列出一些我认为这几年和运筹学息息相关,可能会催生OR新方向、新领域的一些参考书籍。

这里面许多书都出版了有几十年的光景了。然而数学就是这样一个学科,许多经典和深邃的结果早就已经尘埃落定,它们不适合浮躁的同学。但是即便你仍然年轻,只要足够有耐心,你自然能重新发现和体会到那些跨越时空的美丽结果

优化理论

Bertsimas, Dimitris, and John N. Tsitsiklis. Introduction to linear optimization (线性优化导论). Vol. 6. Belmont, MA: Athena Scientific, 1997. 推荐指数:★★★★★ 难度:★★★

神书!鼎力推荐!任何一个具有微积分、线性代数基础的同学,如果对运筹学感兴趣,这本书都是我永远首先推荐的(少有的每一章和习题我都建议好好学习研究的书)。因为它由浅入深地从线性规划出发,将优化理论的核心概念「对偶」抽丝剥茧,在LP框架里深入探讨了这一概念的缘由(这本书后面也会推广到拉格朗日对偶)。更为神奇的是,虽然书都以线性规划作为框架,在后半部分(网络流之后)也会开始用非线性规划的办法去处理线性规划问题,比如书会在线性规划框架里介绍一些内点算法(interior point method),也会对一些基本的整数线性规划理论进行介绍。绝对是一本体现两位顶级的希腊裔运筹学者(本书作者,MIT出品)深厚功力的书:所谓重剑无锋,大巧不工。因此,它绝对是一本让初学者也能很快站到山腰一览优化理论风景的神书。另外,我也要先讲了,一入数学深似海,不做习题也枉然。这本书有着大量的习题,有一些题目难度颇大,但如果一个人能在年轻的时候花许多时间琢磨做一做,对他长远的研究一定是大有裨益的(不要问我要答案,我没有)。这条适用后面所有的书。

Luenberger, David G., and Yinyu Ye.Linear and nonlinear programming (线性与非线性规划). Vol. 2. Reading, MA: Addison-wesley, 1984. 推荐指数:★★★★ 难度:★★★★

同样是斯坦福出品,这本书的价值我一直觉得相比后面要介绍的那本被大大低估了(后半部分是精华)。事实上,如果你有志于搞优化算法,用这本书来入门可能会是非常适合的。这本书和前面那本书一样,同样从线性规划理论出发,但是一路会深入到非线性规划理论,并对几类最主要的非线性规划算法做了非常深入的探讨。与此同时又不拘泥于理论,书中同样有许多丰富的实例,非常适合有志于研究优化算法的初学者。

Boyd, Stephen, Stephen P. Boyd, and Lieven Vandenberghe.Convex optimization (凸优化). Cambridge university press, 2004.推荐指数:★★★★ 难度:★★★

千呼万唤始出来,这本书可能即使许多非运筹学专业的同学也都有所耳闻和学习。这本书很适合工科出身,数理基础扎实的同学来入门。本书的特点是包罗万象,也不拘泥于从线性规划出发,而是直接从经典凸分析出发介绍凸优化这一普遍的优化框架。当然对我来说,它的问题在于许多内容没有进行深入讨论,但是也不失为一个一窥优化全貌的好的第一本入门书。

Nocedal, Jorge, and Stephen Wright.Numerical optimization(数值优化). Springer Science & Business Media, 2006. 推荐指数:★★★ 难度:★★★★

有数值分析基础的同学,这里也推荐一下这本书。这本书可能是市面上对各种经典优化算法分门别类介绍得最为清晰的。当然,也带来了问题就是这书编著地不是很系统,有“堆砌”起来的感觉。因此,对于大部分同学来说,我的建议是把它当作一本工具书,有需要了学习一下特定章节,而不是一本一定要从头到尾精读的书。

Wolsey, Laurence A., and George L. Nemhauser.Integer and combinatorial optimization (整数与组合优化). Vol. 55. John Wiley & Sons, 1999. 推荐指数:★★★★ 难度:★★★★★

本清单上的第二本神书!想在组合优化/整数优化方向有所建树的同学必备(许多做组合的高手也告诉我,掌握这一本书的内容也足矣)。相传本组曾经有一位组合优化大神(我们组同学的研究兴趣广泛不一,像我就完全不做组合,对我来说太难了),年少时即上厕所、吃饭、睡觉、散步时都和此书形影不离。数年之后终于神功大成(据说他对这本书xxx页上有xxx定理都了如指掌),可惜他在本校组合仙人Michel Goemans的谆谆教导下发现仍然不是做组合优化的料(大哥回忆起当年的岁月感觉都是灰色的),于是两年后换组到了我们这儿来做一些更加“简单”的问题。至于他之后大发神威,经常一己之力写一篇文章dominate好几位大佬合写的paper,那就是后话了。评曰:组合是大坑,入坑需谨慎。

Nesterov, Yurii.Lectures on convex optimization (凸优化讲义). Vol. 137. Cham: Springer, 2018. 推荐指数:★★★★ 难度:★★★★

差点忘掉了这本书。Nesterov大神的这本教科书历时十几年终于有了第二版,并增加了许多新内容,如果你有志于做凸优化方面的研究,这本书我认为无论从深度和广度上都超越了Boyd等人的那本凸优化。唯一可能会对一些同学造成困难的是,这本书显然写得更加抽象。但是如果你就是喜欢数学系的学习节奏,我觉得这本更抽象的书是更好的,因为它的观点更高。

好了,优化理论相关的书太多,剩下我再列一些honorable mentions(排名不分先后),不展开说了:

01

Ben-Tal, Aharon, Laurent El Ghaoui, and Arkadi Nemirovski.Robust optimization (鲁棒优化). Princeton university press, 2009. 推荐指数:★★ 难度:★★★★

鲁棒优化这些年越来越火了,然而这本三个鲁棒优化创始人写的教科书却并不尽如人意。首先许多地方写的过于晦涩,不适合初学者,第二也尚未与时俱进地容纳许多近年鲁棒优化领域的重要工作,尤其在分布式鲁棒优化(distributionally robust optimization)和动态优化方面(adaptive optimization/robust multi-stage optimization)。所以我个人建议对鲁棒优化感兴趣的同学直接读paper,目前我觉得还没有很好的可以带入门的教科书。据说NUS的Melvyn Sim教授和一些合著者正在写一本新的鲁棒优化教科书,我个人会更期待他们的书。

02

Ahuja, Ravindra K., Thomas L. Magnanti, and James B. Orlin. "Network flows: theory, algorithms, and applications." (网络流:理论,算法和应用) (1993). 推荐指数:★★★ 难度:★★★★

网络流的百科全书式作品,三位作者也都是领域内鼎鼎大名的学者。可惜,该书致命的缺陷在于可能目标过于宏大,以至于第一版中出现了大量的谬误。直至今日,三位作者都年事已高了,也没有办法真正完成修订后的第二版。因此,推荐做网络流的同学把这本书当成一本工具书,有需要的时候可以学习相关部分,并且要带有一点批判性地去读。

03

Hazan, Elad. "Introduction to online convex optimization." (在线凸优化导论) arXiv preprint arXiv:1909.05207(2019). 推荐指数:★★★★★ 难度:★★★★ 

在线优化是一个很迷人的领域,尤其在今天它显得非常有活力。这或许是因为现实当中许多优化问题都需要在线解决:比如在大型电商的推荐系统、在线平台上跑的一系列算法,都或多或少需要是在线的。这本短小精悍的讲义融合了基本的凸优化理论、随机过程论和一些统计学习的结果,适合初学者一窥多学科交叉与融合的魅力。

04

Ben-Tal, Aharon, and A. Nemirovski. "Lectures on modern convex optimization (2012)." (现代凸优化讲义) SIAM, Philadelphia, PA. Google Scholar Google Scholar Digital Library Digital Library(2011). 推荐指数:★ 难度:★★★★★

想练优化仙术的同学可以挑战一下,我读过的优化方面最难读的书没有之一。当然,本书的观点其实非常的高,并且介绍了一种统一的框架来理解鲁棒优化和各种确定性优化问题。啊,我列出本书其实只是为了祭奠那被狗吃掉了的青春。

05

Shapiro, Alexander, Darinka Dentcheva, and Andrzej Ruszczyński. Lectures on stochastic programming: modeling and theory (随机规划讲义). Society for Industrial and Applied Mathematics, 2014. 推荐指数:★★★ 难度:★★★★★

随机优化界的扛鼎之作。当然,本书难度也不小,印象当中书中的许多例子本身也都很抽象,需要读者有坚实的分析基础和概率(测度论)基础。有志进军随机优化领域者必备,常读常新(然后经常发现读的时候忘掉了时间,也损失了头发)。

06

Facchinei, Francisco, and Jong-Shi Pang. Finite-dimensional variational inequalities and complementarity problems (有限维变分不等式与互补问题). Springer Science & Business Media, 2007. 推荐指数:★★★ 难度:★★★★

变分不等式界的扛鼎之作。事实上,每个凸优化问题都有其变分不等式的等价形式。用变分不等式的观点看优化,就如同天然自带了一阶导数的信息,在分析上有诸多妙处。因此即使你不看这本书,我也建议了解一下这种观点,可能有奇效。这本书如果太晦涩艰深,也推荐南科大何炳生老师挂在主页上的讲义(何老师当年就是因为掌握了变分不等式的工具,在ADMM上做出了几个在世界上也很有影响力的结果)。

07

Blekherman, Grigoriy, Pablo A. Parrilo, and Rekha R. Thomas, eds. Semidefinite optimization and convex algebraic geometry. (半正定优化与凸代数几何) Society for Industrial and Applied Mathematics, 2012. 推荐指数:★ 难度:★★★★★ 

几位半正定优化方面大拿的合著品。这个方向一直以来我感觉和变分不等式类似,做的人不太多,但水很深,适合代数比较好的同学(显然,不只是指高等代数了),不适合一般的同学去看。顺便提一嘴Pablo Parrilo,此君一辈子只解决open problems,“不要拿那些凡人的问题给老子!”,其在Caltech 2000年左右的博士论文便是该领域著名的奠基之作之一。很高兴前两年在Stanford开高薪挖他的情况下他还是留在了本技校,据他自己讲原因主要是:“MIT的学生还是更有趣一些。”

(非)凸分析

(非)凸分析

Rockafellar, R. Tyrrell.Convex analysis(凸分析). Vol. 36. Princeton university press, 1970. 推荐指数:★★★★★ 难度:★★★★★

本清单上的第三本神书,倾情推荐。事实上,凸分析书对于优化和运筹学者来说,有点屠龙之术的意思。犹记得多年前我在本科数学系的凸分析讨论班上,搞优化的教授说:“这本书虽然写在半个世纪以前,但是直到今天全国也没有几个(搞优化的)人能拍着胸脯说对里面所有的结果捻熟于心的。”直到今天,这本书里面的许多引理和定理仍然可以催生出许多独立的运筹、优化、管理、数学、甚至计算机科学领域的文章。屠龙宝刀就在这里,你要不要试试看呢?事实上,我组里之前就有一位Rockafellar凸分析十级学者,他虽然PhD读了七年才毕业,第一篇文章直到毕业都还没发表出来(博士第五年结束写好的),但是也足够他找到教职了:因为大家明白,一个年轻的妖怪已经诞生于世了。

Rockafellar, R. Tyrrell, and Roger J-B. Wets.Variational analysis (变分分析). Vol. 317. Springer Science & Business Media, 2009. 推荐指数:★★★ 难度:★★★★★

另外,Rockafellar老爷子后来和好基友又写了本Variational Analysis,这本书也是堪比倚天剑,主要讨论许多非凸分析的情形。他老人家锻了倚天屠龙,不愧是一代宗师。

Bertsekas, Dimitri P. "Nonlinear programming."(非线性规划) Journal of the Operational Research Society 48.3 (1997): 334-334. 推荐指数:★★★★ 难度:★★★★

Bertsekas, Dimitri P. Convex optimization theory. (凸优化理论) Belmont: Athena Scientific, 2009. 推荐指数:★★★★ 难度:★★★★★

Bertsekas, Dimitri P., and Athena Scientific.Convex optimization algorithms. (凸优化算法)Belmont: Athena Scientific, 2015. 推荐指数:★★★★ 难度:★★★

然后介绍Bertsekas老爷子的三本凸分析书:注意,其实书名看起来很凸优化,好像我不应该放到凸分析这一类别,但事实上你不要被书名骗了,其实这些都是凸分析书,远比前一类的优化书要分析的多。然后一骨碌上了三本书也跟老爷子的写书习惯有关,太高产了,而且书之间一些内容或有重叠。但是如果你习惯了他的用词遣句,跟着Bertsekas老爷子其实也另有好处:因为老爷子一生不仅搞凸分析、优化,也是概率论与随机过程、并行计算、控制论与动态规划(因此和如今大火的强化学习息息相关)的宗师,且他都有教科书,可以一并学了...(一种说法是因为那个Athena Scientific出版社就是他自己开的,多写一些书可以多拿版税...)另外再讲一个趣事,前面提到的Rockafellar退休了来我们学校作报告,追忆几十年前和Bertsekas两人你追我赶的学术生涯,基本上这俩位在凸分析领域也可以算作是“一生之敌”了,毕竟两位都是单独开宗立派的大祖师,很有意思。

如果对上面提到的书有困难,那可能是你的分析功底不够过关。实分析、泛函分析的一些主要定理最好还是要知道的(不用会证明)~

概率论与随机过程

我坚持认为,一个不懂概率论的运筹学同学,应当被开除运筹学师门(误)。不过因为概率论与随机过程是许多学科的基础,因此我这里比较简略一下了。

Bertsekas, Dimitri P., and John N. Tsitsiklis. Introduction to probability. (概率导论) Vol. 1. Belmont, MA: Athena Scientific, 2002. 推荐指数:★★★★ 难度:★★ 

本清单第一本难度低于三颗星的书,大一本科生就可以学。主要还是推荐给Bertsekas流和Tsitsiklis的粉丝们的。另外,我觉得学概率其实直觉很重要,这本书虽然没有引入测度论,但是非常锻炼一个人的概率直觉。再多提一嘴,Bertsekas和Tsitsiklis也都是希腊人,都是绝顶聪明的。Bertsekas属于那种遗世独立的天才,一辈子主要都是自己跟自己玩,学生、合著者都很少(这其中,他显然最欣赏Tsitsiklis;我也听他讲过一些和Tsitsiklis合作的快乐历史),一个人打下一片天地(所以他的teaching也是灾难...)但是Tsitsiklis属于那种冯诺依曼式八面玲珑的天才,一生所做的事情很多,也非常会teach,所以他俩合著的书才是真正的杰作,一会我还要介绍一本(90年代他们合著的parallel and distributed computing其实也是一本神书,奠定了并行计算和分布式计算的理论基础,也是他俩后来得到冯诺依曼奖的主要原因,这里因为和主旨无关所以不仔细介绍了)。

Durrett, Rick. Probability: theory and examples.(概率:理论和实例)  Vol. 49. Cambridge university press, 2019. 推荐指数:★★★★ 难度:★★★★★

当然,为了做研究,基于测度的概率论是不得不学的,鞅论相关的结果最好还是要熟悉(运筹学者我觉得随机分析这个级别倒不是必备的了,只对一少部分人很重要)。这里有许多不错的书,我推荐的还是Durrett的这本,感觉书中许多地方至今对我来说还是含义高远,需要再好好思考和再学习...(默默给Sheldon Ross挽尊)当然,公允地来说,S. Ross的几本书或许能给人带来更多的东西,Durrett这本书还是对悟性要求比较高。我现在都记得这书某汉译本的开头序言里讲到:(大概是这个意思,原文可能有所出入)“笔者早年认识一位在美国某常青藤任教的助理教授,据说他无论去某地旅游,除了必要的生活用品,就仅带Durrett的这本书。他不时就会翻看这本书,据说这成了他许多研究灵感的泉源。”

Lattimore, Tor, and Csaba Szepesvári. Bandit algorithms. (tiger机算法) Cambridge University Press, 2020. 推荐指数:★★★★ 难度:★★★★

有了好的概率基础,就可以来研究MAB(multi-arm bandit)这个小清新领域了。该领域大侠Sebastien Bubeck曾在数年前就表示:我觉得MAB已经没有什么重要问题可以做了。撂下话后,他本人确实就研究别的去了。可是最近,他在看到了contextual bandit, nonstationary bandit, Thompson sampling等领域的一系列重大进展之后,修正了自己之前的观点,在个人博客的年度回顾文上宣布,觉得MAB这个领域大家至少可以再战十年(当然,他本人还是很傲娇不会再做了),因此大家感兴趣的不妨还是可以上车滴。这本Bandit Algorithms便是对这些年MAB理论各种结果的统一集合,非常好的一本书。如果觉得太overwhelming,也有一本下位替代:

Slivkins, Aleksandrs. "Introduction to multi-armed bandits."arXiv preprint arXiv:1904.07272(2019). 推荐指数:★★★★ 难度:★★★

不过下位替代的内容还是不够全面,因此有能力请直接Bandit Algorithms。至于为什么单独提到bandit,因为我觉得相比排队论,渐近系统分析等一些更加古老的OR随机模型方向,bandit方向显得更加具有生命力(不仅在理论上,最近工业界也有诸多实践):这也是一个和强化学习有诸多联系的方向。

动态规划、最优控制、强化学习

所谓动态规划,也可以理解为“多阶段的优化/决策问题”,即我们的优化问题是有好多阶段的,这其实也和多阶段随机规划密切相关。也因为这一特性,所以这个领域和控制论、强化学习有着很深的联系。

Bertsekas, Dimitri P., and John N. Tsitsiklis. Neuro-dynamic programming. (神经驱动的动态规划) Athena Scientific, 1996. 推荐指数:★★★★★ 难度:★★★★

神书No.4!因为名字没起好被大大低估的又一本书!神书的原因很简单,我说过,Bertsekas和Tsitsiklis一起写的书一定是好书。最大的遗憾在于这本书并没有真正的续作,加入许多前沿的和(深度)强化学习有关的内容。其实Bertsekas老人家已经在行动了,比如前两年他独自写了一本Reinforcement Learning and Optimal Control。可惜因为Tsitsiklis这几年一直在摸鱼,并表示写书太累了不想写(为什么我那么清楚,因为他老人家是我的committee member),于是我们还是没有办法有一本适合OR人的完美的RL教科书。当然即使如此,我还是建议现在越来越多想做RL理论的同学去好好学学这本书。因为说实话,理论工作就是远远领先时代的,他们这个神经驱动的动态规划理论说白了就是一套研究深度强化学习的框架,因为所谓的神经驱动,就是用人工神经网络去逼近动态规划(MDP)的值函数/策略空间。然而由于我所提到的缺憾,这本书现在当然无法替代Sutton和Barto的RL导论书作为RL入门,因此各位还是可以按需阅读。

想系统学习动态规划与最优控制的,也推荐Bertsekas老人家又臭又长的二部曲:

Bertsekas, Dimitri P. "Dynamic Programming and Optimal Control, Two Volume Set." (动态规划与最优控制) . 推荐指数:★★★ 难度:★★★★

不过我个人其实更推荐下面这本更加短小精悍的,对于动态规划理论的刻画观点更高,基于算子理论,我是看了这个才真正(有点)理解动态规划在干什么的。

Bertsekas, Dimitri P. Abstract dynamic programming. (抽象动态规划)Athena Scientific, 2018. 推荐指数:★★★★★ 难度:★★★★

Bertsekas在动态规划方面也有一位“一生之敌”,Warren Powell同志。他也有一本很著名的近似动态规划书,这里一并推荐(不过虽然他的文风明显更和蔼可亲,我却不太看得下去,看来是中Bertsekas毒已深.jpg)。

Powell, Warren B. Approximate Dynamic Programming: Solving the curses of dimensionality. (近似动态规划:解决维数灾难问题) Vol. 703. John Wiley & Sons, 2007. 推荐指数:★★★★ 难度:★★★★

一些统计学和计量经济学

我实在认为,搞OR的同志,应该要会一点统计学和计量经济学。因为OR毕竟是一个要面向实际问题的学科,而OR这个学科的长处在于对决策问题的建模(也就是优化问题的建模,看看我前面列了那么多优化理论和凸分析书就知道了),而统计和计量经济学更多是面对数据本身的建模。只知道对决策问题建模却不懂对数据建模,那就没法做一个好的数据科学家,而如果反过来的话也可能会陷入空谈数据但解决不了实际问题的窘境。我想,predictive analytics和prescriptive analytics这两门武功还是不要偏门比较的好一些。尤其是我已经讲了学OR的同学首先也要好好学概率,那接着学点统计和计量其实应该是很愉悦的。

Hastie, Trevor, Robert Tibshirani, and Jerome Friedman.The elements of statistical learning: data mining, inference, and prediction. Springer Science & Business Media, 2009. (统计学习基础:数据挖掘、推断和预测 推荐指数:★★★★ 难度:★★★★

这本书在许多人心目中可能是如同Bible一般的。不过我觉得对于OR从业人员来说,倒不一定要面面俱到都了解里面的所有东西,时间有限的情况下先阅读自己感兴趣的章节就好。我当年实际上不是通过这本书,而是某种意义上和它齐名的Pattern Recognition and Machine Learning入坑的(PRML是贝叶斯学派大作,只是我现在越来越觉得贝叶斯这东西不适合大部分人了)。

Wainwright, Martin J.High-dimensional statistics: A non-asymptotic viewpoint. Vol. 48. Cambridge University Press, 2019.  推荐指数:★★★★★ 难度:★★★★★

又一本神书!可惜首先要说明,我也没有真的花许多时间去研究里面的内容。但是,高维统计绝对是“大数据”时代任何一个想要谈论数据的学者绕不过去的一道坎。而且,书的副标题nonasymptotic(非渐近)其实也很重要,经典统计学里面许多的渐近理论,其实对于所谓数据驱动(data-driven)模型研究来说远没有这些非渐近、基于小样本的分析结果来的有用。

Rigollet, Phillippe, and Jan-Christian Hütter. "High dimensional statistics." (高维统计学讲义)Lecture notes for course 18S997813 (2015): 814. 推荐指数:★★★★★ 难度:★★★★

作为上一本书经济实惠版的替代品,我推荐一下这个薄薄的讲义。Rigollet的讲义的最大优点在于写的非常清晰自洽同时短小精悍,很不容易。即使是毫无统计学基础的同学,只要略懂概率,也应当能领略其中大部分主要结果的推导。当然,缺点也同样在这里,内容还是不够丰富,因此做研究的时候可能还需要不少补充阅读才可以真正得心应手。

Maddala, Gangadharrao S., and Kajal Lahiri. Introduction to econometrics. (计量经济学导论) Vol. 2. New York: Macmillan, 1992. 推荐指数:★★★★★ 难度:★★

关于计量经济学,这里就推荐一本伍德里奇的。我们和专业搞计量的经济/统计学者不同,吃透这本书足以应对大部分的情形了(例如Management Science上许多的实证文章)。当然如果你想专注于因果推断这个门派深耕,那这本书肯定还是远远不够的。只是因果推断的问题在于流派众多,我个人还不觉得有一本可以同时集百家之长的教科书可以一应俱全,因此这里暂且按下不表。

写在最后(一些多余的话):如何好好读书?

如何好好读书似乎并不应该是个大问题,毕竟每个中国孩子一路读上来之后还能对运筹学产生兴趣的,哪个从小不是读书读大的?但是,好好读书,又确实是很重要的。人生有限,而越学的深入,却会发现要学的东西(不懂的东西)越多。

我想,大学之后的读书也是在培养一种非线性的思维。读书不能再是线性的那样一行行一页页地去啃了,而应该是更加具有目的性和方向性的一个“优化过程”。读书者心中应当有一些明确的“目标”,从而在大量相关的书中慢慢找到自己的“梯度方向”,并朝自己的目标迈进。也因此,我说这个过程应当是非线性的:任何一个跑过梯度下降算法的同学,此时应当心领神会(由于学习过程中往往会忘掉一些已经学过的东西,所以应当是带一点随机性的)。

更具体地说,读书应当是一个「先把书读厚,再把书读薄」的过程,我在下面的视频中也曾经有所讲述:(还有,最近不要再催我做视频了:就是任性、摸鱼、不想做!手动狗头)

https://www.bilibili.com/video/BV1Py4y1q7xR

一个人趁年轻的时候,有机会好好地读一读书,放下那些焦虑、内卷、挣不到钱的担忧,在重重迷雾之中拨云见日,实在是一件再快乐不过的事情了。至于你要问我,如果我就是因为读书挣不到钱了怎么办?答曰:1、读博和读书本身在经济上(对许多人来说)很可能就是不划算的,请慎重考虑自己的经济条件和诉求之后再做打算。2、如果已经没有了读书的心境,及时止损也不失为聪明人的做法;如果能保持这种心境,那你或许已经找到了真正的幸福,夫复何求?

原文地址:https://www.cnblogs.com/dhcn/p/14680018.html