运筹学书籍分享
在分享运筹学书籍之前,我们首先要定义运筹学是什么。在数学上,传统的运筹学一般可以认为它包涵了「最优化」和「随机模型」这两大类。
以下我将以本人读过的一些值得推荐的OR书列清单,并对于该书涵盖的内容进行简评,还有书的难度进行打分(是否适合初学者,或者更适合进阶学习)。以下清单主要适用于想攻读运筹需额、管理科学相关专业博士/在该方向深入科研的同学参考。清单最后,我也会列出一些我认为这几年和运筹需额息息相关,可能会催生OR新方向、新领域的一些参考书籍。
优化理论
书名 | 作者 | 评价 | 推荐指数 | 难度 | 封面 | 链接 |
---|---|---|---|---|---|---|
Introduction to linear optimization | Bertsimas, Dimitris, and John N. Tsitsiklis. | 一本让初学者也能很快站在山腰一览优化理论风景的神书!鼎力推荐!由浅入深从线性规划出发,将优化理论的核心概念「对偶」抽丝剥茧,在LP框架里深入探讨了这一概念的缘由。 | ★★★★★ | ★★★ | ||
Linear and nonlinear programming | Luenberger, David G., and Yinyu Ye. | 如果你有志于搞优化算法,用这本书来入门可能会是非常适合的。从线性规划理论出发,但是一路会深入到非线性规划理论。与此同时又不拘泥于理论,书中同样有许多丰富的实例,非常适合有志于研究优化算法的初学者。 | ★★★★ | ★★★★ | ||
Convex optimization | Boyd, Stephen, Stephen P. Boyd, and Lieven Vandenberghe. | 这本书很适合工科出身,数理基础扎实的同学来入门。本书的特点是包罗万象,也不拘泥于从线性规划出发,而是直接从经典凸分析出发介绍凸优化这一普遍的优化框架。 | ★★★★ | ★★★ | ||
Numerical optimization | Nocedal, Jorge, and Stephen Wright. | 有数值分析基础的同学,这里也推荐一下这本书。这本书可能是市面上对各种经典优化算法分门别类介绍得最为清晰的。但是这书编著地不是很系统,有“堆砌”起来的感觉,可作工具书。 | ★★★ | ★★★★ | ||
Integer and combinatorial optimization | Wolsey, Laurence A., and George L. Nemhauser. | 第二本神书!想在组合优化/整数优化方向有所建树的同学必备!但是,组合是大坑,入坑需谨慎。 | ★★★★ | ★★★★★ | ||
Lectures on convex optimization (凸优化讲义) | Nesterov, Yurii. | 如果你有志于做凸优化方面的研究,这本书我认为无论从深度和广度上都超越了Boyd等人的那本凸优化。唯一可能会对一些同学造成困难的是,这本书显然写得更加抽象。 | ★★★★ | ★★★★ | ||
Introduction to Operations Research | FREDERICK S. HILLIER, GERALD J. LIEBERMAN | 运筹学入门教材,涉及线性规划、排队论等众多方向。 | 网盘链接 | |||
Vehicle Routing Problems, Methods and Applications | Paolo Toth, Danile Vigo | VRP问题经典书籍 | 网盘链接 |
(非)凸分析
书名 | 作者 | 评价 | 推荐指数 | 难度 | 封面 |
---|---|---|---|---|---|
Convex analysis | Rockafellar, R. Tyrrell. | 神书!倾情推荐!凸分析书对于优化和运筹学者来说,有点屠龙之术的意思。直到今天,这本书里面的许多引理和定理仍然可以催生出许多独立的运筹、优化、管理、数学、甚至计算机科学领域的文章。 | ★★★★★ | ★★★★★ | |
Variational analysis | Rockafellar, R. Tyrrell, and Roger J-B. Wets. | 这本书也是堪比倚天剑,主要讨论许多非凸分析的情形。 | ★★★ | ★★★★★ | |
Nonlinear programming | Bertsekas, Dimitri P. | ★★★★ | ★★★★ | ||
Convex optimization theory. | Bertsekas, Dimitri P. | ★★★★ | ★★★★★ | ||
Convex optimization algorithms. | Bertsekas, Dimitri P., and Athena Scientific. | ★★★★ | ★★★ |
概率论与随机过程
我坚持认为,一个不懂概率论的运筹学同学,应当被开除运筹学师门(误)。
书名 | 作者 | 评价 | 推荐指数 | 难度 | 封面 | 链接 |
---|---|---|---|---|---|---|
Introduction to probability | Bertsekas, Dimitri P., and John N. Tsitsiklis. | 这本书大一本科生就可以学。我觉得学概率其实直觉很重要,这本书虽然没有引入测度论,但是非常锻炼一个人的概率直觉。 | ★★★★ | ★★ | ||
Probability: theory and examples | Durrett, Rick. | 为了做研究,基于测度的概率论是不得不学的,鞅论相关的结果最好还是要熟悉(运筹学者我觉得随机分析这个级别倒不是必备的了,只对一少部分人很重要) | ★★★★ | ★★★★★ | ||
Bandit algorithms | Lattimore, Tor, and Csaba Szepesvári | 有了好的概率基础,就可以来研究MAB(multi-arm bandit)这个小清新领域了。这本Bandit Algorithms便是对这些年MAB理论各种结果的统一集合,非常好的一本书。 | ★★★★ | ★★★★ | ||
Introduction to multi-armed bandits | Slivkins, Aleksandrs. | 较上一本来说替代内容还是不足的。另外,我觉得相比排队论,渐近系统分析等一些更加古老的OR随机模型方向,bandit方向显得更加具有生命力。 | ★★★★ | ★★★ | ||
应用随机过程概率模型导论 | Sheldon M. Ross | 随机过程入门书籍 | 网盘链接 | |||
Introduction to Stochastic Programming | John R. Bridge, Francois Louveaux | 随机规划入门书籍 | 网盘链接 |
动态规划、最优控制、强化学习
所谓动态规划,也可以理解为“多阶段的优化/决策问题”,即我们的优化问题是有好多阶段的,这其实也和多阶段随机规划密切相关。也因为这一特性,所以这个领域和控制论、强化学习有着很深的联系。
书名 | 作者 | 评价 | 推荐指数 | 难度 | 封面 |
---|---|---|---|---|---|
Neuro-dynamic programming | Bertsekas, Dimitri P., and John N. Tsitsiklis. | 神书!建议现在越来越多想做RL理论的同学去好好学学这本书。但这本书现在当然无法替代Sutton和Barto的RL导论书作为RL入门,因此各位还是可以按需阅读。 | ★★★★★ | ★★★★ | |
Dynamic Programming and Optimal Control, Two Volume Set | Bertsekas, Dimitri P. | 又臭又长的二部曲之一。 | ★★★ | ★★★★ | |
Abstract dynamic programming | Bertsekas, Dimitri P. | 又臭又长的二部曲之一。但较上一本这本更加短小精悍的,对于动态规划理论的刻画观点更高,基于算子理论,我是看了这个才真正(有点)理解动态规划在干什么的。 | ★★★★★ | ★★★★ | |
Approximate Dynamic Programming: *Solving the curses of dimensionality* | Powell, Warren B. | 很著名的近似动态规划书,文风明显更和蔼可亲。 | ★★★★ | ★★★★ |
统计学和计量经济学
我实在认为,搞OR的同志,应该要会一点统计学和计量经济学。因为OR毕竟是一个要面向实际问题的学科,而OR这个学科的长处在于对决策问题的建模(也就是优化问题的建模,看看我前面列了那么多优化理论和凸分析书就知道了),而统计和计量经济学更多是面对数据本身的建模。只知道对决策问题建模却不懂对数据建模,那就没法做一个好的数据科学家,而如果反过来的话也可能会陷入空谈数据但解决不了实际问题的窘境。
书名 | 作者 | 评价 | 推荐指数 | 难度 | 封面 |
---|---|---|---|---|---|
The elements of statistical learning: data mining, inference, and prediction | Hastie, Trevor, Robert Tibshirani, and Jerome Friedman | 这本书在许多人心目中可能是如同Bible一般的。对于OR从业人员来说,倒不一定要面面俱到都了解里面的所有东西,时间有限的情况下先阅读自己感兴趣的章节就好。 | ★★★★ | ★★★★ | |
High-dimensional statistics: A non-asymptotic viewpoint | Wainwright, Martin J. | 高维统计绝对是“大数据”时代任何一个想要谈论数据的学者绕不过去的一道坎。 | ★★★★★ | ★★★★★ | |
High dimensional statistics | High dimensional statistics | 作为上一本书经济实惠版的替代品,我推荐一下这个薄薄的讲义。讲义的最大优点在于写的非常清晰自洽同时短小精悍,很不容易。即使是毫无统计学基础的同学,只要略懂概率,也应当能领略其中大部分主要结果的推导。但缺点是内容不够丰富 | ★★★★★ | ★★★★ | |
Introduction to econometrics | Maddala, Gangadharrao S., and Kajal Lahiri. | 伍德里奇yyds!不过编者需要提醒各位的是这本书的一些符号与传统统计学中的符号恰恰相反,大家阅读时要理解透概念。 | ★★★★★ | ★★ |
寄语:这里面许多书都出版了有几十年的光景了。然而数学就是这样一个学科,许多经典和深邃的结果,早就已经尘埃落定,它们不适合浮躁的同学。但是即便你仍然年轻,只要足够有耐心,你自然能重新发现和体会到那些跨越时空的美丽结果。
原文作者:覃含章(本科就读于清华大学工业工程系,硕士就读于MIT)
本文已取得原作者的授权转载,为了简洁等需求作了些许修改。欢迎大家关注由覃含章学长营的「运筹OR帷幄」公众号,B站「摸鱼人覃含章」,(学术)个人网站:http://hqin.mit.edu/