引言

出处：按学科分类—工业技术 企业管理出版社《工程师手册》第264页（1707字）

优化是在给定环境条件下获取最好结果的行为。在任何工程系统的设计、施工和维护中，工程师必须在各个阶段采取很多工艺和管理方面的决策。所有这些决策的最终目的无非是使完成某一任务所须作的努力最小，或是使其效益最大。因为所须作的努力或所希望的效益在任何实际情况下均可表示为一些决策变量的函数，故优化可定义为寻找给定函数取极大值或极小值的条件的过程。如果点x^*为函数f(X)的极小点，则该点亦相应为一f(X)函数的极大点。这样，不失一般性，优化可规定为求极小，因函数的极大化可由对此函数的负值来求极小而找到。因为不存在一种优化方法可以有效地求解所有优化问题，故为了求解不同类型优化问题，人们发展了很多优化方法。

寻优法亦称为数学规划方法，是运筹学的一部分。运筹学是数学的一个分支，是涉及用科学的方法和手段进行决策及确定最好或最优解的数学。表2．2．1－1给出了各种数学规划方法以及运筹学中定义明确的其它研究领域。这种分类法不是唯一的，这里主要是为方便起见而这样分类的。

数学规划方法可用于在给定的约束集合下，求解多变量函数的极小值。随机过程方法可用于分析由一组已知概率分布的随机变量描述的问题。统计学方法使人们能分析试验数据和构造经验模型来获得物理问题的最精确表示。

表2．2．1－1

优化方法的出现可追溯到Newton、Lagrange和Cauchy时代。由于Newton和Leibnitz对微积分的贡献，才使优化的微分学的发展成为可能。Bernoulli、Euler、Lagrange和Weirstrass等奠定了变分学的基础。包含待定乘子的约束问题优化方法是由Lagrange创立，并以其名命名为Lagrange乘子法。Cauchy最早应用最速下降法来求解无约束极小化问题；尽管早期的这些贡献，在20世纪中以前，优化方法的进展甚小，只是高速数字电子计算机的出现，才使优化程序的实施成为可能。并促使了各种新的方法的进一步发展。紧接着，令人注目的进展相继出现，发表了大量的有关优化方法的文献。这种进展亦引起了在优化理论中一些明确的新领域的出现。

值得注意的是，无约束优化数值方法领域中的主要进展只是在60年代才在英国形成。1947年，Dantzig提出的求解线性规划问题的单纯形法；1957年，Bellman对动态规划问题提出了最优化原理；这两方面的研究为约束优化方法的进展铺平了道路。1951年，Kuhn和Tucker关于规划问题最优解的必要条件和充分条件的研究工作为以后在非线性规划领域内的大量研究奠定了基础。60年代初，Zoutendijk和Rosen对非线性规划的贡献有很重要价值。尽管还没有发现一种方法能普遍适用于求解非线性规划问题，但Carroll、Fiacco和McCormick的研究使很多非线性规划问题能用众所周知的无约束优化方法方便地予以解决。几何规划是60年代由Duffin、Zener和Peterson发展起来的。Gomory在整数规划方面是开拓者，这是令人鼓舞和发展很快的优化领域之一。其原因是很多现实应用属于这类问题。Dantzig、Charnes和Cooper发展了随机规划方法，并能求解设计参数假设为独立和在正态分布的问题。在满足物理限制下希望对多于一个目标或目的的优化导致多目标规划方法的发展。目的规划是众所周知的解特殊类型多目标优化问题的一种方法。目的规划是1961年由Charnes和Cooper为解线性问题而提出的。

网络分析法主要是一种管理控制方法，在1957年和1958年即已发展。对策论的基础是Neumann在1928年奠定的，从那以后，这种理论曾被应用于求解若干数学、经济和军事问题。仅在最近几年，对策论才被用于解决一些工程设计问题。