引自：最优化算法--常见优化算法分类及总结_优化算法 最优参数选择-CSDN博客

基本思想：基于爬山算法的改进，标记已经解得的局部最优解或求解过程，并在进一步的迭代中避开这些局部最优解或求解过程。局部搜索的缺点在于，太过于对某一局部区域以及其邻域的搜索，导致一叶障目。为了找到全局最优解，禁忌搜索就是对于找到的一部分局部最优解，有意识地避开它，从而或得更多的搜索区域

特点：

避免在搜索过程中的循环
只进不退的原则,通过禁忌表实现
不以局部最优作为停止准则
邻域选优的规则模拟了人类的记忆功能
禁忌表：用于防止搜索出现循环

记录前若干步走过的点、方向或目标值，禁止返回
表是动态更新的
表的长度称为Tabu-Size
禁忌表的主要指标（两项指标）

禁忌对象：禁忌表中被禁的那些变化元素
禁忌长度：禁忌的步数
禁忌对象（三种变化）

以状态本身或者状态的变化作为禁忌对象
以状态分量以及分量的变化作为禁忌对象
采用类似的等高线做法，以目标值变化作为禁忌对象
禁忌长度:可以是一个固定的常数(T=c),也可以是动态变化的，可按照某种规则或公式在区间内变化。

禁忌长度过短，一旦陷入局部最优点，出现循环无法跳出；
禁忌长度过长，候选解全部被禁忌，造成计算时间较大，也可能造成计算无法继续下去。
参考：
1.禁忌搜索算法(Tabu Search)
2.禁忌搜索算法详解

从问题的某一个初始解出发逐步逼近给定的目标，以尽可能快的地求得更好的解。当达到算法中的某一步不能再继续前进时，算法停止。

基本都要先排序，从排序的开始那个依次判断，符合就留下不符合就去掉。
模拟退火(simulated annealing，SA)

模拟退火算法作为局部搜索算法的扩展，在每一次修改模型的过程中，随机产生一个新的状态模型，然后以一定的概率选择邻域中能量值大的状态．这种接受新模型的方式使其成为一种全局最优算法，并得到理论证明和实际应用的验证．SA虽然在寻优能力上不容置疑，但它是以严密的退火计划为保证的，具体地讲，就是足够高的初始温度、缓慢的退火速度、大量的迭代次数及同一温度下足够的扰动次数。

用兔子的故事来说：兔子喝醉了。他随机地跳了很长时间。这期间，它可能走向高处，也可能踏入平地。但是，他渐渐清醒了并朝他踏过的最高方向跳去。这就是模拟退火。
其实就是，先用初始值进行随机更新，记录每次更新的值，最后取历史记录中最大的值。

参考：模拟退火算法

粒子群算法(PSO)
蚁群算法(ACO)
人工蜂群算法(ABC)
人工鱼群算法(AFSA)
混洗蛙跳算法(SFLA)
烟花算法(FWA)
细菌觅食优化(BFO)
萤火虫算法(FA)
特点：

全局寻优
每次的解都不同
时间较长
智能计算包括：

进化算法（EC），如遗传算法。
模糊逻辑
群智能(SI)算法
人工免疫系统(AIS)
人工神经网络(ANN)

参考：

最优化问题及其分类
遗传算法
《MATLAB神经网络30个案例分析》的13个案例中的GA优化SVM参数
手把手教你实现SVM算法（一）
遗传算法学习笔记（一）：常用的选择策略
粒子群算法介绍（讲解的很清晰，将PSO的算法原理、算法特点以及参数的设置）
群体智能简介ppt
（粒子群和人工蚁群优化）
优化算法分类