python模拟退火

1. python怎么做最优化

一、概观
scipy中的optimize子包中提供了常用的最优化算法函数实现。我们可以直接调用这些函数完成我们的优化问题。optimize中函数最典型的特点就是能够从函数名称上看出是使用了什么算法。下面optimize包中函数的概览：
1.非线性最优化
fmin -- 简单Nelder-Mead算法
fmin_powell -- 改进型Powell法
fmin_bfgs -- 拟Newton法
fmin_cg -- 非线性共轭梯度法
fmin_ncg -- 线性搜索Newton共轭梯度法
leastsq -- 最小二乘
2.有约束的多元函数问题
fmin_l_bfgs_b ---使用L-BFGS-B算法
fmin_tnc ---梯度信息
fmin_cobyla ---线性逼近
fmin_slsqp ---序列最小二乘法
nnls ---解|| Ax - b ||_2 for x>=0
3.全局优化
anneal ---模拟退火算法
brute --强力法
4.标量函数
fminbound
brent
golden
bracket
5.拟合
curve_fit-- 使用非线性最小二乘法拟合
6.标量函数求根
brentq ---classic Brent (1973)
brenth ---A variation on the classic Brent（1980）ridder ---Ridder是提出这个算法的人名
bisect ---二分法
newton ---牛顿法
fixed_point
7.多维函数求根
fsolve ---通用
broyden1 ---Broyden’s first Jacobian approximation.
broyden2 ---Broyden’s second Jacobian approximationnewton_krylov ---Krylov approximation for inverse Jacobiananderson ---extended Anderson mixing
excitingmixing ---tuned diagonal Jacobian approximationlinearmixing ---scalar Jacobian approximationdiagbroyden ---diagonal Broyden Jacobian approximation8.实用函数
line_search ---找到满足强Wolfe的alpha值
check_grad ---通过和前向有限差分逼近比较检查梯度函数的正确性二、实战非线性最优化
fmin完整的调用形式是：
fmin(func, x0, args=(), xtol=0.0001, ftol=0.0001, maxiter=None, maxfun=None, full_output=0, disp=1, retall=0, callback=None)不过我们最常使用的就是前两个参数。一个描述优化问题的函数以及初值。后面的那些参数我们也很容易理解。如果您能用到，请自己研究。下面研究一个最简单的问题，来感受这个函数的使用方法：f(x)=x**2-4*x+8，我们知道，这个函数的最小值是4，在x=2的时候取到。
from scipy.optimize import fmin #引入优化包def myfunc(x):
return x**2-4*x+8 #定义函数
x0 = [1.3] #猜一个初值
xopt = fmin(myfunc, x0) #求解
print xopt #打印结果
运行之后，给出的结果是：
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 16
Function evaluations: 32
[ 2.00001953]
程序准确的计算得出了最小值，不过最小值点并不是严格的2，这应该是由二进制机器编码误差造成的。
除了fmin_ncg必须提供梯度信息外，其他几个函数的调用大同小异，完全类似。我们不妨做一个对比：
from scipy.optimize import fmin,fmin_powell,fmin_bfgs,fmin_cgdef myfunc(x):
return x**2-4*x+8
x0 = [1.3]
xopt1 = fmin(myfunc, x0)
print xopt1
print
xopt2 = fmin_powell(myfunc, x0)
print xopt2
print
xopt3 = fmin_bfgs(myfunc, x0)
print xopt3
print
xopt4 = fmin_cg(myfunc,x0)
print xopt4
给出的结果是：
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 16
Function evaluations: 32
[ 2.00001953]
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 2
Function evaluations: 53
1.99999999997
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 2
Function evaluations: 12
Gradient evaluations: 4
[ 2.00000001]
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 2
Function evaluations: 15
Gradient evaluations: 5
[ 2.]
我们可以根据给出的消息直观的判断算法的执行情况。每一种算法数学上的问题，请自己看书学习。个人感觉，如果不是纯研究数学的工作，没必要搞清楚那些推导以及定理云云。不过，必须了解每一种算法的优劣以及能力所及。在使用的时候，不妨多种算法都使用一下，看看效果分别如何，同时，还可以互相印证算法失效的问题。
在from scipy.optimize import fmin之后，就可以使用help(fmin)来查看fmin的帮助信息了。帮助信息中没有例子，但是给出了每一个参数的含义说明，这是调用函数时候的最有价值参考。
有源码研究癖好的，或者当你需要改进这些已经实现的算法的时候，可能需要查看optimize中的每种算法的源代码。在这里：https:/ / github. com/scipy/scipy/blob/master/scipy/optimize/optimize.py聪明的你肯定发现了，顺着这个链接往上一级、再往上一级，你会找到scipy的几乎所有源码！

2. C++和Python哪个适合人工智能

开发人工智能建议你先从算法级开始。你列出的四种语言均不太适合算法级开发，建议使用Matlab。如果有需要我可以私信你一些教程，涉及简单的神经网络搭建，还有模拟退火、PSO、SVM等这些比较经典的算法。

3. 目前编程的人工智能开发的编程用什么语言比较多，Java 、C++、Python那种语言更多

开发人工智能建议先从算法级开始。
列出的四种语言均不太适合算法级开发，建议使用Matlab。
如果有需要可以私信一些教程，涉及简单的神经网络搭建，还有模拟退火、PSO、SVM等这些比较经典的算法。

4. 数学建模需要掌握哪些编程语言和技术

数学建模需要掌握MATLAB、Python、SAS、Lingo等编程语言。

5. Python 有什么启发式算法的包吗

遗传算法，退火算法 ，神经网络算法,贪心算法，都属于数学计算方法范畴。到底它们属于启发式算法还是智能计算，尚无标准的统一的定义。
神经网络的研究有许多地方涉及到全局最优化计算问题。但是在寻优过程中往往导致局部极限或收敛速度慢。为此采用退火算法（确切是模拟退火算法）或遗传算法加以改进。因为这些算法建立的仿真模型可应用于模式识别、图象处理、控制、优化、预测等等，能够模仿人脑结构以及对信息的记忆和处理功能，具有一定的人类智能，所以有的书上认为这些算法是智能计算。
不过，人工神经网络只是对大脑的粗略而简单的模仿，与人的智能差得很远，而且神经网络算法实质是解决一种非线性问题算法，因而在实际研究中不把神经网络算法看作智能计算，而认为只是启发式的一种算法。
至于贪心算法是梯度下降优化的一种算法，遗传算法是模仿生物进化过程的一种寻优算法。

6. python数据分析师需要掌握什么技能

首先是基础篇
1、首先是Excel，貌似这个很简单，其实未必。Excel不仅能够做简单二维表、复杂嵌套表，能画折线图/Column chart/Bar chart/Area chart/饼图/雷达图/Combo char/散点图/Win Loss图等，而且能实现更高级的功能，包括透视表（类似于BI的多维分析模型Cube），以及Vlookup等复杂函数，处理100万条以内的数据没有大问题。最后，很多更高级的工具都有Excel插件，例如一些AI Machine Learning的开发工具。
2. SQL（数据库）

我们都知道数据分析师每天都会处理海量的数据，这些数据来源于数据库，那么怎么从数据库取数据？如何建立两表、三表之间的关系？怎么取到自己想要的特定的数据？等等这些数据选择问题就是你首要考虑的问题，而这些问题都是通过SQL解决的，所以SQL是数据分析的最基础的技能。
3. 统计学基础
数据分析的前提要对数据有感知，数据如何收集？数据整体分布是怎样的？如果有时间维度的话随着时间的变化是怎样的？数据的平均值是什么？数据的最大值最小值指什么？数据相关与回归、时间序列分析和预测等等。
4、掌握可视化工具，比如BI，如Cognos/Tableau/FineBI等，具体看企业用什么工具，像我之前用的是FineBI。这些工具做可视化非常方便，特别是分析报告能含这些图，一定会吸引高层领导的眼球，一目了然了解，洞察业务的本质。另外，作为专业的分析师，用多维分析模型Cube能够方便地自定义报表，效率大大提升。
进阶阶段需要掌握的：

1、系统的学好统计学
纯粹的机器学习讲究算法预测能力和实现，但是统计一直就强调“可解释性”。比如说，针对今天微博股票发行就上升20%，你把你的两个预测股票上涨还是下跌的model套在新浪的例子上，然后给你的上司看。统计学就是这样的作用。
数据挖掘相关的统计方法（多元Logistic回归分析、非线性回归分析、判别分析等）
定量方法（时间轴分析、概率模型、优化）
决策分析（多目的决策分析、决策树、影响图、敏感性分析）
树立竞争优势的分析（通过项目和成功案例学习基本的分析理念）
数据库入门（数据模型、数据库设计）
预测分析（时间轴分析、主成分分析、非参数回归、统计流程控制）
数据管理（ETL（Extract、Transform、Load）、数据治理、管理责任、元数据）
优化与启发（整数计划法、非线性计划法、局部探索法、超启发（模拟退火、遗传算法））
大数据分析（非结构化数据概念的学习、MapRece技术、大数据分析方法）
数据挖掘（聚类（k-means法、分割法）、关联性规则、因子分析、存活时间分析）
其他，以下任选两门（社交网络、文本分析、Web分析、财务分析、服务业中的分析、能源、健康医疗、供应链管理、综合营销沟通中的概率模型）
风险分析与运营分析的计算机模拟
软件层面的分析学（组织层面的分析课题、IT与业务用户、变革管理、数据课题、结果的展现与传达方法）
2、掌握AI Machine Learning算法，会用工具（比如Python/R）进行建模。
传统的BI分析能回答过去发生了什么？现在正在发生什么？但对于未来会发生什么？必须靠算法。虽然像Tableau、FineBI等自助式BI已经内置了一部分分析模型，但是分析师想要更全面更深度的探索，需要像Python/R的数据挖掘工具。另外大数据之间隐藏的关系，靠传统工具人工分析是不可能做到的，这时候交由算法去实现，无疑会有更多的惊喜。
其中，面向统计分析的开源编程语言及其运行环境“R”备受瞩目。R的强项不仅在于其包含了丰富的统计分析库，而且具备将结果进行可视化的高品质图表生成功能，并可以通过简单的命令来运行。此外，它还具备称为CRAN（The Comprehensive R Archive Network）的包扩展机制，通过导入扩展包就可以使用标准状态下所不支持的函数和数据集。R语言虽然功能强大，但是学习曲线较为陡峭，个人建议从python入手，拥有丰富的statistical libraries，NumPy ，SciPy.org ，Python Data Analysis Library，matplotlib: python plotting。
以上我的回答希望对你有所帮助