python模擬退火

1. python怎麼做最優化

一、概觀
scipy中的optimize子包中提供了常用的最優化演算法函數實現。我們可以直接調用這些函數完成我們的優化問題。optimize中函數最典型的特點就是能夠從函數名稱上看出是使用了什麼演算法。下面optimize包中函數的概覽：
1.非線性最優化
fmin -- 簡單Nelder-Mead演算法
fmin_powell -- 改進型Powell法
fmin_bfgs -- 擬Newton法
fmin_cg -- 非線性共軛梯度法
fmin_ncg -- 線性搜索Newton共軛梯度法
leastsq -- 最小二乘
2.有約束的多元函數問題
fmin_l_bfgs_b ---使用L-BFGS-B演算法
fmin_tnc ---梯度信息
fmin_cobyla ---線性逼近
fmin_slsqp ---序列最小二乘法
nnls ---解|| Ax - b ||_2 for x>=0
3.全局優化
anneal ---模擬退火演算法
brute --強力法
4.標量函數
fminbound
brent
golden
bracket
5.擬合
curve_fit-- 使用非線性最小二乘法擬合
6.標量函數求根
brentq ---classic Brent (1973)
brenth ---A variation on the classic Brent（1980）ridder ---Ridder是提出這個演算法的人名
bisect ---二分法
newton ---牛頓法
fixed_point
7.多維函數求根
fsolve ---通用
broyden1 ---Broyden』s first Jacobian approximation.
broyden2 ---Broyden』s second Jacobian approximationnewton_krylov ---Krylov approximation for inverse Jacobiananderson ---extended Anderson mixing
excitingmixing ---tuned diagonal Jacobian approximationlinearmixing ---scalar Jacobian approximationdiagbroyden ---diagonal Broyden Jacobian approximation8.實用函數
line_search ---找到滿足強Wolfe的alpha值
check_grad ---通過和前向有限差分逼近比較檢查梯度函數的正確性二、實戰非線性最優化
fmin完整的調用形式是：
fmin(func, x0, args=(), xtol=0.0001, ftol=0.0001, maxiter=None, maxfun=None, full_output=0, disp=1, retall=0, callback=None)不過我們最常使用的就是前兩個參數。一個描述優化問題的函數以及初值。後面的那些參數我們也很容易理解。如果您能用到，請自己研究。下面研究一個最簡單的問題，來感受這個函數的使用方法：f(x)=x**2-4*x+8，我們知道，這個函數的最小值是4，在x=2的時候取到。
from scipy.optimize import fmin #引入優化包def myfunc(x):
return x**2-4*x+8 #定義函數
x0 = [1.3] #猜一個初值
xopt = fmin(myfunc, x0) #求解
print xopt #列印結果
運行之後，給出的結果是：
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 16
Function evaluations: 32
[ 2.00001953]
程序准確的計算得出了最小值，不過最小值點並不是嚴格的2，這應該是由二進制機器編碼誤差造成的。
除了fmin_ncg必須提供梯度信息外，其他幾個函數的調用大同小異，完全類似。我們不妨做一個對比：
from scipy.optimize import fmin,fmin_powell,fmin_bfgs,fmin_cgdef myfunc(x):
return x**2-4*x+8
x0 = [1.3]
xopt1 = fmin(myfunc, x0)
print xopt1
print
xopt2 = fmin_powell(myfunc, x0)
print xopt2
print
xopt3 = fmin_bfgs(myfunc, x0)
print xopt3
print
xopt4 = fmin_cg(myfunc,x0)
print xopt4
給出的結果是：
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 16
Function evaluations: 32
[ 2.00001953]
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 2
Function evaluations: 53
1.99999999997
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 2
Function evaluations: 12
Gradient evaluations: 4
[ 2.00000001]
Optimization terminated successfully.
Current function value: 4.000000
Iterations: 2
Function evaluations: 15
Gradient evaluations: 5
[ 2.]
我們可以根據給出的消息直觀的判斷演算法的執行情況。每一種演算法數學上的問題，請自己看書學習。個人感覺，如果不是純研究數學的工作，沒必要搞清楚那些推導以及定理雲雲。不過，必須了解每一種演算法的優劣以及能力所及。在使用的時候，不妨多種演算法都使用一下，看看效果分別如何，同時，還可以互相印證演算法失效的問題。
在from scipy.optimize import fmin之後，就可以使用help(fmin)來查看fmin的幫助信息了。幫助信息中沒有例子，但是給出了每一個參數的含義說明，這是調用函數時候的最有價值參考。
有源碼研究癖好的，或者當你需要改進這些已經實現的演算法的時候，可能需要查看optimize中的每種演算法的源代碼。在這里：https:/ / github. com/scipy/scipy/blob/master/scipy/optimize/optimize.py聰明的你肯定發現了，順著這個鏈接往上一級、再往上一級，你會找到scipy的幾乎所有源碼！

2. C++和Python哪個適合人工智慧

開發人工智慧建議你先從演算法級開始。你列出的四種語言均不太適合演算法級開發，建議使用Matlab。如果有需要我可以私信你一些教程，涉及簡單的神經網路搭建，還有模擬退火、PSO、SVM等這些比較經典的演算法。

3. 目前編程的人工智慧開發的編程用什麼語言比較多，Java 、C++、Python那種語言更多

開發人工智慧建議先從演算法級開始。
列出的四種語言均不太適合演算法級開發，建議使用Matlab。
如果有需要可以私信一些教程，涉及簡單的神經網路搭建，還有模擬退火、PSO、SVM等這些比較經典的演算法。

4. 數學建模需要掌握哪些編程語言和技術

數學建模需要掌握MATLAB、Python、SAS、Lingo等編程語言。

5. Python 有什麼啟發式演算法的包嗎

遺傳演算法，退火演算法 ，神經網路演算法,貪心演算法，都屬於數學計算方法范疇。到底它們屬於啟發式演算法還是智能計算，尚無標準的統一的定義。
神經網路的研究有許多地方涉及到全局最優化計算問題。但是在尋優過程中往往導致局部極限或收斂速度慢。為此採用退火演算法（確切是模擬退火演算法）或遺傳演算法加以改進。因為這些演算法建立的模擬模型可應用於模式識別、圖象處理、控制、優化、預測等等，能夠模仿人腦結構以及對信息的記憶和處理功能，具有一定的人類智能，所以有的書上認為這些演算法是智能計算。
不過，人工神經網路只是對大腦的粗略而簡單的模仿，與人的智能差得很遠，而且神經網路演算法實質是解決一種非線性問題演算法，因而在實際研究中不把神經網路演算法看作智能計算，而認為只是啟發式的一種演算法。
至於貪心演算法是梯度下降優化的一種演算法，遺傳演算法是模仿生物進化過程的一種尋優演算法。

6. python數據分析師需要掌握什麼技能

首先是基礎篇
1、首先是Excel，貌似這個很簡單，其實未必。Excel不僅能夠做簡單二維表、復雜嵌套表，能畫折線圖/Column chart/Bar chart/Area chart/餅圖/雷達圖/Combo char/散點圖/Win Loss圖等，而且能實現更高級的功能，包括透視表（類似於BI的多維分析模型Cube），以及Vlookup等復雜函數，處理100萬條以內的數據沒有大問題。最後，很多更高級的工具都有Excel插件，例如一些AI Machine Learning的開發工具。
2. SQL（資料庫）

我們都知道數據分析師每天都會處理海量的數據，這些數據來源於資料庫，那麼怎麼從資料庫取數據？如何建立兩表、三表之間的關系？怎麼取到自己想要的特定的數據？等等這些數據選擇問題就是你首要考慮的問題，而這些問題都是通過SQL解決的，所以SQL是數據分析的最基礎的技能。
3. 統計學基礎
數據分析的前提要對數據有感知，數據如何收集？數據整體分布是怎樣的？如果有時間維度的話隨著時間的變化是怎樣的？數據的平均值是什麼？數據的最大值最小值指什麼？數據相關與回歸、時間序列分析和預測等等。
4、掌握可視化工具，比如BI，如Cognos/Tableau/FineBI等，具體看企業用什麼工具，像我之前用的是FineBI。這些工具做可視化非常方便，特別是分析報告能含這些圖，一定會吸引高層領導的眼球，一目瞭然了解，洞察業務的本質。另外，作為專業的分析師，用多維分析模型Cube能夠方便地自定義報表，效率大大提升。
進階階段需要掌握的：

1、系統的學好統計學
純粹的機器學習講究演算法預測能力和實現，但是統計一直就強調「可解釋性」。比如說，針對今天微博股票發行就上升20%，你把你的兩個預測股票上漲還是下跌的model套在新浪的例子上，然後給你的上司看。統計學就是這樣的作用。
數據挖掘相關的統計方法（多元Logistic回歸分析、非線性回歸分析、判別分析等）
定量方法（時間軸分析、概率模型、優化）
決策分析（多目的決策分析、決策樹、影響圖、敏感性分析）
樹立競爭優勢的分析（通過項目和成功案例學習基本的分析理念）
資料庫入門（數據模型、資料庫設計）
預測分析（時間軸分析、主成分分析、非參數回歸、統計流程式控制制）
數據管理（ETL（Extract、Transform、Load）、數據治理、管理責任、元數據）
優化與啟發（整數計劃法、非線性計劃法、局部探索法、超啟發（模擬退火、遺傳演算法））
大數據分析（非結構化數據概念的學習、MapRece技術、大數據分析方法）
數據挖掘（聚類（k-means法、分割法）、關聯性規則、因子分析、存活時間分析）
其他，以下任選兩門（社交網路、文本分析、Web分析、財務分析、服務業中的分析、能源、健康醫療、供應鏈管理、綜合營銷溝通中的概率模型）
風險分析與運營分析的計算機模擬
軟體層面的分析學（組織層面的分析課題、IT與業務用戶、變革管理、數據課題、結果的展現與傳達方法）
2、掌握AI Machine Learning演算法，會用工具（比如Python/R）進行建模。
傳統的BI分析能回答過去發生了什麼？現在正在發生什麼？但對於未來會發生什麼？必須靠演算法。雖然像Tableau、FineBI等自助式BI已經內置了一部分分析模型，但是分析師想要更全面更深度的探索，需要像Python/R的數據挖掘工具。另外大數據之間隱藏的關系，靠傳統工具人工分析是不可能做到的，這時候交由演算法去實現，無疑會有更多的驚喜。
其中，面向統計分析的開源編程語言及其運行環境「R」備受矚目。R的強項不僅在於其包含了豐富的統計分析庫，而且具備將結果進行可視化的高品質圖表生成功能，並可以通過簡單的命令來運行。此外，它還具備稱為CRAN（The Comprehensive R Archive Network）的包擴展機制，通過導入擴展包就可以使用標准狀態下所不支持的函數和數據集。R語言雖然功能強大，但是學習曲線較為陡峭，個人建議從python入手，擁有豐富的statistical libraries，NumPy ，SciPy.org ，Python Data Analysis Library，matplotlib: python plotting。
以上我的回答希望對你有所幫助