pythontox
A. 為什麼說python是大數據全棧式開發語言
就像只要會JavaScript就可以寫出完整的Web應用，只要會Python，就可以實現一個完整的大數據處理平台。
雲基礎設施
這年頭，不支持雲平台，不支持海量數據，不支持動態伸縮，根本不敢說自己是做大數據的，頂多也就敢跟人說是做商業智能（BI）。
雲平台分為私有雲和公有雲。私有雲平台如日中天的 OpenStack
，就是Python寫的。曾經的追趕者CloudStack，在剛推出時大肆強調自己是Java寫的，比Python有優勢。結果，搬石砸腳，2015年
初，CloudStack的發起人Citrix宣布加入OpenStack基金會，CloudStack眼看著就要壽終正寢。
如果嫌麻煩不想自己搭建私有雲，用公有雲，不論是AWS，GCE，Azure，還是阿里雲，青雲，在都提供了Python SDK，其中GCE只提供Python和JavaScript的SDK，而青雲只提供Python SDK。可見各家雲平台對Python的重視。
提到基礎設施搭建，不得不提Hadoop，在今天，Hadoop因為其MapRece數據處理速度不夠快，已經不再作為大數據處理的首選，但
是HDFS和Yarn——Hadoop的兩個組件——倒是越來越受歡迎。Hadoop的開發語言是Java，沒有官方提供Python支持，不過有很多第
三方庫封裝了Hadoop的API介面（pydoop，hadoopy等等）。
Hadoop MapRece的替代者，是號稱快上100倍的 Spark ，其開發語言是Scala，但是提供了Scala，Java，Python的開發介面，想要討好那麼多用Python開發的數據科學家，不支持Python，真是說不過去。HDFS的替代品，比如GlusterFS， Ceph 等，都是直接提供Python支持。Yarn的替代者， Mesos 是C++實現，除C++外，提供了Java和Python的支持包。
DevOps
DevOps有個中文名字，叫做 開發自運維 。互聯網時代，只有能夠快速試驗新想法，並在第一時間，安全、可靠的交付業務價值，才能保持競爭力。DevOps推崇的自動化構建/測試/部署，以及系統度量等技術實踐，是互聯網時代必不可少的。
自動化構建是因應用而易的，如果是Python應用，因為有setuptools, pip, virtualenv, tox,
flake8等工具的存在，自動化構建非常簡單。而且，因為幾乎所有Linux系統都內置Python解釋器，所以用Python做自動化，不需要系統預
安裝什麼軟體。
自動化測試方面，基於Python的 Robot Framework 企業級應用最喜歡的自動化測試框架，而且和語言無關。Cucumber也有很多支持者，Python對應的Lettuce可以做到完全一樣的事情。 Locust 在自動化性能測試方面也開始受到越來越多的關注。
自動化配置管理工具，老牌的如Chef和Puppet，是Ruby開發，目前仍保持著強勁的勢頭。不過，新生代 Ansible 和 SaltStack ——均為Python開發——因為較前兩者設計更為輕量化，受到越來越多開發這的歡迎，已經開始給前輩們製造了不少的壓力。
在系統監控與度量方面，傳統的Nagios逐漸沒落，新貴如 Sensu 大受好評，雲服務形式的New Relic已經成為創業公司的標配，這些都不是直接通過Python實現的，不過Python要接入這些工具，並不困難。
除了上述這些工具，基於Python，提供完整DevOps功能的PaaS平台，如 Cloudify 和 Deis ，雖未成氣候，但已經得到大量關注。
網路爬蟲
大數據的數據從哪裡來？除了部分企業有能力自己產生大量的數據，大部分時候，是需要靠爬蟲來抓取互聯網數據來做分析。
網路爬蟲是Python的傳統強勢領域，最流行的爬蟲框架Scrapy，HTTP工具包urlib2，HTML解析工具beautifulsoup，XML解析器lxml，等等，都是能夠獨當一面的類庫。
不過，網路爬蟲並不僅僅是打開網頁，解析HTML這么簡單。高效的爬蟲要能夠支持大量靈活的並發操作，常常要能夠同時幾千甚至上萬個網頁同時抓取，傳統的
線程池方式資源浪費比較大，線程數上千之後系統資源基本上就全浪費在線程調度上了。Python由於能夠很好的支持協程（ Coroutine ）操作，基於此發展起來很多並發庫，如Gevent，Eventlet，還有Celery之類的分布式任務框架。被認為是比AMQP更高效的ZeroMQ也是最早就提供了Python版本。有了對高並發的支持，網路爬蟲才真正可以達到大數據規模。
抓取下來的數據，需要做分詞處理，Python在這方面也不遜色，著名的自然語言處理程序包NLTK，還有專門做中文分詞的Jieba，都是做分詞的利器。
數據處理
萬事俱備，只欠東風。這東風，就是數據處理演算法。從統計理論，到數據挖掘，機器學習，再到最近幾年提出來的深度學習理論，數據科學正處於百花齊放的時代。數據科學家們都用什麼編程？
如果是在理論研究領域，R語言也許是最受數據科學家歡迎的，但是R語言的問題也很明顯，因為是統計學家們創建了R語言，所以其語法略顯怪異。而且
R語言要想實現大規模分布式系統，還需要很長一段時間的工程之路要走。所以很多公司使用R語言做原型試驗，演算法確定之後，再翻譯成工程語言。
Python也是數據科學家最喜歡的語言之一。和R語言不同，Python本身就是一門工程性語言，數據科學家用Python實現的演算法，可以直
接用在產品中，這對於大數據初創公司節省成本是非常有幫助的。正式因為數據科學家對Python和R的熱愛，Spark為了討好數據科學家，對這兩種語言
提供了非常好的支持。
Python的數據處理相關類庫非常多。高性能的科學計算類庫NumPy和SciPy，給其他高級演算法打了非常好的基礎，matploglib讓
Python畫圖變得像Matlab一樣簡單。Scikit-learn和Milk實現了很多機器學習演算法，基於這兩個庫實現的 Pylearn2 ，是深度學習領域的重要成員。 Theano 利用GPU加速，實現了高性能數學符號計算和多維矩陣計算。當然，還有 Pandas ，一個在工程領域已經廣泛使用的大數據處理類庫，其DataFrame的設計借鑒自R語言，後來又啟發了Spark項目實現了類似機制。
對了，還有 iPython ，這個工具如此有用，以至於我差點把他當成標准庫而忘了介紹。iPython是一個互動式Python運行環境，能夠實時看到每一段Python代碼的結果。默認情況下，iPython運行在命令行，可以執行 ipython notebook 在網頁中運行。用matplotlib繪制的圖可以直接嵌入式的顯示在iPython Notebook中。
iPython Notebook的筆記本文件可以共享給其他人，這樣其他人就可以在自己的環境中重現你的工作成果；如果對方沒有運行環境，還可以直接轉換成HTML或者PDF。
為什麼是Python
正是因為應用開發工程師、運維工程師、數據科學家都喜歡Python，才使得Python成為大數據系統的全棧式開發語言。
對於開發工程師而言，Python的優雅和簡潔無疑是最大的吸引力，在Python互動式環境中，執行 import this
，讀一讀Python之禪，你就明白Python為什麼如此吸引人。Python社區一直非常有活力，和NodeJS社區軟體包爆炸式增長不
同，Python的軟體包增長速度一直比較穩定，同時軟體包的質量也相對較高。有很多人詬病Python對於空格的要求過於苛刻，但正是因為這個要求，才
使得Python在做大型項目時比其他語言有優勢。OpenStack項目總共超過200萬行代碼，證明了這一點。
對於運維工程師而言，Python的最大優勢在於，幾乎所有Linux發行版都內置了Python解釋器。Shell雖然功能強大，但畢竟語法不夠優雅，寫比較復雜的任務會很痛苦。用Python替代Shell，做一些復雜的任務，對運維人員來說，是一次解放。
對於數據科學家而言，Python簡單又不失強大。和C/C++相比，不用做很多的底層工作，可以快速進行模型驗證；和Java相比，Python語法簡
潔，表達能力強，同樣的工作只需要1/3代碼；和Matlab，Octave相比，Python的工程成熟度更高。不止一個編程大牛表達過，Python
是最適合作為大學計算機科學編程課程使用的語言——MIT的計算機入門課程就是使用的Python——因為Python能夠讓人學到編程最重要的東西——
如何解決問題。
B. 為什麼說Python是大數據全棧式開發語言
就像只要會JavaScript就可以寫出完整的Web應用，只要會Python，就可以實現一個完整的大數據處理平台。x0dx0ax0dx0a雲基礎設施x0dx0ax0dx0a這年頭，不支持雲平台，不支持海量數據，不支持動態伸縮，根本不敢說自己是做大數據的，頂多也就敢跟人說是做商業智能（BI）。x0dx0ax0dx0a雲平台分為私有雲和公有雲。私有雲平台如日中天的 OpenStackx0dx0a x0dx0a，就是Python寫的。曾經的追趕者CloudStack，在剛推出時大肆強調自己是Java寫的，比Python有優勢。結果，搬石砸腳，2015年x0dx0a初，CloudStack的發起人Citrix宣布加入OpenStack基金會，CloudStack眼看著就要壽終正寢。x0dx0ax0dx0a如果嫌麻煩不想自己搭建私有雲，用公有雲，不論是AWS，GCE，Azure，還是阿里雲，青雲，在都提供了Python SDK，其中GCE只提供Python和JavaScript的SDK，而青雲只提供Python SDK。可見各家雲平台對Python的重視。x0dx0ax0dx0a提到基礎設施搭建，不得不提Hadoop，在今天，Hadoop因為其MapRece數據處理速度不夠快，已經不再作為大數據處理的首選，但x0dx0a是HDFS和Yarn——Hadoop的兩個組件——倒是越來越受歡迎。Hadoop的開發語言是Java，沒有官方提供Python支持，不過有很多第x0dx0a三方庫封裝了Hadoop的API介面（pydoop，hadoopy等等）。x0dx0ax0dx0aHadoop MapRece的替代者，是號稱快上100倍的 Spark ，其開發語言是Scala，但是提供了Scala，Java，Python的開發介面，想要討好那麼多用Python開發的數據科學家，不支持Python，真是說不過去。HDFS的替代品，比如GlusterFS， Ceph 等，都是直接提供Python支持。Yarn的替代者， Mesos 是C++實現，除C++外，提供了Java和Python的支持包。有個中文名字，叫做 開發自運維 。互聯網時代，只有能夠快速試驗新想法，並在第一時間，安全、可靠的交付業務價值，才能保持競爭力。DevOps推崇的自動化構建/測試/部署，以及系統度量等技術實踐，是互聯網時代必不可少的。x0dx0ax0dx0a自動化構建是因應用而易的，如果是Python應用，因為有setuptools, pip, virtualenv, tox, x0dx0aflake8等工具的存在，自動化構建非常簡單。而且，因為幾乎所有Linux系統都內置Python解釋器，所以用Python做自動化，不需要系統預x0dx0a安裝什麼軟體。x0dx0ax0dx0a自動化測試方面，基於Python的 Robot Framework 企業級應用最喜歡的自動化測試框架，而且和語言無關。Cucumber也有很多支持者，Python對應的Lettuce可以做到完全一樣的事情。 Locust 在自動化性能測試方面也開始受到越來越多的關注。x0dx0ax0dx0a自動化配置管理工具，老牌的如Chef和Puppet，是Ruby開發，目前仍保持著強勁的勢頭。不過，新生代 Ansible 和 SaltStack ——均為Python開發——因為較前兩者設計更為輕量化，受到越來越多開發這的歡迎，已經開始給前輩們製造了不少的壓力。x0dx0ax0dx0a在系統監控與度量方面，傳統的Nagios逐漸沒落，新貴如 Sensu 大受好評，雲服務形式的New Relic已經成為創業公司的標配，這些都不是直接通過Python實現的，不過Python要接入這些工具，並不困難。x0dx0ax0dx0a除了上述這些工具，基於Python，提供完整DevOps功能的PaaS平台，如 Cloudify 和 Deis ，雖未成氣候，但已經得到大量關注。x0dx0ax0dx0a網路爬蟲x0dx0ax0dx0a大數據的數據從哪裡來？除了部分企業有能力自己產生大量的數據，大部分時候，是需要靠爬蟲來抓取互聯網數據來做分析。x0dx0ax0dx0a網路爬蟲是Python的傳統強勢領域，最流行的爬蟲框架Scrapy，HTTP工具包urlib2，HTML解析工具beautifulsoup，XML解析器lxml，等等，都是能夠獨當一面的類庫。x0dx0ax0dx0a不過，網路爬蟲並不僅僅是打開網頁，解析HTML這么簡單。高效的爬蟲要能夠支持大量靈活的並發操作，常常要能夠同時幾千甚至上萬個網頁同時抓取，傳統的x0dx0a線程池方式資源浪費比較大，線程數上千之後系統資源基本上就全浪費在線程調度上了。Python由於能夠很好的支持協程（ Coroutine ）操作，基於此發展起來很多並發庫，如Gevent，Eventlet，還有Celery之類的分布式任務框架。被認為是比AMQP更高效的ZeroMQ也是最早就提供了Python版本。有了對高並發的支持，網路爬蟲才真正可以達到大數據規模。x0dx0ax0dx0a抓取下來的數據，需要做分詞處理，Python在這方面也不遜色，著名的自然語言處理程序包NLTK，還有專門做中文分詞的Jieba，都是做分詞的利器。x0dx0ax0dx0a數據處理x0dx0ax0dx0a萬事俱備，只欠東風。這東風，就是數據處理演算法。從統計理論，到數據挖掘，機器學習，再到最近幾年提出來的深度學習理論，數據科學正處於百花齊放的時代。數據科學家們都用什麼編程？x0dx0ax0dx0a如果是在理論研究領域，R語言也許是最受數據科學家歡迎的，但是R語言的問題也很明顯，因為是統計學家們創建了R語言，所以其語法略顯怪異。而且x0dx0aR語言要想實現大規模分布式系統，還需要很長一段時間的工程之路要走。所以很多公司使用R語言做原型試驗，演算法確定之後，再翻譯成工程語言。x0dx0ax0dx0aPython也是數據科學家最喜歡的語言之一。和R語言不同，Python本身就是一門工程性語言，數據科學家用Python實現的演算法，可以直x0dx0a接用在產品中，這對於大數據初創公司節省成本是非常有幫助的。正式因為數據科學家對Python和R的熱愛，Spark為了討好數據科學家，對這兩種語言x0dx0a提供了非常好的支持。x0dx0ax0dx0aPython的數據處理相關類庫非常多。高性能的科學計算類庫NumPy和SciPy，給其他高級演算法打了非常好的基礎，matploglib讓x0dx0aPython畫圖變得像Matlab一樣簡單。Scikit-learn和Milk實現了很多機器學習演算法，基於這兩個庫實現的 Pylearn2 ，是深度學習領域的重要成員。 Theano 利用GPU加速，實現了高性能數學符號計算和多維矩陣計算。當然，還有 Pandas ，一個在工程領域已經廣泛使用的大數據處理類庫，其DataFrame的設計借鑒自R語言，後來又啟發了Spark項目實現了類似機制。x0dx0ax0dx0a對了，還有 iPython ，這個工具如此有用，以至於我差點把他當成標准庫而忘了介紹。iPython是一個互動式Python運行環境，能夠實時看到每一段Python代碼的結果。默認情況下，iPython運行在命令行，可以執行 ipython notebook 在網頁中運行。用matplotlib繪制的圖可以直接嵌入式的顯示在iPython Notebook中。x0dx0a x0dx0aiPython Notebook的筆記本文件可以共享給其他人，這樣其他人就可以在自己的環境中重現你的工作成果；如果對方沒有運行環境，還可以直接轉換成HTML或者PDF。x0dx0ax0dx0a為什麼是Pythonx0dx0ax0dx0a正是因為應用開發工程師、運維工程師、數據科學家都喜歡Python，才使得Python成為大數據系統的全棧式開發語言。x0dx0ax0dx0a對於開發工程師而言，Python的優雅和簡潔無疑是最大的吸引力，在Python互動式環境中，執行 import thisx0dx0a x0dx0a，讀一讀Python之禪，你就明白Python為什麼如此吸引人。Python社區一直非常有活力，和NodeJS社區軟體包爆炸式增長不x0dx0a同，Python的軟體包增長速度一直比較穩定，同時軟體包的質量也相對較高。有很多人詬病Python對於空格的要求過於苛刻，但正是因為這個要求，才x0dx0a使得Python在做大型項目時比其他語言有優勢。OpenStack項目總共超過200萬行代碼，證明了這一點。x0dx0ax0dx0a對於運維工程師而言，Python的最大優勢在於，幾乎所有Linux發行版都內置了Python解釋器。Shell雖然功能強大，但畢竟語法不夠優雅，寫比較復雜的任務會很痛苦。用Python替代Shell，做一些復雜的任務，對運維人員來說，是一次解放。x0dx0ax0dx0a對於數據科學家而言，Python簡單又不失強大。和C/C++相比，不用做很多的底層工作，可以快速進行模型驗證；和Java相比，Python語法簡x0dx0a潔，表達能力強，同樣的工作只需要1/3代碼；和Matlab，Octave相比，Python的工程成熟度更高。不止一個編程大牛表達過，Pythonx0dx0a是最適合作為大學計算機科學編程課程使用的語言——MIT的計算機入門課程就是使用的Python——因為Python能夠讓人學到編程最重要的東西——x0dx0a如何解決問題。
C. Python自動化測試框架有哪些
自動化測試常用的Python框架有哪些？常用的框架有Robot Framework、Pytest、UnitTest/PyUnit、Behave、Lettuce。Pytest、Robot Framework和UnitTest主要用於功能與單元測試，Lettuce和Behave僅適用於行為驅動測試。
一、Robot Framework
Python測試框架之一，Robot Framework被用在測試驅動(test-driven)類型的開發與驗收中。雖然是由Python開發而來，但是它也可以在基於.Net的IronPython和基於Java的Jython上運行。作為一個Python框架，Robot還能夠兼容諸如Windows、MacOS、以及Linux等平台。
在使用Robot Framework(RF)之前，需要先安裝Python 2.7.14及以上的版本。推薦使用Python 3.6.4，以確保適當的注釋能夠被添加到代碼段中，並能夠跟蹤程序的更改。同時還需要安裝Python包管理器--pip。
二、Pytest
適用於多種軟體測試的Pytest，是另一個Python類型的自動化測試框架。憑借著其開源和易學的特點，該工具經常被QA(質量分析)團隊、開發團隊、個人團隊、以及各種開源項目所使用。鑒於Pytest具有「斷言重寫(assert rewriting)」之類的實用功能，許多大型互聯網應用，如Dropbox和Mozilla，都已經從下面將要提到的unittest(Pyunit)切換到了Pytest之上。
除了基本的Python知識，用戶並不需要更多的技術儲備。另外，用戶只需要有一台帶有命令行界面的測試設備，並且安裝好了Python包管理器、以及可用於開發的IDE工具。
三、UnitTest/PyUnit
UnitTest/PyUnit一種標准化的針對單元測試的Python類自動化測試框架。基類TestCase提供了各種斷言方法、以及所有清理和設置的常式。因此，TestCase子類中的每一種方法都是以「test」作為名詞前綴，以標識它們能夠被作為測試用例所運行。用戶可以使用load方法和TestSuite類來分組、並載入各種測試。
可以通過聯合使用，來構建自定義的測試運行器。正如我們使用Junit去測試Selenium那樣，UnitTest也會用到UnitTest-sml-reporting、並能生成各種XML類型的報告。由於UnitTest默認使用了Python，因此我們並不需要什麼先決條件。除了需要具備Python框架的基本知識，您也可以額外地安裝pip、以及用於開發的IDE工具。
四、Behave
行為驅動開發是一種基於敏捷軟體開發的方法。它能夠鼓勵開發人員、業務參與者和QA人員，三者之間的協作。Python測試框架Behave允許團隊避開各種復雜的情況，去執行BDD測試。從本質上說該框架與SpecFlow和Cucumber相似，常被用於執行自動化測試。用戶可以通過簡單易讀的語言來編寫測試用例，並能夠在其執行期間粘貼到代碼之中。而且，那些被設定的行為規范與步驟，也可以被重用到其他的測試方案中。
任何具備Python基礎知識的人都可以使用Behave。其他先決條件還包括：先安裝Python 2.7.14及以上的版本。通過Python包管理器或pip來與Behave協作。大多數開發人員會選擇Pycharm作為開發環境，當然您也可以選用其他的IDE工具。
五、Lettuce
Lettuce是另一種基於Cucumber和Python的行為驅動類自動化工具。Lettuce主要專注於那些具有行為驅動開發特徵的普通任務。它不但簡單易用，而且能夠使得整個測試過程更流暢、甚至更有趣。安裝帶有IDE的Python 2.7.14、及以上的版本。當然，您也可以使用Pycharm或任何其他IDE工具。同時，您還需要安裝Python包管理器。
D. 我為什麼說 Python 是大數據全棧式開發語言 怎樣成為數據分析師
就像只要會JavaScript就可以寫出完整的Web應用，只要會Python，就可以實現一個完整的大數據處理平台。
雲基礎設施
這年頭，不支持雲平台，不支持海量數據，不支持動態伸縮，根本不敢說自己是做大數據的，頂多也就敢跟人說是做商業智能（BI）。
雲平台分為私有雲和公有雲。私有雲平台如日中天的 OpenStack
，就是Python寫的。曾經的追趕者CloudStack，在剛推出時大肆強調自己是Java寫的，比Python有優勢。結果，搬石砸腳，2015年
初，CloudStack的發起人Citrix宣布加入OpenStack基金會，CloudStack眼看著就要壽終正寢。
如果嫌麻煩不想自己搭建私有雲，用公有雲，不論是AWS，GCE，Azure，還是阿里雲，青雲，在都提供了Python SDK，其中GCE只提供Python和JavaScript的SDK，而青雲只提供Python SDK。可見各家雲平台對Python的重視。
提到基礎設施搭建，不得不提Hadoop，在今天，Hadoop因為其MapRece數據處理速度不夠快，已經不再作為大數據處理的首選，但
是HDFS和Yarn——Hadoop的兩個組件——倒是越來越受歡迎。Hadoop的開發語言是Java，沒有官方提供Python支持，不過有很多第
三方庫封裝了Hadoop的API介面（pydoop，hadoopy等等）。
Hadoop MapRece的襲蘆替代者，是號稱快上100倍的 Spark ，其開發語言是Scala，但是提供了Scala，Java，Python的開發介面，想要討好那麼多用Python開發的數據科學家，不支持Python，真是說不過去。HDFS的替代品，比如GlusterFS， Ceph 等，都是直接提供Python支持。Yarn的替代者， Mesos 是C++實現，除C++外，提供了Java和Python的支持包。
DevOps
DevOps有個中文名字，叫做 開發自運維 。互聯網時代，只有能夠快速試驗新想法，並在第一時間，安全、可靠的交付業務價值，才能保持競爭力。DevOps推崇的自動化構建/測試/部署，以及系統度量等技術實踐，是互聯網時代必不可少的。
自動化構建是因應用而易的，如果是Python應用，因為有setuptools, pip, virtualenv, tox,
flake8等工具的存在，自動化構建非常簡單。而且，因為幾乎所有Linux系統都內置Python解釋器，所以用Python做自動化，不需要系統預
安裝什麼軟體。
自動化測試方面，基於Python的 Robot Framework 企業級應用最喜歡的自動化測試框架，而且和語言無關。Cucumber也有很多支持者，Python對應的Lettuce可以做到完全一樣的事情。 Locust 在自動化性能測試方面也開始受到越來越多的關注。
自動化配置管理工具，老牌的如Chef和Puppet，是Ruby開發，目前仍保持著強勁的勢頭拍肢帶。不過，新生代 Ansible 和 SaltStack ——均為Python開發——因為較前兩者設計更為輕量化，受到越來越多開發這的歡迎，已經開始給前輩們製造了不少的壓力。
在系統監控與度量方面，傳統的Nagios逐漸沒落，新貴如 Sensu 大受好評，雲服務形式的New Relic已經成為創業公司的標配，這些都不是直接通過Python實現的，不過Python要接入這些工具，並不困難。
除了上述這些工具，基於Python，提供完整DevOps功能的PaaS平台，如 Cloudify 和 Deis ，雖未成氣候，但已經得到大量關注。
網路爬蟲
大數據的數據從哪裡來？除了部分企業有能力自己產生大量的數據，大部分時候，是需要靠爬蟲來抓取互聯網數據來做分析。
網路爬蟲是Python的傳統強勢領域，最流行的爬蟲框架Scrapy，HTTP工具包urlib2，HTML解析工具beautifulsoup，XML解析器lxml，等等，都是能夠獨當一面的類庫。
不過，網路爬蟲並飢碧不僅僅是打開網頁，解析HTML這么簡單。高效的爬蟲要能夠支持大量靈活的並發操作，常常要能夠同時幾千甚至上萬個網頁同時抓取，傳統的
線程池方式資源浪費比較大，線程數上千之後系統資源基本上就全浪費在線程調度上了。Python由於能夠很好的支持協程（ Coroutine ）操作，基於此發展起來很多並發庫，如Gevent，Eventlet，還有Celery之類的分布式任務框架。被認為是比AMQP更高效的ZeroMQ也是最早就提供了Python版本。有了對高並發的支持，網路爬蟲才真正可以達到大數據規模。
抓取下來的數據，需要做分詞處理，Python在這方面也不遜色，著名的自然語言處理程序包NLTK，還有專門做中文分詞的Jieba，都是做分詞的利器。
數據處理
萬事俱備，只欠東風。這東風，就是數據處理演算法。從統計理論，到數據挖掘，機器學習，再到最近幾年提出來的深度學習理論，數據科學正處於百花齊放的時代。數據科學家們都用什麼編程？
如果是在理論研究領域，R語言也許是最受數據科學家歡迎的，但是R語言的問題也很明顯，因為是統計學家們創建了R語言，所以其語法略顯怪異。而且
R語言要想實現大規模分布式系統，還需要很長一段時間的工程之路要走。所以很多公司使用R語言做原型試驗，演算法確定之後，再翻譯成工程語言。
Python也是數據科學家最喜歡的語言之一。和R語言不同，Python本身就是一門工程性語言，數據科學家用Python實現的演算法，可以直
接用在產品中，這對於大數據初創公司節省成本是非常有幫助的。正式因為數據科學家對Python和R的熱愛，Spark為了討好數據科學家，對這兩種語言
提供了非常好的支持。
Python的數據處理相關類庫非常多。高性能的科學計算類庫NumPy和SciPy，給其他高級演算法打了非常好的基礎，matploglib讓
Python畫圖變得像Matlab一樣簡單。Scikit-learn和Milk實現了很多機器學習演算法，基於這兩個庫實現的 Pylearn2 ，是深度學習領域的重要成員。 Theano 利用GPU加速，實現了高性能數學符號計算和多維矩陣計算。當然，還有 Pandas ，一個在工程領域已經廣泛使用的大數據處理類庫，其DataFrame的設計借鑒自R語言，後來又啟發了Spark項目實現了類似機制。
對了，還有 iPython ，這個工具如此有用，以至於我差點把他當成標准庫而忘了介紹。iPython是一個互動式Python運行環境，能夠實時看到每一段Python代碼的結果。默認情況下，iPython運行在命令行，可以執行 ipython notebook 在網頁中運行。用matplotlib繪制的圖可以直接嵌入式的顯示在iPython Notebook中。
iPython Notebook的筆記本文件可以共享給其他人，這樣其他人就可以在自己的環境中重現你的工作成果；如果對方沒有運行環境，還可以直接轉換成HTML或者PDF。
為什麼是Python
正是因為應用開發工程師、運維工程師、數據科學家都喜歡Python，才使得Python成為大數據系統的全棧式開發語言。
對於開發工程師而言，Python的優雅和簡潔無疑是最大的吸引力，在Python互動式環境中，執行 import this
，讀一讀Python之禪，你就明白Python為什麼如此吸引人。Python社區一直非常有活力，和NodeJS社區軟體包爆炸式增長不
同，Python的軟體包增長速度一直比較穩定，同時軟體包的質量也相對較高。有很多人詬病Python對於空格的要求過於苛刻，但正是因為這個要求，才
使得Python在做大型項目時比其他語言有優勢。OpenStack項目總共超過200萬行代碼，證明了這一點。
對於運維工程師而言，Python的最大優勢在於，幾乎所有Linux發行版都內置了Python解釋器。Shell雖然功能強大，但畢竟語法不夠優雅，寫比較復雜的任務會很痛苦。用Python替代Shell，做一些復雜的任務，對運維人員來說，是一次解放。
對於數據科學家而言，Python簡單又不失強大。和C/C++相比，不用做很多的底層工作，可以快速進行模型驗證；和Java相比，Python語法簡
潔，表達能力強，同樣的工作只需要1/3代碼；和Matlab，Octave相比，Python的工程成熟度更高。不止一個編程大牛表達過，Python
是最適合作為大學計算機科學編程課程使用的語言——MIT的計算機入門課程就是使用的Python——因為Python能夠讓人學到編程最重要的東西——
如何解決問題。
E. Python自動化測試框架有哪些
1、Pytest
適用於多種軟體測試的Pytest，是另一個Python類型的自動化測試框架。憑借著其開源和易學的特點，該工具經常被QA團隊、開發團隊、個人團隊以及各種開源項目所使用。鑒於Pytest具有斷言重寫之類的實用功能，許多大型互聯網應用，如Dropbox和Mozilla，都已經從下面將要提到的unittest切換到Pytest之上。
2、Robot Framework
作為重要的Python測試框架之一，Robot
Framework主要被用在測試驅動類型的開發與驗收中。雖然是由Python開發而來，但是它也可以在基於.net的IronPython和基於段兄Java的Jython上運行。同時，作為一個Python框架，Robot還能夠兼容諸如Windows、MacOS、以及Linux等平台。
3、UnitTest/PyUnit
受到了JUnit啟發的UnitTest/PyUnit，也是一種標准化的針對單元測試的Python類自動化測試框架。它的基類TestCase提供了各種斷言方法、以及所有清理和設置的常式。因此，TestCase子類中的每一種方法都是以test作為名詞前綴，以標識它們能夠握蔽襲被作為測試用例所運行。用戶可以使用load方法和TestSuite類來分組、並載入各種測試。當然，您也可以通過聯合使用，來構建自定義的測試運行器。正如我們使用Junit去測試selenium那樣，UnitTest也會用到UnitTest-sml-reporting、並能生成各種xml類型的報告。
4、Behave
我們都知道：行為驅動開發，是一種基於敏捷軟體開發的方法。它能夠鼓勵開發人員、業務參與者和QA人員，三者之間的協作。作為另一種Python測試框架，Behave允許團隊避開各種復雜的情況，去執行BDD測試。從本質上說，該框架與SpecFlow和Cucumber非常相似，常被用於執行自動化測試。用戶可以通過簡單易讀的語言來編寫測試用例，並能夠在其執行期間粘貼到代碼之中。而且，那些被設定的行為規范與步驟，也可以被重用到其他的測試方案中。
5、Lettuce
Lettuce是另一種基於Cucumber和Python的行為並衫驅動類自動化工具。Lettuce主要專注於那些具有行為驅動開發特徵的普通任務。它不但簡單易用，而且能夠使得整個測試過程更流暢、甚至更有趣。