雲伺服器訓練深度網路
1. 推薦一款適合深度學習訓練的伺服器
思騰合力深思系列在這方面還挺不錯的
2. 有哪些可以用於深度學習的雲計算服務平台
雲計算 （cloud computing）是基於互聯網的相關服務的增加、使用和交付模式，通常涉及通過互聯網來提供動態易擴展且經常是虛擬化的資源。雲是網路、互聯網的一種比喻說法。過去在圖中往往用雲來表示電信網，後來也用來表示互聯網和底層基礎設施的抽象騰訊。因此，雲計算甚至可以讓你體驗每秒10萬億次的運算能力，擁有這么強大的計算能力可以模擬核眾創爆炸、預測氣候變化和市場發展趨勢。用戶通過電腦、筆記本、手機等方式接入數據中心，按自己的需求進行運算。 對雲計算的定義有多種說法。對於到底什麼是雲計算空間，至少可以找到100種解釋。 現階段廣為接受的是美國國家標准與技術研究院（NIST）定義：雲計算是一種按使用量付費的模式，這種模式提供可用的、便捷的、按需的網路訪問， 進入可配置的計算資源共享池（資源包括網路，伺服器，存儲，應用軟體，服務），這些資源能夠被快速提供，只需投入很少的管理工作，或與服務供應商進行很少的交互。
3. 哪家服務商GPU更適合深度學習領域
現在基本上都會選擇雲服務讓電腦上雲，租用雲伺服器的方式來完成深度學習領域需要的高配電腦服務。
總體而言，NVIDIA目前最適合深度學習的GPU是RTX3080和RTX3090。RTX系列顯卡對於深度學習來說最大的優勢在於專為神經網路設計的運算單元——Tensor Core（張量核心），而RTX30系列性能的提升是上一代產品圖靈架構的2倍。
根據測評參數，NVIDIA旗艦顯卡RTX3080擁有8704個CUDA核心，272個TMU，88個ROP，以及68個SM。Tensor Core數量達到544個，RT Core為136個。
其中，被稱為GPU「猛獸」的RTX 3090 使用代號為 GA102 的核心，和前代泰坦一樣擁有 24G 顯存，但型號升級為 DDR6X（鎂光提供），顯存速度 19.5Gbps，384bit 位寬，擁有 10496 個等效 CUDA 核心，相比 GeForce RTX 2080 Ti，3090 的核心數量增加一倍不止。
不過，自2020年9月上市以來，RTX3080和RTX3090一直處於一卡難求的狀態，市場價更是漲了7倍，而供貨商甚至無法預測具體的供貨時間。
對於企業和實驗室的科研人員而言，要在預算范圍內購買最新的GPU，特別是RTX3080和RTX3090這類旗艦顯卡難以實現；進行整機配置時，需要考慮多個因素，比如電源、機箱體積，主板的PCle卡槽等，這時候，雲電腦在GPU算力上的選擇則更為靈活和方便。
4. 如何通過雲進行伺服器整合
在國內,伺服器整合已經有很多成功的應用案例。隨著雲計算和虛擬化步伐的日益加速,更多尚未進行伺服器整合的客戶也逐漸開始關注這一基礎架構解決方案。和全球許多企業的IT部門一樣,國內的IT應用也經歷過一段伺服器硬體設備的高速擴張期。特別是在2005年左右,隨著單位計算價格大幅下降,以及伺服器供應商的同質化價格競爭,使得伺服器采購價格變得極為低廉。而且由於國內許多企業的財務模式,為每個部門的每個應用建立獨立的系統是非常常見的事情。從2007年開始,我們就不斷發現IT硬體支出在整個IT開銷中所佔比率日益減少,而機房資源,能耗等隱性成本迅速遞增。計算資源可以帶來的優勢是不言而喻的,除了可以消除上述隱性成本外,對國內用戶而言,很重要的一點是可以更加迅速地面對多變的商業環境。原來的系統建設模式一般是內部預算申請、立項、采購、到貨、安裝、測試、上線.一般都會延續3個月甚至更長的時間。而如何可以實現完全的資源池化,更易於整個系統資源的監控、預測和調配,以及減少那些次要應用所佔的計算資源,釋放出更多的處理能力。同時,如果每台伺服器的資源需求峰值不在同一時刻發生,還可以進行錯峰整合。比如一些財務系統一般僅在月末有大交易量發生,可以在這時降低其它不是核心應用的響應速度。在伺服器虛擬化方式上,有橫向和縱向兩種模式。我們目前更多地關注於橫向擴展模式,即將大量小型伺服器整合在一個計算池中,按需分配資源。而其實縱向擴展的方式在國內亦有很大應用場合。這里將兩者的優劣和適用場景略做介紹。橫向擴展目前最多的做法是通過VMware等虛擬化軟體,在已有硬體平台上搭建一個虛擬層,在其上運行操作系統及應用程序。這種方式可以充分利用用戶已有的系統資源,在有些情況下,通過相應的系統分析軟體(如VMwareROITCO等)分析整合後,不需額外購買任何伺服器設備,就可以獲取更大的計算資源。但這種方式也不是萬能的,國內有些客戶常會有這樣一個設想,即利用原本的2台伺服器(每台上面運行2顆處理器)來運行一個需要4顆處理器的應用程序,這種想法在橫向的虛擬化方式上得不到支持。(高性能計算應用例外)此外,這種虛擬化整合方式也會帶來一些隱性成本,例如整合後出現故障如何快速找到供應商提供服務響應,國內不少x86架構的伺服器一般的使用周期是5年,而超過3年的保修期後用戶需要支付設備供應商不小的維護費用,加上額外虛擬化軟體的咨詢、部署和維護費用,橫向擴展的總體擁有成本不一定低於縱向擴展的虛擬化整合方式。而且,橫向擴展的方式需要將目前的應用環境做大規模遷移。這對用戶來說也不是一項願意輕易嘗試的工作。縱向擴展是指將原本多台設備上的應用遷移到一台高端設備上,例如將原本4台2路的伺服器整合到1台8路的伺服器上。這種方式所帶來的最大好處在於提升了管理性,這樣在故障發生時就可以更高地定位故障發生點;同時降低了伺服器總體數量。而且縱向擴展可以更為安全地將已有應用遷移到新的高端平台上,不會出現因為規劃錯誤而引發資源緊張的情況。縱向擴展的劣勢在於需要額外采購的大型伺服器,這對於企業而言就是一筆開銷,特別是在有大量伺服器需要整合時。更好的一種做法是用戶先對已有的應用進行充分評估(不是簡單運行資源分析軟體)。將應用分為兩類,關鍵的核心應用,如財務、計費、客戶關系等系統,和非關鍵應用,如郵件、網路門戶等(對於不同類型的企業分類不同)。將核心應用部署在單獨的伺服器上以確保運行性能,並可以考慮部署集群環境。而將非核心也能夠用運行在使用時間較長的計算池上,通過虛擬化軟體的容錯性確保系統不會宕機。在這一過程中,已有設備的使用狀況,故障情況和伺服器供應商維保期也是需要考慮的因素。
5. 如何搭建一台深度學習伺服器
A、購買組裝好的伺服器，例如NVIDIA DIGITS DEVBOX
B、購買雲服務，例如Amazon的GPU服務
C、自己攢一台深度學習伺服器
6. 學生能去哪裡租用便宜的gpu雲伺服器來進行深度學習計算
其實你可以去騰訊雲去租用GPU雲伺服器來進行深度學習計算。騰訊雲 GPU 實例類型眾多，應用廣泛，不同的實例類型有不同的產品定位。用戶可以根據自身的應用場景，結合性能、價格等因素，選擇最符合業務需求的實例。
比如你要進行深度學習計算，建議使用騰訊雲GN8/GN10X 實例。GN10Xp配備Tesla V100 NVLink 32GB GPU，具有強大的單精度浮點運算能力，並具備較大的 GPU 板載內存。最大實例規格配置8個 V100 ，80個 vGPU 和320GB主機內存，是深度學習訓練的首選。
GN10Xp 最大實例規格具備125.6 TFLOPS 單精度浮點運算能力，支持 Tensor Core 加速，單卡搭載32GB顯存，GPU 卡之間通過300GB/s的 NVLink 高速互連。強大的計算與數據吞吐能力大大縮短訓練周期，使得復雜模型的快速迭代成為可能，人工智慧相關業務得以把握先機。
騰訊雲GPU雲伺服器，管理很簡單GPU雲伺服器採用和雲伺服器CVM一致的管理方式，無需跳板機登錄，簡單易用。清晰的顯卡驅動的安裝、部署指引，免去高學習成本。而且節約成本，你無需預先採購、准備硬體資源，一次性購買，免除硬體更新帶來的額外費用，有效降低基礎設施建設投入。目前，騰訊雲的GPU雲伺服器已全面支持包年包月計費和按量計費，你可以根據需要選擇計費模式。
7. 如何在阿里ECS雲端運行Jupyter Notebook進行機器/深度學習
1.首先你得有一台雲伺服器，這里我選用的是阿里雲ECS基礎版。別的伺服器都是大同小異，按步驟應該都可以。
2.下載遠程連接軟體putty,點擊下載，輸入阿里雲ECS公網IP,埠填22，SSH連接，按open按鈕就可以連接到遠程主機了。輸入賬號密碼就可以登陸遠程主機。(linux輸入密碼不會有任何顯示，不要懷疑自己鍵盤出問題了)
2.安裝Anaconda.Anaconda集成了大量的第三方pyhton庫，使用簡單，這里我們就選它了。
mkdir是新建一個目錄，用於放置我們的Anaconda.(這里並未分區，因為我也不會啊！委屈)
cd是進入目錄
wget 是從某個網址下載某個文件，後面是下載地址。你可以選擇你需要的版本，anaconda下載地址：https://www.continuum.io/downloads#linux
bash就是安裝anaconda
3.設置Jupyter登陸密碼
4.修改jupyper配置文件
5.啟動jupyter。在命令行輸入jupyter notebook &將jupyter加入任務。
6.遠程訪問。最重要的一步，退出所有連接！ecs不允許多終端在線的打開瀏覽器，輸入訪問地址http://ip:8888，輸入第3步設置的Jupyter密碼即可登錄
8. 騰訊雲伺服器是幹嘛的,有什麼用
雲伺服器又稱雲主機，雲伺服器是在雲計算環境中運行的虛擬伺服器，而不是物理伺服器，通過互聯網雲計算進行一系列的遠程操作。雲伺服器也是虛擬伺服器的一種，只是相對比較高級，配置比較靈活，雲伺服器相對比較獨立，擁有高度的運行環境。
雲伺服器作用：
1、放置公司網站和電子商務平台
隨著越來越多的公司開始通過互聯網開發業務渠道，許多公司將選擇將其網站放置在雲伺服器上，並允許用戶直接通過雲伺服器訪問它們。不僅是企業網站，還有博客，電子商務平台等。不僅安全穩定，數據安全，而且具有成本效益。
2、APP和其他應用程序
它不僅僅是一個可以放置在雲伺服器上的網站，諸如APP之類的應用程序以及任何希望用戶訪問網路的應用程序都可以放置在雲伺服器上。但是，應該注意的是，一般APP等應用對雲伺服器配置要求較高，所以盡量選擇配置較高的雲伺服器。
3、使用雲伺服器來存儲和共享數據
許多公司，由於數據量大，或需要實時共享。它將專門購買雲伺服器來存儲數據。它不僅高度安全，而且提供在線下載和數據共享，非常方便。
4、雲伺服器放置游戲
許多小型游戲都放在雲伺服器或伺服器上，然後才能訪問它們。很多時候游戲鏈接不穩定或閃回，這可能是由於雲伺服器過載。還有一些用戶專門購買雲伺服器與其他人進行在線玩。
9. Kesci科賽深度學習訓練用什麼GPU雲計算平台
偶爾用Ai深度學習訓練，自己要會搭環境的用aws 阿里雲都沒問題，如果經常用，我強烈推薦 「極算深度學習平台」 號稱全球最便宜的GPU雲服務，還免費搭環境，帶寬和存儲不收費；
10. 怎麼選擇雲伺服器配置
雲伺服器的配置規格影響價格，也直接決定了它的計算能力和特點，是在采購時要重點考慮的問題。
選雲伺服器配置，看這三個維度
雲伺服器的配置規格主要取決於類型、代別、實例大小三個最重要的維度。
維度一：類型
雲伺服器的「類型」或「系列」，是指具有同一類設計目的或性能特點的雲伺服器類別。
通常來說，雲廠商會提供通用均衡型、計算密集型、內存優化型、圖形計算型等常見的雲伺服器類型。這些類型對應著硬體資源的某種合理配比或針對性強化，方便你在面向不同場景時，選擇最合適的那個型號。
vCPU 數和內存大小（按GB計算）的比例，是決定和區分雲伺服器類型的重要依據之一。
通用均衡型的比例通常是1:4，如2核8G，這是一個經典搭配，可用於建站、應用服務等各種常見負載，比如作為官網和企業應用程序的後端伺服器等。
如果 vCPU 和內存比是1:2，甚至1:1，那就是計算密集型的范疇，它可以用於進行科學計算、視頻編碼、代碼編譯等計算密集型負載。
比例為1:8及以上，就被歸入內存優化型，比如8核64G的搭配，它在資料庫、緩存服務、大數據分析等應用場景較為常見。
圖形計算型是帶有GPU能力的虛擬機，一般用於機器學習和深度學習模型的訓練和推理。隨著 AI的火熱，這類機器也越來越多地出現在各種研發和生產環境中。
在主流雲計算平台上，常常使用字母縮寫來表達雲伺服器的系列。比如，AWS 的通用型是M系列，阿里雲的內存優化型為R系列，Azure的計算優化型為F系列。
https://www.wy.cn/computing/wcloud/all?utm_source=wemedia