一文讀懂GPU服務器

2019-07-30

什么是GPU服務器？

GPU服務器是基于GPU的應用于視頻編解碼、深度學習、科學計算等多種場景的快速、穩(wěn)定、彈性的計算服務。

GPU服務器有什么作用？

GPU 加速計算可以提供非凡的應用程序性能，能將應用程序計算密集部分的工作負載轉移到 GPU，同時仍由 CPU 運行其余程序代碼。從用戶的角度來看，應用程序的運行速度明顯加快.

理解 GPU 和 CPU 之間區(qū)別的一種簡單方式是比較它們如何處理任務。CPU 由專為順序串行處理而優(yōu)化的幾個核心組成，而 GPU 則擁有一個由數以千計的更小、更高效的核心（專為同時處理多重任務而設計）組成的大規(guī)模并行計算架構。

GPU服務器的主要應用場景

l 海量計算處理

GPU 服務器超強的計算功能可應用于海量數據處理方面的運算，如搜索、大數據推薦、智能輸入法等：
? 原本需要數天完成的數據量，采用 GPU 服務器在數小時內即可完成運算。
? 原本需要數十臺 CPU 服務器共同運算集群，采用單臺 GPU 服務器可完成。

l 深度學習模型

GPU服務器可作為深度學習訓練的平臺：

1.GPU 服務器可直接加速計算服務，亦可直接與外界連接通信。

2.GPU 服務器和云服務器搭配使用，云服務器為 GPU 云服務器提供計算平臺。

3.對象存儲 COS 可以為 GPU 服務器提供大數據量的云存儲服務。

如何正確選擇GPU服務器

選擇GPU服務器時首先要考慮業(yè)務需求來選擇適合的GPU型號。在HPC高性能計算中還需要根據精度來選擇，比如有的高性能計算需要雙精度，這時如果使用P40或者P4就不合適，只能使用V100或者P100；同時也會對顯存容量有要求，比如石油或石化勘探類的計算應用對顯存要求比較高；還有些對總線標準有要求，因此選擇GPU型號要先看業(yè)務需求。

　　當GPU型號選定后，再考慮用什么樣GPU的服務器。這時我們需要考慮以下幾種情況：

　　第一、 在邊緣服務器租用上需要根據量來選擇T4或者P4等相應的服務器，同時也要考慮服務器的使用場景，比如火車站卡口、機場卡口或者公安卡口等；在中心端做Inference時可能需要V100的服務器，需要考慮吞吐量以及使用場景、數量等。

　　第二、 需要考慮客戶本身使用人群和IT運維能力，對于BAT這類大公司來說，他們自己的運營能力比較強，這時會選擇通用的PCI-e服務器；而對于一些IT運維能力不那么強的客戶，他們更關注數字以及數據標注等，我們稱這類人為數據科學家，選擇GPU服務器的標準也會有所不同。

　　第三、 需要考慮配套軟件和服務的價值。

第四、 要考慮整體GPU集群系統(tǒng)的成熟程度以及工程效率，比如像DGX這種GPU一體化的超級計算機，它有非常成熟的從底端的操作系統(tǒng)驅動Docker到其他部分都是固定且優(yōu)化過的，這時效率就比較高。

作為國內品牌服務器廠家，特控GPU機架式服務器擁有大規(guī)模并行處理能力和無與倫比的靈活性。它主要應用于為計算密集型應用提供足夠的處理能力。GPU加速運算的優(yōu)勢就在于它可以一邊由CPU運行應用程序代碼，一邊由圖形處理單元（GPU）處理大規(guī)模并行架構的計算密集型任務。特控GPU服務器是醫(yī)療成像、廣播、視頻轉碼市場的理想選擇。