Mellanox 網(wǎng)絡計算“分層聚合和歸約協(xié)議”(SHARP) 技術與 NVIDIA 聚合通信函數(shù)庫 (NCCL) 結合，為人工智能帶來性能突破

　　2019 年 3 月 19 日, Mellanox Technologies, Ltd.(納斯達克股票代碼：MLNX)是面向數(shù)據(jù)中心服務器和存儲系統(tǒng)的高性能、端到端互連解決方案的供應商，該公司今天宣布，其采用“可擴展分層聚合和歸約協(xié)議”(SHARP) 技術的 HDR 200G InfiniBand 創(chuàng)造了新的性能記錄，使深度學習操作性能提高了一倍。Mellanox 網(wǎng)絡計算 SHARP技術與 NVIDIA V100 Tensor Core GPU 技術以及聚合通信函數(shù)庫 (NCCL) 的結合，為深度學習和人工智能應用帶來了的效率和可擴展性。

　　將先進的 NVIDIA GPU、Mellanox 的 InfiniBand網(wǎng)絡、GPUDirect RDMA技術 和 NCCL通信庫相結合以訓練神經網(wǎng)絡，已成為擴展深度學習框架(如 Caffe、Caffe2、Chainer、MXNet、TensorFlow 和 PyTorch)的事實標準。借助 Mellanox SHARP 技術和 HDR InfiniBand網(wǎng)絡,可以卸載并加速深度學習訓練的數(shù)據(jù)聚合操作，從而將性能提高至兩倍。

　　通過與 NVIDIA 合作，并在 Mellanox 的性能實驗室進行測試驗證，使用 Mellanox HDR InfiniBand Quantum 交換機連接 4 臺系統(tǒng)主機，每臺主機使用 8 個采用 NVLink 互連技術的 NVIDIA V100 Tensor Core GPU 和一片ConnectX-6 HDR 網(wǎng)卡，并通過將 SHARP 的本地流聚合功能與 NVIDIA 的 NCCL 2.4 通信庫(該庫現(xiàn)在可以充分利用Mellanox 網(wǎng)絡提供的雙向帶寬)集成，實現(xiàn)了 19.6Gb/s 的有效歸約帶寬。在使用相同硬件配置的情況下，與NVIDIA 當前基于樹型通信結構的實現(xiàn)相比，SHARP實現(xiàn)了兩倍的帶寬性能。

　　在更常見的系統(tǒng)配置中，如果每個主機系統(tǒng)中有4 個HCA卡用于各種工作的負載均衡，其中 SHARP 和 NCCL 的初始計算將會產生70.3GB/s的流量。對于更高密度的GPU系統(tǒng)，如 NVIDIA DGX-2，其每個系統(tǒng)節(jié)點中有 16 個采用 NVLink 技術的 NVIDIA V100 Tensor Core GPU，Mellanox的網(wǎng)絡計算功能和全雙向帶寬更將被用的淋漓盡致。

　　Mellanox Technologies 市場副總裁 Gilad Shainer 表示：“我們與 NVIDIA 的長期合作為我們帶來了強大的解決方案，這些方案充分利用 Mellanox InfiniBand網(wǎng)絡的卓越性能，包括 GPUDirect RDMA技術，以及集成在NCCL中的網(wǎng)絡計算技術，為人工智能應用提供了兩倍于以往的性能。HDR InfiniBand網(wǎng)絡計算加速引擎(包括 SHARP 技術)為 HPC 和人工智能工作負載提供了優(yōu)異的性能和可擴展性。”

　　NVIDIA 副總裁兼加速計算總經理 Ian Buck 表示：“Mellanox 的解決方案和我們的開源聚合通信函數(shù)庫 NCCL的整合，極大地增強了 NVIDIA 無與倫比的 CUDA-X 加速庫的性能。我們攜手合作，共同提供完整解決方案，確保數(shù)據(jù)中心內要求最為苛刻的人工智能應用能夠從性能和擴展效率中受益。”

　　輔助資源：

　　● 深入了解 Mellanox SHARP

　　● 深入了解 Mellanox Quantum HDR 200Gb/s InfiniBand 智能交換機

　　● 在 Twitter、Facebook、Google+、領英和 YouTube 上關注 Mellanox。

　　● 加入 Mellanox 社區(qū)

　　關于 Mellanox

　　Mellanox公司的英文全稱是Mellanox Technologies(中文名：邁絡思)，是一家在全球范圍內為服務器和存儲提供端到端InfiniBand和以太網(wǎng)互聯(lián)解決方案的領軍企業(yè)。Mellanox互連解決方案通過低延遲、高吞吐量的強大性能，可以極大的提升數(shù)據(jù)中心效率，在應用和系統(tǒng)之間快速的傳遞數(shù)據(jù)，提升系統(tǒng)可用性。Mellanox為業(yè)內提供了加快內部設備互聯(lián)的技術和產品，包括網(wǎng)卡、交換機、軟件和芯片，這些產品都可以加速應用的執(zhí)行，并化的提升HPC、企業(yè)數(shù)據(jù)中心、Web2.0、云計算、存儲以及金融服務的效率。

　　注：Mellanox、ConnectX-6、Mellanox Quantum、Mellanox 可擴展分層聚合和歸約協(xié)議 (SHARP) 以及 Mellanox 徽標是 Mellanox Technologies, Ltd. 的注冊商標。所有其他商標均為其各自所有者的資產。