浪潮IPF18合作伙伴大會上重磅發(fā)布全新AI品牌TensorServer
浪潮集團(tuán)副總裁彭震表示:“浪潮作為全球領(lǐng)先的AI計算力提供者,全新發(fā)布的AI品牌TensorServer將致力于成為AI的承載者與賦能者,通過整合創(chuàng)新AI基礎(chǔ)架構(gòu)系統(tǒng),向用戶交付強(qiáng)自適應(yīng)、高效加速、靈活拓展的AI基礎(chǔ)架構(gòu)系統(tǒng),持續(xù)推動以計算開啟可進(jìn)化的智慧世界。AI云作為一種新興的云服務(wù)形式,已經(jīng)得到越來越多公有云廠商、AI初創(chuàng)公司及AI用戶的共同青睞。NF5468M5正是TensorServer品牌對AI基礎(chǔ)架構(gòu)創(chuàng)新的承諾在AI云場景的最新產(chǎn)品體現(xiàn)。”
浪潮GPU云服務(wù)器NF5468M5重磅發(fā)布
AI云對基礎(chǔ)架構(gòu)的設(shè)計帶來新的挑戰(zhàn),要求AI服務(wù)器具備云虛機(jī)的GPU資源支持與高效分配、適合于不同AI訓(xùn)練場景的GPU靈活拓?fù)?、AI線上推理的高并發(fā)低延遲與高能效比、大規(guī)模AI數(shù)據(jù)的存儲與通信能力。
NF5468M5專為AI云場景對彈性配置能力予以優(yōu)化,增強(qiáng)了PCI-E拓?fù)浜蛿?shù)量配比的彈性,適配多種框架的運算需求,并增加了易于管理和維護(hù)的遠(yuǎn)程GPU拓?fù)渲貥?gòu)技術(shù)。NF5468M5可靈活支持AI模型的線下訓(xùn)練和線上推理兩類場景,能夠讓AI模型訓(xùn)練性能最大化或AI在線推理效能最大化。NF5468M5面向線下訓(xùn)練對性能的需求,可支持8顆最高性能的Tesla Volta GPU以PCI-E或NVLink的高速互聯(lián);面向在線推理對高能效比的需求,可支持16顆高能效比的Tesla P4 GPU,適用于語音、圖片、視頻場景。在智能視頻分析場景下,可同時處理300路以上1080p高清視頻結(jié)構(gòu)化。NF5468M5同時實現(xiàn)了數(shù)據(jù)存儲與通訊性能極大化,消除IO瓶頸,可支持288TB大容量存儲或32TB固態(tài)存儲,實現(xiàn)高達(dá)400Gbps通信帶寬和1us的超低延遲。
浪潮NF5468M5 為AI云而生
NF5468M5的發(fā)布凸顯出浪潮在AI計算平臺上的創(chuàng)新能力。此前,浪潮已經(jīng)相繼推出多款創(chuàng)新的AI計算平臺,包括全球首款在2U空間內(nèi)高速互聯(lián)集成8顆最高性能GPU的AI服務(wù)器AGX-2、單機(jī)可實現(xiàn)支持16個GPU的超大擴(kuò)展性節(jié)點SR-AI整機(jī)柜、率先實現(xiàn)協(xié)處理器與CPU計算資源的解耦和重構(gòu)的AI擴(kuò)展模塊GX-4。目前,浪潮已建立全球領(lǐng)先的AI計算產(chǎn)品系列,適合線下訓(xùn)練的計算加速節(jié)點采用浪潮領(lǐng)先業(yè)界設(shè)計的浮點運算能力強(qiáng)、高擴(kuò)展的GPU服務(wù)器,或KNM 計算加速器,而用于線上識別的計算加速節(jié)點采用浪潮低功耗、高能效比的GPU服務(wù)器,或者低功耗定制優(yōu)化推理程序的FPGA加速器。
浪潮發(fā)布業(yè)界首款面向AI云設(shè)計的彈性GPU服務(wù)器NF5468M5
浪潮全新AI品牌TensorServer將整合提供高性能的AI計算平臺、管理套件、框架優(yōu)化和應(yīng)用加速,為行業(yè)AI轉(zhuǎn)型提供賦能支撐。除完善的AI計算產(chǎn)品外,浪潮TensorServer還可提供包括TensorFlow、Caffe-MPI、CNTK 等浪潮專家優(yōu)化過的深度學(xué)習(xí)框架,而AIStation 管理平臺可對深度學(xué)習(xí)框架提供任務(wù)管理、登錄接口、參數(shù)調(diào)優(yōu)等服務(wù),并對節(jié)點和計算加速部件進(jìn)行狀態(tài)監(jiān)控和調(diào)度等。