更多

最先進(jìn)企業(yè)級(jí)AI設(shè)施!英偉達(dá)推出第4代DGX系統(tǒng)DGX H100

2022-03-23 13:20:38    游俠原創(chuàng):游俠整理    編輯:cloud    瀏覽量:加載中...

  在今天的GTC 2022大會(huì)上,英偉達(dá)創(chuàng)始人兼CEO黃仁勛公布了NVIDIA新一代架構(gòu)與核心,它就是面向HPC高性能計(jì)算、AI人工智能的“Hopper”,對(duì)應(yīng)核心編號(hào)“GH100”。

  GH100核心采用的其實(shí)是臺(tái)積電目前最先進(jìn)的4nm工藝,而且是定制版,CoWoS 2.5D晶圓級(jí)封裝,單芯片設(shè)計(jì),集成多達(dá)800億個(gè)晶體管,號(hào)稱世界上最先進(jìn)的芯片。完整版有8組GPC(圖形處理器集群)、72組TPC(紋理處理器集群)、144組SM(流式多處理器單元),而每組SM有128個(gè)FP32 CUDA核心,總計(jì)18432個(gè)。Tensor張量核心來(lái)到第四代,共有576個(gè),另有60MB二級(jí)緩存。

  性能方面,F(xiàn)P64/FP32 60TFlops(每秒60萬(wàn)億次),F(xiàn)P16 2000TFlops(每秒2000萬(wàn)億次),TF32 1000TFlops(每秒1000萬(wàn)億次),都三倍于A100,F(xiàn)P8 4000TFlops(每秒4000萬(wàn)億次),六倍于A100。

游俠網(wǎng)1

  此外,英偉達(dá)還推出了第四代英偉達(dá)DGX系統(tǒng)DGX H100,DGX H100是一款基于英偉達(dá)H100 Tensor Core GPU的AI平臺(tái)。 是最先進(jìn)的企業(yè)級(jí)AI基礎(chǔ)設(shè)施。一起來(lái)了解下吧!

  DGX H100系統(tǒng)中每塊GPU都通過(guò)第四代 NVLink連接,可提供900GB/s的帶寬,是上一代系統(tǒng)的1.5倍。DGX H100的顯存帶寬可達(dá)24TB/s。 

  每個(gè)DGX H100系統(tǒng)配備8塊H100 GPU,總計(jì)有6400億個(gè)晶體管,由NVLink連接,在全新的FP8精度下AI性能可達(dá)32Petaflops,比上一代系統(tǒng)性能高6倍。 

游俠網(wǎng)2

  該系統(tǒng)支持雙x86 CPU,每個(gè)系統(tǒng)還包含2個(gè)英偉達(dá)BlueField-3 DPU,用于卸載、加速和隔離高級(jí)網(wǎng)絡(luò)、存儲(chǔ)及安全服務(wù)。 

  8個(gè)英偉達(dá)ConnectX-7 Quantum-2 InfiniBand網(wǎng)卡能夠提供400GB/s的吞吐量,可用于連接計(jì)算和存儲(chǔ),這一速度比上一代系統(tǒng)提升了1倍。 

游俠網(wǎng)3

  DGX H100系統(tǒng)是新一代英偉達(dá)DGX POD和DGX SuperPOD超級(jí)計(jì)算機(jī)的構(gòu)建模塊。 借助NVLink Switch系統(tǒng),擁有32個(gè)節(jié)點(diǎn)、256個(gè)GPU的DGX Pod,其HBM3顯存達(dá)20.5TB,顯存帶寬高達(dá)768TB/s。 

游俠網(wǎng)4

  “相比之下,整個(gè)互聯(lián)網(wǎng)不過(guò)只有100TB/s。”黃仁勛感慨道。 每個(gè)DGX都可借助4端口光學(xué)收發(fā)器連接到NVLink Switch,每個(gè)端口都有8個(gè)100G-PAM4通道,每秒能夠傳輸100GB,32個(gè)NVLink收發(fā)器連接到1個(gè)機(jī)架單元的NVLink Switch系統(tǒng)。 

  新一代DGX SuperPOD可提供1Exaflops的FP8 AI性能,比上一代產(chǎn)品性能高6倍,能夠運(yùn)行具有數(shù)萬(wàn)億參數(shù)的大型語(yǔ)言模型工作負(fù)載;還有20TB的HBM3顯存、192TFLOPS的SHARP網(wǎng)絡(luò)計(jì)算性能。

游俠網(wǎng)5 

  通過(guò)采用Quantum-2 InfiniBand連接及NVLink Switch系統(tǒng),新DGX SuperPOD架構(gòu)在GPU之間移動(dòng)數(shù)據(jù)的帶寬高達(dá)70TB/s,比上一代高11倍。 

  Quantum-2 InfiniBand交換機(jī)芯片擁有570億個(gè)晶體管,能提供64個(gè)400Gbps端口。多個(gè)DGX SuperPOD單元可組合使用。 

游俠網(wǎng)6

  此外,英偉達(dá)推出新的DGX-Ready托管服務(wù)計(jì)劃,以助力簡(jiǎn)化AI部署。其DGX Foundry托管的開(kāi)發(fā)解決方案正在全球擴(kuò)展,北美、歐洲和亞洲的新增地點(diǎn)支持遠(yuǎn)程訪問(wèn)DGX SuperPOD。 

  DGX Foundry中包含英偉達(dá)Base Command軟件,該軟件能夠使客戶基于DGX SuperPOD基礎(chǔ)設(shè)施,輕松管理端到端AI開(kāi)發(fā)生命周期。 

  基于A100,英偉達(dá)最先進(jìn)的企業(yè)級(jí)AI基礎(chǔ)設(shè)施DGX H100系統(tǒng)、DGX POD、DGX SuperPOD以及一一登場(chǎng)。它們將從今年第三季度開(kāi)始供應(yīng)。 黃仁勛稱,在財(cái)富10強(qiáng)企業(yè)和100強(qiáng)企業(yè)中,分別有8家和44家企業(yè)使用DGX作為AI基礎(chǔ)架構(gòu)。 

0
分享至
掃描關(guān)注游俠網(wǎng)
推薦閱讀

推薦閱讀

Steam每日特惠:《怪物獵人:崛起》你終于打折了!

Steam每日特惠:《怪物獵人:崛起》你終于打折了!
春節(jié)特惠、夏季特賣、冬季特賣,每周特惠、限時(shí)特惠,對(duì)于游弋于Steam平臺(tái)的正版玩家來(lái)說(shuō),一定要熟練掌握了解各類游戲折扣的關(guān)鍵技能。每天逛一回Steam每日特價(jià)信息,省錢就是超輕松。一起來(lái)看看特惠佳作吧!
03-19 345978人已看過(guò)

什么叫秋名山車神換擋技巧 動(dòng)圖 啪一下就下去很快啊

什么叫秋名山車神換擋技巧 動(dòng)圖 啪一下就下去很快啊
開(kāi)紙巾的正確姿勢(shì),用生命在醒酒,真正的橘貓理應(yīng)如此,看哥給你整個(gè)活,比基尼的妙用,你學(xué)廢了嘛,小朋友這招可不興學(xué)啊,簡(jiǎn)單的快樂(lè)一去不復(fù)返。
03-22 235971人已看過(guò)

震驚!《老頭環(huán)》第二扇需要敲N次的隱藏門被發(fā)現(xiàn)!

震驚!《老頭環(huán)》第二扇需要敲N次的隱藏門被發(fā)現(xiàn)!
《艾爾登法環(huán)》中火山官邸一個(gè)隱藏門需要敲50次才能打開(kāi)被玩家發(fā)現(xiàn)后,《老頭環(huán)》第二扇需要敲N次的隱藏門也被發(fā)現(xiàn)!讓人震驚
03-20 63180人已看過(guò)

日本男大學(xué)生男扮女裝做“爸爸活” 被36歲大叔刺死!

日本男大學(xué)生男扮女裝做“爸爸活” 被36歲大叔刺死!
明明是男孩子,扮上女裝卻毫無(wú)違和感!這樣的女裝大佬在日本有很多。日本近年有個(gè)灰色行業(yè)“爸爸活”。年輕女性為了金錢外出做兼職,陪富裕男性吃飯、喝酒、逛街等,而男性則為此支付費(fèi)用。最近正在公審的一樁案件,故事是個(gè)悲劇,卻有著連編劇也不敢寫的曲折離奇。
03-22 126711人已看過(guò)

《老頭環(huán)》一周賣千萬(wàn)份但FS員工吐槽工資低不如便利店

《老頭環(huán)》一周賣千萬(wàn)份但FS員工吐槽工資低不如便利店
《艾爾登法環(huán)》一周銷量過(guò)千萬(wàn)但FS員工吐槽工資很低甚至不如便利店!FromSoftware員工吐槽工資很低經(jīng)常加班
03-13 64023人已看過(guò)

《塞伯利亞之謎:世界之前》PC正式版下載發(fā)布!

《塞伯利亞之謎:世界之前》PC正式版下載發(fā)布!
大家好,今天帶來(lái)的是冒險(xiǎn)游戲AVG游戲《塞伯利亞之謎:世界之前》PC正式版。喜歡的朋友可以關(guān)注一下!
03-19 164415人已看過(guò)

游戲改編電影總是爛片?《神秘海域》:不,我不是

游戲改編電影總是爛片?《神秘海域》:不,我不是
游戲里操控著內(nèi)森走過(guò)黃金之國(guó)埃爾·多雷多、海盜殖民地萊博塔利亞,看過(guò)世外桃源香格里拉和千柱之城艾蘭,跑過(guò)火車跳過(guò)飛機(jī),丟過(guò)金子…看著電影里的內(nèi)森做著同樣的事,丟比我還多的金子,就不忍心給它差評(píng)
03-14 74275人已看過(guò)

我不同意這門婚事! 動(dòng)圖 你打了我一槍,現(xiàn)在輪到我了

我不同意這門婚事! 動(dòng)圖 你打了我一槍,現(xiàn)在輪到我了
我不同意這門婚事!好了,你打了我一槍,現(xiàn)在輪到我了!隨手拍死高低有點(diǎn)便宜他了!鞋掉了,沒(méi)救了!Hello Peter!
03-19 358656人已看過(guò)

石原里美近照曝光!挺孕肚出鏡狀態(tài)佳 身材依舊纖細(xì)

石原里美近照曝光!挺孕肚出鏡狀態(tài)佳 身材依舊纖細(xì)
日本當(dāng)紅女星石原里美近日挺孕肚現(xiàn)身NHK生活情報(bào)新節(jié)目《TORISETSU SHOW》的錄制現(xiàn)場(chǎng),該節(jié)目預(yù)計(jì)在四月開(kāi)播,將會(huì)是她首次擔(dān)任主持的節(jié)目。
03-13 83065人已看過(guò)

《神秘海域》全球票房破19億 超《古墓麗影》追《魔獸》

《神秘海域》全球票房破19億 超《古墓麗影》追《魔獸》
索尼的《神秘海域》電影票房繼續(xù)保持高位,現(xiàn)在它在全球范圍內(nèi)的票房收入已超過(guò)了《古墓麗影》系列電影中的每一部作品,并向著更高的目標(biāo)邁進(jìn)。
03-15 81986人已看過(guò)
返回首頁(yè) 查看更多

熱門美圖

動(dòng)漫壁紙
軟萌小妹妹
二次元妹子
美腿軟妹
關(guān)于游俠 | 廣告合作 | 人才招聘 | 聯(lián)系我們 | 網(wǎng)站地圖 | 投訴建議 | 我要投稿 | 版權(quán)保護(hù)投訴指引
CopyRight ? 1999-2023 ALi213.Net All Right Reserved 游俠網(wǎng) 版權(quán)所有 | 蘇ICP備2023007791號(hào)