5月29日，英偉達(dá)創(chuàng)始人兼CEO黃仁勛在NVIDIA Computex 2023展前發(fā)布會(huì)上，正式發(fā)布全新GH200 Grace Hopper超級(jí)芯片，以及擁有256個(gè)GH200超級(jí)芯片的DGXGH200超級(jí)計(jì)算機(jī)。

超級(jí)芯片GH200已全面投產(chǎn)，谷歌、微軟、Meta將率先獲得。GH200超級(jí)芯片使用了NVLink-c2c互聯(lián)技術(shù)，將一顆基于ARM節(jié)能的72核Grace CPU和一顆高性能的英偉達(dá)H100 GPU、96GB的HBM3和512GB的LPDDR5X，通過(guò)Chiplet工藝集成到同一封裝，以提供CPU+GPU一致內(nèi)存模型，從而不再需要傳統(tǒng)的CPU至GPU PCIe連接。GH200超級(jí)芯片提供了高達(dá)900GB/s的總帶寬，為某些內(nèi)存受限的工作負(fù)載提供了巨大優(yōu)勢(shì)。相較PCIe5，該芯片將GPU和CPU之間的帶寬提高了7倍，將互連功耗減少了5倍以上。黃仁勛表示，GH200 Grace Hopper超級(jí)芯片已全面投產(chǎn)，將可為運(yùn)行復(fù)雜的AI和高性能計(jì)算工作負(fù)載提供動(dòng)力。谷歌云、Meta和微軟將率先獲得GH200。

全新NVIDIA Helios超算年底推出，未來(lái)GPU數(shù)據(jù)中心有望替代現(xiàn)有CPU數(shù)據(jù)中心。DGXGH200是將256塊GH200超級(jí)芯片組成的超算，擁有高達(dá)1EFLOP的算力，以及144TB的共享內(nèi)存（比上代DGXA100多了近500倍）。此外，英偉達(dá)表示正在建造自己的大型AI超級(jí)計(jì)算機(jī)NVIDIA Helios。該超算將配備4個(gè)DGXGH200，每個(gè)都將通過(guò)NVIDIA Quantum-2 InfiniBand 400 Gb / s網(wǎng)絡(luò)互連，以提高訓(xùn)練大型AI模型的數(shù)據(jù)吞吐量。未來(lái)，GPU有望實(shí)現(xiàn)對(duì)目前CPU的替代。根據(jù)英偉達(dá)的配置，以1000萬(wàn)美金成本可建置1個(gè)有960顆CPU的數(shù)據(jù)中心，但它需要11GWh的功率，處理1X大模型的數(shù)據(jù)量。但同樣成本，可建置1個(gè)有48個(gè)GPU的數(shù)據(jù)中心，只需3.2GWh的功耗，并可處理44X大模型的數(shù)據(jù)量。

基于GH200 Grace Hopper超級(jí)芯片，英偉達(dá)還與軟銀宣布合作開(kāi)發(fā)新平臺(tái)，以滿足生成式AI和5G/6G應(yīng)用。同時(shí)，軟銀計(jì)劃在日本推出新的分布式AI數(shù)據(jù)中心。據(jù)悉，該平臺(tái)因使用GH200 超級(jí)芯片，有望提高應(yīng)用程序工作負(fù)載的性能、可擴(kuò)展性和資源利用率。