nvidia英偉達(dá)是一家全球領(lǐng)先的人工智能和圖形處理技術(shù)公司,其產(chǎn)品廣泛應(yīng)用于游戲、數(shù)據(jù)中心、自動駕駛、機器學(xué)習(xí)等領(lǐng)域。近日,英偉達(dá)在其年度計算機圖形學(xué)大會SIGGRAPH 2023上宣布推出了新一代人工智能芯片H200,稱其是目前世界“最強”的AI芯片。
一、H200是什么?
H200是英偉達(dá)基于其Hopper架構(gòu)開發(fā)的超級芯片,將Grace CPU和Hopper GPU集成在同一個封裝中,通過高速的NVLink連接,消除了傳統(tǒng)的CPU到GPU的瓶頸,提高了數(shù)據(jù)傳輸?shù)男屎退俣?。H200還采用了最新的HBM3e高帶寬內(nèi)存,相比前代H100,其內(nèi)存容量提升了76%,達(dá)到了141GB,其內(nèi)存帶寬提升了43%,達(dá)到了4.8TB/s。
二、H200有什么優(yōu)勢?
H200的主要優(yōu)勢在于其能夠處理超大規(guī)模的數(shù)據(jù)集和模型,從而提升生成式人工智能和高性能計算的能力。生成式人工智能是指利用深度學(xué)習(xí)技術(shù)生成新的內(nèi)容,如文本、圖像、音頻、視頻等,具有廣泛的應(yīng)用場景,如虛擬助理、內(nèi)容創(chuàng)作、推薦系統(tǒng)、圖形分析等。H200能夠支持TB級別的模型,如GPT-4、Megatron-LM等,相比H100,其運行大模型的綜合性能提升了60%到90%。
H200還具有高能效的特點,其每瓦特的AI性能是H100的兩倍,其每瓦特的內(nèi)存帶寬是H100的三倍。這意味著H200能夠在更低的功耗下實現(xiàn)更高的計算能力,從而降低了運行成本和環(huán)境影響。
三、H200將如何應(yīng)用?
H200將作為英偉達(dá)的AI超級計算平臺的核心,為各種生成式AI和高性能計算應(yīng)用提供動力。英偉達(dá)已經(jīng)推出了基于H200的DGX GH200服務(wù)器,每臺服務(wù)器包含8個H200超級芯片,提供8 petaflops的AI算力和1.1TB的內(nèi)存,可用于訓(xùn)練和推理大型模型。英偉達(dá)還推出了AI Workbench,一個一站式的AI開發(fā)和部署平臺,讓開發(fā)者可以輕松地使用自定義數(shù)據(jù)微調(diào)和擴展開源的AI模型,如Hugging Face、GitHub和NGC等。
此外,H200還將與英偉達(dá)的Omniverse平臺結(jié)合,為3D設(shè)計和協(xié)作提供更強的支持。Omniverse是一個基于OpenUSD的3D工作流程和應(yīng)用程序的互操作平臺,讓全球分布的團隊可以協(xié)同處理來自數(shù)百個3D應(yīng)用程序的完整設(shè)計保真度數(shù)據(jù)集。H200能夠加速Omniverse的渲染、模擬和AI功能,提升3D內(nèi)容的真實感和交互性。
H200將于2024年第二季度投產(chǎn),預(yù)計將為下一代AI超級計算機提供強大的驅(qū)動力,為人工智能的發(fā)展和應(yīng)用帶來新的可能性和機遇。
以上就是英偉達(dá)發(fā)布最強AI芯片H200,性能提升90%!希望對大家有所幫助。如果遇到網(wǎng)卡、顯卡、藍(lán)牙、聲卡、打印機等驅(qū)動的相關(guān)問題都可以下載“驅(qū)動人生”進(jìn)行檢測修復(fù),同時驅(qū)動人生支持驅(qū)動下載、驅(qū)動安裝、驅(qū)動備份等等,可以靈活的安裝驅(qū)動。