2024-03-24 13:22

在被譽(yù)為“AI春晚”的GTC大會上，英偉達(dá)發(fā)布了下一代芯片架構(gòu)Blackwell，大秀肌肉。


隨后，亞馬遜云科技與英偉達(dá)宣布，NVIDIA Blackwell GPU平臺即將登陸亞馬遜云科技，這意味著亞馬遜云科技的客戶，很快就能使用新一代GPU基礎(chǔ)設(shè)施，在云上更快、更大規(guī)模、更安全地構(gòu)建和運(yùn)行數(shù)萬億參數(shù)的大語言模型。


據(jù)了解，Blackwell繼承了Hopper GPU架構(gòu)，擁有2080億個晶體管，是英偉達(dá)首個采用多芯片封裝設(shè)計(jì)的GPU，推理能力是Hopper的30倍。英偉達(dá)創(chuàng)始人黃仁勛介紹，如果用Blackwell訓(xùn)練一個1.8萬億參數(shù)GPT模型，只需要2000個GPU，花費(fèi)90天時間，以及四兆瓦的電力。


這次合作，是雙方在技術(shù)領(lǐng)域的強(qiáng)強(qiáng)聯(lián)合。


一方面，亞馬遜云科技將提供配置GB200 NVL72的英偉達(dá)Blackwell平臺，該平臺具備配備72顆Blackwell GPU和36顆Grace CPU，通過第五代NVIDIA NVLink?互連。


另一方面，亞馬遜云科技將在云中為其提供EFA網(wǎng)絡(luò)連接、高級虛擬化的Amazon Nitro系統(tǒng)和Amazon EC2 UltraClusters超大規(guī)模集群等技術(shù)支持，客戶能夠在亞馬遜云科技上擴(kuò)展至數(shù)千個GB200 Superchips。


亞馬遜云科技還計(jì)劃提供配備基于新的英偉達(dá)B100 GPU的Amazn EC2實(shí)例，并能夠在Amazon EC2 UltraClusters中進(jìn)行大規(guī)模部署。


此前，亞馬遜云科技已經(jīng)成功推出基于英偉達(dá)H100芯片的Amazon EC2 P5實(shí)例，客戶能夠在云上將其P5實(shí)例擴(kuò)展到超過2萬個英偉達(dá)H100 GPU，后續(xù)還提供可短期使用這些實(shí)例的EC2 Capacity Blocks for ML功能，以幫助客戶更好地安排云上生成式AI開發(fā)進(jìn)程。


GB200芯片同時也在亞馬遜云科技和英偉達(dá)共同開發(fā)的AI平臺NVIDIA DGX? Cloud上可用，這是一個在亞馬遜云科技上雙方共同開發(fā)的AI平臺，為企業(yè)開發(fā)者提供了構(gòu)建和部署先進(jìn)生成式AI模型所需的專用基礎(chǔ)設(shè)施和軟件。


Blackwell也加入了雙方合作的Project Ceiba項(xiàng)目，這是一臺專為英偉達(dá)自身的研究和開發(fā)而設(shè)的超級計(jì)算機(jī)，獨(dú)家托管在亞馬遜云科技上，它搭載了20,736顆GB200 Superchips芯片，并通過第四代EFA網(wǎng)絡(luò)擴(kuò)展，為每個Superchip提供高達(dá)800 Gbps的低延遲、高帶寬網(wǎng)絡(luò)吞吐量；


與去年11月底的re:Invent2023全球大會上披露的上一代Ceiba相比，計(jì)算性能從65exaflops提升至414 exaflops，提升了6倍多。


亞馬遜云科技首席執(zhí)行官Adam Selipsky表示：“我們雙方的深入合作可以追溯到13年前，那時我們共同推出了世界上第一個亞馬遜云科技上的GPU云實(shí)例，而今天我們?yōu)榭蛻籼峁┝俗顝V泛的英偉達(dá)GPU解決方案。英偉達(dá)下一代Grace Blackwell處理器是生成式AI和GPU計(jì)算的標(biāo)志性事件。”


英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“人工智能正在以前所未有的速度推動突破，導(dǎo)致新的應(yīng)用、商業(yè)模式和跨行業(yè)的創(chuàng)新。我們與亞馬遜云科技的合作正在加速新的生成式AI能力的發(fā)展，并為客戶提供前所未有的計(jì)算能力，以推動可能性的邊界?！?/p>

全部評論（0）

推薦工具