2024-03-21 16:35

3月20日 消息:亞馬遜云科技與英偉達擴展合作,加速生成式 AI 創(chuàng)新。雙方將在亞馬遜云科技上提供 NVIDIA Blackwell 架構(gòu) GPU,包括 GB200Grace Blackwell 超級芯片和 B100Tensor Core GPU,以幫助客戶解鎖新的生成式 AI 能力。合作重點如下:


1. 加速超萬億參數(shù)級大語言模型訓練:亞馬遜云科技提供 GB200NVL72配置的 NVIDIA Blackwell 架構(gòu),配備72顆 Blackwell GPU 和36顆 Grace CPU,通過第五代 NVIDIA NVLink? 互連。結(jié)合亞馬遜云科技的 EFA 網(wǎng)絡(luò)、Amazon Nitro 系統(tǒng)和 Amazon EC2UltraClusters 超大規(guī)模集群,客戶能夠擴展至數(shù)千個 GB200超級芯片,加速大語言模型訓練和推理。


2. 提升安全性:整合 Amazon Nitro 系統(tǒng)、Amazon KMS 和 EFA 加密技術(shù),保護模型權(quán)重的安全,防止未授權(quán)訪問模型權(quán)重。通過 Amazon Nitro Enclaves 和 Amazon KMS 創(chuàng)建可信執(zhí)行環(huán)境,實現(xiàn)數(shù)據(jù)加密和保護客戶數(shù)據(jù)安全。


3. 推進未來生成式 AI 創(chuàng)新:Ceiba 項目是 NVIDIA 在亞馬遜云科技上搭建的世界上最快的 AI 超級計算機,采用 GB200GPU 和 Grace CPU 構(gòu)建,性能提升6倍。Ceiba 項目將推動生成式 AI 領(lǐng)域的創(chuàng)新,包括大語言模型、圖形、數(shù)字生物學等。


4. 推動生成式 AI 應(yīng)用開發(fā)及醫(yī)療健康與生命科學領(lǐng)域:整合 Amazon SageMaker 和 NVIDIA NIM 推理微服務(wù),提供高性能、低成本的生成式 AI 推理解決方案。在藥物發(fā)現(xiàn)領(lǐng)域,推出 NVIDIABioNeMo? 基礎(chǔ)模型,加速化學、蛋白質(zhì)結(jié)構(gòu)預(yù)測等應(yīng)用。推出生成式 AI 微服務(wù),推進藥物發(fā)現(xiàn)和醫(yī)療領(lǐng)域的發(fā)展。


全部評論(0)