2024-03-21 16:35

3月20日 消息:亞馬遜云科技與英偉達(dá)擴(kuò)展合作，加速生成式 AI 創(chuàng)新。雙方將在亞馬遜云科技上提供 NVIDIA Blackwell 架構(gòu) GPU，包括 GB200Grace Blackwell 超級芯片和 B100Tensor Core GPU，以幫助客戶解鎖新的生成式 AI 能力。合作重點如下:


1. 加速超萬億參數(shù)級大語言模型訓(xùn)練:亞馬遜云科技提供 GB200NVL72配置的 NVIDIA Blackwell 架構(gòu)，配備72顆 Blackwell GPU 和36顆 Grace CPU，通過第五代 NVIDIA NVLink? 互連。結(jié)合亞馬遜云科技的 EFA 網(wǎng)絡(luò)、Amazon Nitro 系統(tǒng)和 Amazon EC2UltraClusters 超大規(guī)模集群，客戶能夠擴(kuò)展至數(shù)千個 GB200超級芯片，加速大語言模型訓(xùn)練和推理。


2. 提升安全性:整合 Amazon Nitro 系統(tǒng)、Amazon KMS 和 EFA 加密技術(shù)，保護(hù)模型權(quán)重的安全，防止未授權(quán)訪問模型權(quán)重。通過 Amazon Nitro Enclaves 和 Amazon KMS 創(chuàng)建可信執(zhí)行環(huán)境，實現(xiàn)數(shù)據(jù)加密和保護(hù)客戶數(shù)據(jù)安全。


3. 推進(jìn)未來生成式 AI 創(chuàng)新:Ceiba 項目是 NVIDIA 在亞馬遜云科技上搭建的世界上最快的 AI 超級計算機(jī)，采用 GB200GPU 和 Grace CPU 構(gòu)建，性能提升6倍。Ceiba 項目將推動生成式 AI 領(lǐng)域的創(chuàng)新，包括大語言模型、圖形、數(shù)字生物學(xué)等。


4. 推動生成式 AI 應(yīng)用開發(fā)及醫(yī)療健康與生命科學(xué)領(lǐng)域:整合 Amazon SageMaker 和 NVIDIA NIM 推理微服務(wù)，提供高性能、低成本的生成式 AI 推理解決方案。在藥物發(fā)現(xiàn)領(lǐng)域，推出 NVIDIABioNeMo? 基礎(chǔ)模型，加速化學(xué)、蛋白質(zhì)結(jié)構(gòu)預(yù)測等應(yīng)用。推出生成式 AI 微服務(wù)，推進(jìn)藥物發(fā)現(xiàn)和醫(yī)療領(lǐng)域的發(fā)展。


全部評論（0）

推薦工具