螞蟻集團何征宇呼吁行業(yè)加強軟硬協同與生態(tài)建設
2023-11-11 13:30
11月9日消息，在2023世界互聯網大會烏鎮(zhèn)峰會“數字化綠色化協同轉型發(fā)展”分論壇上，螞蟻集團首席技術官何征宇表示，AI和大模型的爆發(fā)推高了智能算力需求，數字化、綠色化協同發(fā)展的使命，要求行業(yè)亟需構建綠色、高質量的計算基礎設施。
他呼吁行業(yè)加強軟硬協同與生態(tài)建設，共同提升計算基礎設施算力規(guī)模、可用性與寬容度。
何征宇認為，AI大模型時代，行業(yè)智能化的深度和廣度在擴展，雙化協同也迎來提速?！按笳Z言模型與生成式AI讓計算機開始具備語言與內容生產能力，將我們帶入了通用人工智能時代，承載這種能力的智能計算資源需求也隨之井噴，算力基礎設施的效率提升和綠色化是必經之路?！?/p>
據何征宇介紹，上周螞蟻百靈大模型正式通過了備案，螞蟻集團搭建的綠色計算體系，也正在為百靈大模型提供綠色化的計算能力。螞蟻建設了萬卡異構集群，其中硬件算力效率（HFU）超過60%，集群有效訓練時長占比90%以上，RLHF訓練在同等模型效果下訓練吞吐性能相較于業(yè)界方案提升3.59倍，推理性能相較于業(yè)界方案提升約2倍，處于業(yè)界先進水平。
螞蟻集團首席技術官何征宇
圖源新浪科技
值得一提的是，11月7日，由上海人工智能實驗室與商湯科技聯合主辦的IEEE“人工智能大模型”標準大會在深圳市工業(yè)和信息化局、IEEE標準協會指導下和深圳市市場監(jiān)督管理局支持下順利召開，近300位產業(yè)專家參加大會。會上，中國電子技術標準化研究院、上海人工智能實驗室、華為云、百度、騰訊、螞蟻、商湯科技、360、中興通訊、美的、海信集團等國內首批11家單位發(fā)起成立了IEEE大模型工作組。
據介紹，此次大會上發(fā)起成立的IEEE大模型標準工作組，將協同國內外大模型產業(yè)力量，制定大模型技術規(guī)范、測評方法、安全可信、可靠決策等領域國際先進標準，為全球大模型產業(yè)技術創(chuàng)新和發(fā)展提供更好支撐。IEEE國際標準體系也將首次新增人工智能大模型領域國際標準。會后，由首批成員單位代表組成的編寫組，連同國際專家，正式立項IEEE大模型標準工作組的首個標準《大規(guī)模深度學習模型評估框架及流程》。
IEEE大模型標準工作組正式成立
圖源商湯科技SenseTime公眾號
