4月3日，由中國電信廣東公司聯(lián)合阿里云共同建設(shè)的粵港澳大灣區(qū)首個基于“真武”芯片的萬卡智算集群，在韶關(guān)數(shù)據(jù)中心集群正式上線。

　　作為國家“超大規(guī)模智算集群”新基建在大灣區(qū)的首個落地項目，該集群實現(xiàn)了從芯片、云平臺到模型應(yīng)用的全鏈路自主研發(fā)，標(biāo)志著自研先進(jìn)算力正從高端性能突破加速邁向產(chǎn)業(yè)應(yīng)用與算力普惠。

　　南方財經(jīng)記者了解到，該集群在技術(shù)層面實現(xiàn)了多項關(guān)鍵突破。通過卡間RoCE高性能組網(wǎng)、雙平面多軌通信等技術(shù)創(chuàng)新，集群端到端網(wǎng)絡(luò)時延低至4微秒，網(wǎng)絡(luò)峰值利用率超過95%，能夠高效滿足大模型訓(xùn)練過程中AllReduce、AlltoAll等超大流量通信需求，穩(wěn)定承載千億參數(shù)級大模型的預(yù)訓(xùn)練與推理任務(wù)。

　　當(dāng)前，真武芯片整機(jī)提供1.5T大顯存，卡間互聯(lián)帶寬超過700GB/s，為國產(chǎn)算力底座提供了堅實支撐。

　　集群已面向政務(wù)治理、醫(yī)療民生、新興產(chǎn)業(yè)等領(lǐng)域提供算力及應(yīng)用解決方案。在城市治理領(lǐng)域，集群為城市管理與公共安全等場景提供算力底座及“超級搜圖”應(yīng)用，顯著提升海量圖片與視頻數(shù)據(jù)的檢索效率。

　　在醫(yī)療民生領(lǐng)域，上線“全診通”應(yīng)用，面向基層醫(yī)療機(jī)構(gòu)提供診療智能化服務(wù)，已在中山大學(xué)腫瘤防治中心等醫(yī)院開展國產(chǎn)化遷移與應(yīng)用試點(diǎn)。在產(chǎn)業(yè)創(chuàng)新領(lǐng)域，集群為電子信息、先進(jìn)材料、生物醫(yī)藥、裝備制造、低空經(jīng)濟(jì)等新型產(chǎn)業(yè)提供模型訓(xùn)練、推理與調(diào)優(yōu)服務(wù)，助力企業(yè)加速研發(fā)迭代與智能化升級，有效縮短創(chuàng)新周期。

　　算力普惠是此次集群上線的核心亮點(diǎn)。憑借集群規(guī)模優(yōu)勢，與芯片-算力云平臺-模型架構(gòu)的全棧自研和深度協(xié)同的技術(shù)優(yōu)勢，相較傳統(tǒng)單機(jī)部署模式，“真武”智算集群的單卡吞吐性能提升達(dá)9.3倍， 每秒Token生成總量提升近10倍，每百萬Token的算力成本同比大幅下降。

　　在生態(tài)兼容方面，“真武”芯片全面適配主流AI生態(tài)，自研軟件棧高效適配各類主流模型、框架、算子庫及操作系統(tǒng)，具備統(tǒng)一的編程接口，可端到端支持用戶自主業(yè)務(wù)落地與擴(kuò)展，大幅降低客戶遷移成本。

　　為進(jìn)一步推動算力普惠，該集群資源同步在“廣東電信算力超市”上線，通過集約運(yùn)營，面向中小企業(yè)提供按卡、按小時計費(fèi)的算力零售服務(wù)。同時，集群未來預(yù)計持續(xù)擴(kuò)容至十萬卡規(guī)模，致力于打造面向各關(guān)鍵行業(yè)領(lǐng)域的國家級智能算力服務(wù)平臺，惠及大灣區(qū)更多科研機(jī)構(gòu)、企業(yè)和政府單位以更低成本、更高效率使用算力資源。