本站5月7日消息,作為國家權(quán)威技術(shù)驗(yàn)證平臺(tái),中國信通院構(gòu)建了AI芯片與大模型協(xié)同適配的標(biāo)準(zhǔn)化體系,并開展適配驗(yàn)證工作。
經(jīng)中國信通院檢測,摩爾線程自主研發(fā)的訓(xùn)推一體計(jì)算卡MTT S4000,在推理場景下與DeepSeek-R1 671B大模型的適配結(jié)果,符合“AI芯片和大模型通過性適配要求”,成功通過中國信通院《AI芯片和大模型適配能力通過性評(píng)測軟硬件環(huán)境及測試細(xì)則》推理場景驗(yàn)證。
根據(jù)驗(yàn)證,摩爾線程MTT S4000可實(shí)現(xiàn)正常、穩(wěn)定運(yùn)行,滿足推理使用需求,符合通過性適配驗(yàn)證條件,并獲頒檢測證書。
目前,摩爾線程系列訓(xùn)推一體計(jì)算卡正在開展優(yōu)化性適配驗(yàn)證工作,相關(guān)結(jié)果將在檢測流程結(jié)束后另行公布。
MTT S4000是基于摩爾線程全功能GPU架構(gòu),專為大模型打造的訓(xùn)推一體通用計(jì)算卡,支持FP64、FP32、TF32、FP16、BF16、INT8等各種計(jì)算精度,配備48GB顯存,支持vLLM-MUSA推理框架、MUTLASS、Triton-MUSA等組成的完善MUSA生態(tài)。
它支持摩爾線程自研的MTLink 1.0技術(shù),可實(shí)現(xiàn)多卡互聯(lián)、千卡集群部署,支持千億參數(shù)大模型的訓(xùn)練、微調(diào)和推理。
同時(shí),它還兼具先進(jìn)的圖形渲染、視頻編解碼、超高清8K HDR顯示能力求。
近期,摩爾線程還推出了搭載MTT S4000計(jì)算卡的MCCX DeepSeek大模型一體機(jī),全面支持從蒸餾版到671B參數(shù)全量版DeepSeek模型的部署需求。
鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除,多謝。