人工智能計(jì)算數(shù)據(jù)中心橫向擴(kuò)展（Scale-out）網(wǎng)絡(luò)測(cè)試方法標(biāo)準(zhǔn)立項(xiàng)發(fā)展報(bào)告

人工智能計(jì)算數(shù)據(jù)中心橫向擴(kuò)展（Scale-out）網(wǎng)絡(luò)測(cè)試方法標(biāo)準(zhǔn)立項(xiàng)發(fā)展報(bào)告英文標(biāo)題StandardizationDevelopmentReport:TestingMethodsforScale-outNetworksinArtificialIntelligenceComputingDataCenters摘要隨著人工智能技術(shù)的飛速發(fā)展，特別是大模型訓(xùn)練的興起，對(duì)計(jì)算數(shù)據(jù)中心提出了前所未有的算力和網(wǎng)絡(luò)需求。橫向擴(kuò)展（Scale-out）網(wǎng)絡(luò)作為連接大規(guī)模GPU集群的關(guān)鍵基礎(chǔ)設(shè)施，其性能直接決定了AI訓(xùn)練效率和模型迭代速度。然而，當(dāng)前業(yè)界缺乏針對(duì)AI計(jì)算數(shù)據(jù)中心Scale-out網(wǎng)絡(luò)的統(tǒng)一測(cè)試方法，導(dǎo)致不同廠商的設(shè)備性能無法進(jìn)行客觀、公正的橫向?qū)Ρ龋W(wǎng)絡(luò)部署與運(yùn)維缺乏科學(xué)依據(jù)，嚴(yán)重制約了AI基礎(chǔ)設(shè)施的健康發(fā)展。本標(biāo)準(zhǔn)《人工智能計(jì)算數(shù)據(jù)中心橫向擴(kuò)展（Scale-out）網(wǎng)絡(luò)測(cè)試方法》（YD/T6959-2026）正是在此背景下應(yīng)運(yùn)而生。報(bào)告首先闡述了AI計(jì)算對(duì)Scale-out網(wǎng)絡(luò)的特殊需求與當(dāng)前面臨的測(cè)試標(biāo)準(zhǔn)空白。其次，詳細(xì)介紹了標(biāo)準(zhǔn)的核心內(nèi)容，包括測(cè)試拓?fù)洹y(cè)試場(chǎng)景、性能指標(biāo)（如吞吐量、時(shí)延、丟包率、流完成時(shí)間、多路徑負(fù)載均衡效率等）及對(duì)應(yīng)的測(cè)試方法。然后，報(bào)告重點(diǎn)分析了標(biāo)準(zhǔn)的主要參與單位，如中國信息通信研究院。最后，報(bào)告總結(jié)了本標(biāo)準(zhǔn)對(duì)規(guī)范AI網(wǎng)絡(luò)設(shè)備市場(chǎng)、指導(dǎo)數(shù)據(jù)中心規(guī)劃建設(shè)、提升AI訓(xùn)推算力效率的重要價(jià)值，并對(duì)未來面向更大規(guī)模、更高性能AI網(wǎng)絡(luò)的測(cè)試標(biāo)準(zhǔn)演進(jìn)方向進(jìn)行了展望。關(guān)鍵詞：人工智能；計(jì)算數(shù)據(jù)中心；橫向擴(kuò)展網(wǎng)絡(luò)；測(cè)試方法；性能測(cè)試；網(wǎng)絡(luò)基準(zhǔn)測(cè)試；標(biāo)準(zhǔn)化Keywords:ArtificialIntelligence;ComputingDataCenter;Scale-outNetwork;TestingMethod;PerformanceTesting;NetworkBenchmarking;Standardization正文一、研究背景與標(biāo)準(zhǔn)立項(xiàng)必要性1.1人工智能與算力基礎(chǔ)設(shè)施的深刻變革當(dāng)前，以深度學(xué)習(xí)為代表的人工智能技術(shù)正從單模態(tài)向多模態(tài)、從專用小模型向通用大模型快速演進(jìn)。模型參數(shù)規(guī)模從數(shù)百億邁向萬億甚至更高維度，訓(xùn)練數(shù)據(jù)集的容量也呈指數(shù)級(jí)增長。這直接導(dǎo)致對(duì)算力的需求突破了單個(gè)或少數(shù)幾個(gè)服務(wù)器節(jié)點(diǎn)所能提供的極限。由此，人工智能計(jì)算數(shù)據(jù)中心（AIComputingDataCenter，簡稱AIDC）的建設(shè)模式從傳統(tǒng)的縱向擴(kuò)展（Scale-up）轉(zhuǎn)向了以GPU集群為核心的橫向擴(kuò)展（Scale-out）架構(gòu)。在這種架構(gòu)下，成千上萬個(gè)計(jì)算節(jié)點(diǎn)通過高性能網(wǎng)絡(luò)互連，形成一個(gè)巨大的“虛擬超級(jí)計(jì)算機(jī)”，以并行計(jì)算的方式完成復(fù)雜的模型訓(xùn)練任務(wù)。1.2Scale-out網(wǎng)絡(luò)在AI訓(xùn)推中的核心地位在Scale-out架構(gòu)中，網(wǎng)絡(luò)不再是簡單的數(shù)據(jù)傳輸通道，而是決定整體算力效率的關(guān)鍵瓶頸，被譽(yù)為“AI工廠的生命線”。大模型訓(xùn)練通常采用數(shù)據(jù)并行、模型并行或流水線并行等技術(shù)，這些技術(shù)都依賴于在訓(xùn)練節(jié)點(diǎn)之間頻繁、高效地同步梯度和參數(shù)。一次典型的模型訓(xùn)練迭代中，甚至可能包含數(shù)次到數(shù)十次的全網(wǎng)集體通信（如AllReduce、AllGather等）。網(wǎng)絡(luò)性能的微小波動(dòng)，如微秒級(jí)的時(shí)延增加或毫秒級(jí)的擁塞，都可能被放大為訓(xùn)練效率的顯著下降，導(dǎo)致GPU因等待數(shù)據(jù)而處于閑置狀態(tài)，即“算力空轉(zhuǎn)”。因此，Scale-out網(wǎng)絡(luò)的吞吐量、時(shí)延、丟包率、流完成時(shí)間（FCT）以及多路徑負(fù)載均衡能力，直接關(guān)系到整個(gè)AI集群的MFU（模型算力利用率）和訓(xùn)練總時(shí)長。1.3標(biāo)準(zhǔn)化缺失帶來的行業(yè)痛點(diǎn)盡管各大設(shè)備廠商、云服務(wù)商和芯片公司都在積極研發(fā)面向AI的Scale-out網(wǎng)絡(luò)技術(shù)（如基于RoCEv2的RDMA網(wǎng)絡(luò)、InfiniBand網(wǎng)絡(luò)等），但市場(chǎng)面臨一個(gè)嚴(yán)峻問題：缺乏統(tǒng)一的、行業(yè)公認(rèn)的網(wǎng)絡(luò)性能測(cè)試方法。這導(dǎo)致：1.選型困難：用戶在對(duì)不同廠商的網(wǎng)絡(luò)產(chǎn)品進(jìn)行選型時(shí)，缺乏標(biāo)準(zhǔn)化的測(cè)試基準(zhǔn)，廠商提供的性能數(shù)據(jù)往往因測(cè)試環(huán)境、負(fù)載模型、指標(biāo)定義不一致而無法直接比較。2.部署無據(jù)可依：網(wǎng)絡(luò)部署后的驗(yàn)收測(cè)試缺乏規(guī)范流程，難以評(píng)估網(wǎng)絡(luò)的實(shí)際承載能力是否達(dá)到了設(shè)計(jì)目標(biāo)。3.運(yùn)維挑戰(zhàn)：網(wǎng)絡(luò)運(yùn)維團(tuán)隊(duì)缺乏標(biāo)準(zhǔn)化的診斷工具和測(cè)試方法，難以快速定位性能瓶頸，優(yōu)化網(wǎng)絡(luò)配置。4.誤導(dǎo)行業(yè)認(rèn)知：不規(guī)范的測(cè)試可能夸大或掩蓋產(chǎn)品性能，誤導(dǎo)行業(yè)發(fā)展方向。因此，制定一項(xiàng)專門針對(duì)AI計(jì)算數(shù)據(jù)中心Scale-out網(wǎng)絡(luò)的測(cè)試方法標(biāo)準(zhǔn)，成為當(dāng)前算力產(chǎn)業(yè)發(fā)展的迫切需求。二、標(biāo)準(zhǔn)主要內(nèi)容與關(guān)鍵技術(shù)點(diǎn)本標(biāo)準(zhǔn)《人工智能計(jì)算數(shù)據(jù)中心橫向擴(kuò)展（Scale-out）網(wǎng)絡(luò)測(cè)試方法》（以下簡稱“本標(biāo)準(zhǔn)”）旨在填補(bǔ)上述空白。標(biāo)準(zhǔn)主要內(nèi)容包括：2.1范圍與規(guī)范性引用文件本標(biāo)準(zhǔn)明確規(guī)定了AI計(jì)算數(shù)據(jù)中心中Scale-out網(wǎng)絡(luò)的測(cè)試環(huán)境、測(cè)試拓?fù)洹y(cè)試儀表、測(cè)試指標(biāo)和具體測(cè)試方法。標(biāo)準(zhǔn)主要面向采用InfiniBand、基于RoCEv2的以太網(wǎng)等高性能互連技術(shù)的Scale-out網(wǎng)絡(luò)。規(guī)范性引用文件涵蓋了IEEE、IETF、以及國內(nèi)相關(guān)的基礎(chǔ)網(wǎng)絡(luò)測(cè)試標(biāo)準(zhǔn)，確保本標(biāo)準(zhǔn)的技術(shù)體系與底層標(biāo)準(zhǔn)保持一致。2.2術(shù)語與定義本標(biāo)準(zhǔn)定義了系列關(guān)鍵術(shù)語，如“橫向擴(kuò)展（Scale-out）網(wǎng)絡(luò)”、“集合通信”、“流完成時(shí)間(FlowCompletionTime,FCT)”、“多路徑負(fù)載均衡效率(Multi-pathLoadBalancingEfficiency,MLB-Efficiency)”、“零丟包率”、“擁塞控制”等，統(tǒng)一了行業(yè)語言。特別地，它首次在行業(yè)標(biāo)準(zhǔn)層面明確了針對(duì)AI場(chǎng)景的“有效吞吐量(EffectiveThroughput)”概念，即考慮集合通信同步開銷后的實(shí)際數(shù)據(jù)搬移效率。2.3測(cè)試拓?fù)渑c配置本標(biāo)準(zhǔn)規(guī)定了典型的單機(jī)架、多機(jī)架和跨Pod的三種測(cè)試拓?fù)淠Ｐ停赃m應(yīng)不同規(guī)模AI集群的需求。同時(shí)，對(duì)測(cè)試環(huán)境中的服務(wù)器（GPU集群）、網(wǎng)卡、交換機(jī)、線纜等硬件配置提出了基本要求，并強(qiáng)調(diào)測(cè)試前需對(duì)網(wǎng)絡(luò)進(jìn)行基線調(diào)整，如完成擁塞控制算法的校準(zhǔn)。2.4核心測(cè)試方法與性能指標(biāo)這是本標(biāo)準(zhǔn)的核心部分，涵蓋了從基本單流性能到復(fù)雜集合通信的全方位測(cè)試內(nèi)容。|測(cè)試類別|關(guān)鍵性能指標(biāo)(KPI)|測(cè)試方法核心要點(diǎn)||:---|:---|:---||基礎(chǔ)性能測(cè)試|單流/多流吞吐量、端到端時(shí)延、最大時(shí)延差、零丟包速率|采用標(biāo)準(zhǔn)網(wǎng)絡(luò)性能測(cè)試工具（如iperf,sockperf等），模擬傳統(tǒng)網(wǎng)絡(luò)負(fù)載，驗(yàn)證網(wǎng)絡(luò)物理層和鏈路層的基本性能。||集合通信性能測(cè)試|AllReduce帶寬、AllGather帶寬、ReduceScatter帶寬；<br>集合通信時(shí)延（針對(duì)不同消息大小）、算法效率|采用基于MPI或NCCL/RCCL等集合通信庫的測(cè)試基準(zhǔn)（如osu-micro-benchmarks），模擬AI訓(xùn)練中實(shí)際的梯度同步過程。重點(diǎn)測(cè)試在不同數(shù)據(jù)量傳輸下的聚合帶寬和時(shí)延。||多路徑負(fù)載均衡測(cè)試|多路徑負(fù)載均衡效率(MLB-Efficiency)、<br>數(shù)據(jù)流分布均勻性（熵值計(jì)算）|通過構(gòu)造多對(duì)多的通信模式（如All-to-All），利用交換機(jī)的流表統(tǒng)計(jì)和端側(cè)網(wǎng)卡的統(tǒng)計(jì)分析，衡量多路徑算法能否有效利用所有可用的網(wǎng)絡(luò)鏈路，避免局部擁塞。||長尾效應(yīng)與可靠性測(cè)試|尾時(shí)延、流完成時(shí)間(FCT)分布、丟包恢復(fù)時(shí)間|在背景背景流下注入突發(fā)流量，模擬真實(shí)訓(xùn)練環(huán)境的擁塞場(chǎng)景，測(cè)量網(wǎng)絡(luò)在復(fù)雜負(fù)載下的性能穩(wěn)定性和抗干擾能力。這直接關(guān)系到訓(xùn)練輪次時(shí)間的穩(wěn)定性。||擁塞控制與ECN測(cè)試|ECN（顯式擁塞通知）信號(hào)有效性、<br>發(fā)送端降速響應(yīng)時(shí)間、<br>隊(duì)列深度控制精度|通過注入可控的擁塞流量，觀測(cè)交換機(jī)是否準(zhǔn)確打上ECN標(biāo)記，以及發(fā)送端（網(wǎng)卡）是否根據(jù)反饋正確降速。這是衡量RoCEv2網(wǎng)絡(luò)性能的關(guān)鍵。|三、主要參與單位介紹本標(biāo)準(zhǔn)由行業(yè)內(nèi)多家頭部企業(yè)、科研院所及標(biāo)準(zhǔn)化機(jī)構(gòu)共同參與制定。其中，中國信息通信研究院（簡稱“中國信通院”）作為國內(nèi)信息通信領(lǐng)域的頂級(jí)智庫和標(biāo)準(zhǔn)化引領(lǐng)者，在本標(biāo)準(zhǔn)的研制過程中發(fā)揮了核心組織和技術(shù)支撐作用。單位簡介：中國信息通信研究院，始建于1957年，是工業(yè)和信息化部直屬的科研事業(yè)單位。其定位為國家高端專業(yè)智庫、產(chǎn)業(yè)發(fā)展創(chuàng)新平臺(tái)。在標(biāo)準(zhǔn)化領(lǐng)域，中國信通院是ITU-T、3GPP、IEEE等國際標(biāo)準(zhǔn)組織的重要成員，同時(shí)深度參與國內(nèi)通信、互聯(lián)網(wǎng)、人工智能、數(shù)據(jù)中心等領(lǐng)域的行業(yè)標(biāo)準(zhǔn)制定工作。在本標(biāo)準(zhǔn)中的主要貢獻(xiàn)：1.需求調(diào)研與立項(xiàng)推動(dòng)：中國信通院依托其負(fù)責(zé)的“數(shù)據(jù)中心聯(lián)盟”和“人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟”，長期跟蹤AI算力產(chǎn)業(yè)發(fā)展，敏銳地捕捉到了Scale-out網(wǎng)絡(luò)測(cè)試標(biāo)準(zhǔn)缺失的行業(yè)痛點(diǎn)。通過組織多次研討會(huì)和行業(yè)調(diào)研，形成了詳實(shí)的立項(xiàng)報(bào)告，成功推動(dòng)了本標(biāo)準(zhǔn)在行業(yè)標(biāo)準(zhǔn)項(xiàng)目中的立項(xiàng)。2.技術(shù)框架與指標(biāo)設(shè)計(jì)：中國信通院云大所的計(jì)算與存儲(chǔ)團(tuán)隊(duì)，憑借其在數(shù)據(jù)中心網(wǎng)絡(luò)測(cè)試評(píng)價(jià)方面的深厚積累，主導(dǎo)了本標(biāo)準(zhǔn)的核心技術(shù)框架設(shè)計(jì)。他們提出了“從單點(diǎn)到集群、從靜態(tài)到動(dòng)態(tài)、從基礎(chǔ)指標(biāo)到應(yīng)用等效指標(biāo)”的測(cè)試方法論，并創(chuàng)新性地引入了面向AI場(chǎng)景的集合通信效率、多路徑負(fù)載均衡效率等關(guān)鍵指標(biāo)，確保了標(biāo)準(zhǔn)的先進(jìn)性和實(shí)用性。3.試驗(yàn)驗(yàn)證與意見協(xié)調(diào)：在標(biāo)準(zhǔn)起草過程中，中國信通院利用其自建的“數(shù)據(jù)中心網(wǎng)絡(luò)性能評(píng)測(cè)實(shí)驗(yàn)室”，搭建了真實(shí)的AIScale-out網(wǎng)絡(luò)測(cè)試環(huán)境。他們組織華為、新華三、銳捷網(wǎng)絡(luò)、字節(jié)跳動(dòng)、百度等多家參編單位進(jìn)行了聯(lián)合測(cè)試驗(yàn)證（Plugfest），對(duì)標(biāo)準(zhǔn)草案中的各項(xiàng)測(cè)試方法進(jìn)行了實(shí)際可行性驗(yàn)證，并根據(jù)驗(yàn)證結(jié)果優(yōu)化了測(cè)試流程和指標(biāo)閾值。同時(shí)，在標(biāo)準(zhǔn)征求意見階段，中國信通院作為秘書處單位，積極協(xié)調(diào)各方意見，確保標(biāo)準(zhǔn)內(nèi)容能夠最大程度地反映行業(yè)共識(shí)，平衡不同技術(shù)路線的利益。簡而言之，中國信通院在本標(biāo)準(zhǔn)的誕生過程中，扮演了“翻譯官”、“設(shè)計(jì)師”和“驗(yàn)證者”的多重角色，是確保本標(biāo)準(zhǔn)具備科學(xué)性、權(quán)威性和可操作性的關(guān)鍵力量。四、結(jié)論與展望1.規(guī)范市場(chǎng)，引導(dǎo)良性競(jìng)爭：為AI網(wǎng)絡(luò)設(shè)備供應(yīng)商提供了公平、透明的“游戲規(guī)則”，有助于打破信息壁壘，促進(jìn)行業(yè)從參數(shù)競(jìng)賽轉(zhuǎn)向真實(shí)的性能提升和用戶體驗(yàn)優(yōu)化。2.指導(dǎo)建維，提升投資回報(bào)：為AI數(shù)據(jù)中心建設(shè)者和運(yùn)營者提供了科學(xué)的評(píng)估工具，使得網(wǎng)絡(luò)規(guī)劃、設(shè)備選型、驗(yàn)收測(cè)試、日常運(yùn)維都有據(jù)可依，有效降低了因網(wǎng)絡(luò)性能不達(dá)標(biāo)而導(dǎo)致的算力浪費(fèi)，大幅提升了AI基礎(chǔ)設(shè)施的投資回報(bào)率（ROI）。3.促進(jìn)創(chuàng)新，加速技術(shù)演進(jìn)：明確了技術(shù)攻關(guān)的方向，鼓勵(lì)企業(yè)在集合通信算法、擁塞控制、負(fù)載均衡等關(guān)鍵技術(shù)上持續(xù)創(chuàng)新，推動(dòng)Scale-out網(wǎng)絡(luò)向更高吞吐、更低時(shí)延、更強(qiáng)可靠性的目標(biāo)演進(jìn)。展望未來，隨著AI模型向百萬億、千萬億參數(shù)邁進(jìn)，以及全光網(wǎng)絡(luò)、CXL互連等新技術(shù)的融合應(yīng)用，Scale-out網(wǎng)絡(luò)將面臨更多挑戰(zhàn)。本標(biāo)準(zhǔn)的后續(xù)工作，將在以下方面持續(xù)深化：-向更大規(guī)模延伸：當(dāng)前標(biāo)