北京2024年8月15日 /美通社/ -- 日前在2024開放計算中國峰會上，浪潮信息服務器產品線總經理趙帥表示，智能時代，開源模型和開放計算激發了人工智能產業生態的創新活力，面對大模型Scaling Law帶來的AI基礎設施Scale up和Scale out的挑戰，數據中心需要以開放創新加速算力系統、管理和基礎設施的全向Scale進程，推動AI產業的創新發展。

開源開放推動人工智能創新與算力生態的全面發展

生成式人工智能的飛躍式進步正在加速智能時代的到來，數據中心基礎設施面臨全方位創新，將越來越依賴更加廣泛的全球化開放協作，加速AI技術創新與應用，共同構建一個充滿創新活力的智能世界，而激發人工智能創新活力，開源開放是核心和源泉。

模型開源激發人工智能創新活力。隨著開源大模型能力的不斷增強和開源生態的持續壯大，帶動模型、應用到產業的全面發展，三分之二的基礎模型選擇開源，超過80%以上的AI項目使用開源框架進行開發，開源模型的下載量突破3億次，并衍生出超過 3萬個新模型，Llama 3.1、通義千問、源2.0等開源大模型成為人工智能創新的驅動力。

硬件開放完善人工智能算力生態。人工智能帶來指數級增長的算力需求，全球已有上百家公司投入新型AI芯片的研發與設計，百花齊放的算力芯片需要統一的算力平臺才能快速推向市場，實現落地。開放加速規范OAM的出現大大加速多元算力芯片的適配兼容過程，大幅降低資源投入，使算力部署和迭代提速，支撐上層大模型和AIGC應用的快速迭代成熟。目前，90% 高端AI芯片基于OAM規范設計，去年浪潮信息剛剛發布的基于OAM規范的開放加速計算平臺NF5698G7與多款主流AI加速芯片適配兼容，基于OAM的智算產業生態圈日趨完善。

我們可以看到，AI時代，算力正在呈現出多元化的發展趨勢。為應對AIGC、云計算、大數據等應用復雜且不斷變化的計算需求，不僅僅是GPU，CPU、FPGA、ASIC等芯片也在朝著更加多樣化和專用化的方向發展。而且無論是手機、電腦、邊緣設備、CPU通用服務器、加速服務器都具有了AI計算的能力，可以說一切計算皆AI，AI算力已經深入到千行百業，滲透進每一個計算設備里。面向人工智能的算力范式不斷革新，基于CPU的通用服務器不僅要承載大數據、關鍵計算、科學計算外，也要承擔AI應用的重要任務，這也是CPU通用服務器的重大機遇。

但隨著應用范式的多樣化，目前x86、ARM、RISC-V等不同架構的CPU處理器百花齊放，僅中國，就有10多種CPU處理器，不同CPU協議標準不統一，同時為了更好的適合AI推理高并行的計算特點，CPU總線互聯帶寬、內存帶寬及容量也需要特別優化，使得系統功耗、總線速率、電流密度不斷提升……多種因素疊加之下，硬件開發、固件適配、部件測試資源等時間激增，給算力系統設計帶來巨大挑戰。

為了縮短從芯片到算力系統的轉化時間，給用戶提供更快、更好的算力支撐，CPU端也亟需構建智算時代的CPU統一底座， 能夠兼容不同芯片廠商、多代產品。2024開放計算中國峰會上，開放算力模組（OCM）規范正式啟動，首批成員包括中國電子標準院、百度、小紅書、浪潮信息、聯想、超聚變、英特爾、AMD等機構和企業。

全新的開放算力模組OCM規范，旨在建立基于處理器的標準化算力模組單元，通過統一不同處理器算力單元對外高速互連、管理協議、供電接口等，實現服務器主板平臺的深度解耦和模塊化設計，兼容不同架構的多代處理器芯片，方便客戶根據人工智能、云計算、大數據等多樣化應用場景，靈活、快速匹配最適合的算力平臺，推動算力產業高質量快速發展。

OCM規范是國內首個服務器計算模組設計規范，產業界上下游伙伴將基于OCM規范，共同建立標準化的算力模組單元，構建開放合作、融合創新的產業生態，為用戶提供更多通用性強、綠色高效、安全可靠的算力選擇。

以開放創新的全向Scale應對大模型第一性原理

算力、算法和數據是推動人工智能發展的三駕馬車，自Transformer架構出現以來，大模型性能與其參數量、計算當量、數據量的協同作用尤為顯著，業界稱之為大語言模型的第一性原理——Scaling Law。

智算時代，需要用開放的理念來加速算力系統全向Scale，從而應對大模型的Scaling Law。隨著大模型能力的持續進化，算法規模和復雜性不斷增加、數據量越來越大，算力需求也在不斷攀升，需要同時應對單系統性能提升Scale up與多系統大規模擴展Scale out兩個方向擴展的挑戰，對數據中心基礎設施、算力管理、迭代升級等都提出了更高要求。

在算力方面，智算中心需要同時應對兩個方向的擴展，分別是強算力支持、一機多芯、多元多模的單機系統Scale up要求和大規模AI組網、高帶寬、資源池化的大規模化擴展Scale out要求，以開放加速模組和開放網絡實現算力的Scale。UBB2.0開放標準支持更高算力規格的加速卡、可以實現更大的OAM domain互聯，未來可以支持8000+ 張加速卡Scale up，突破大模型All to All通信過程中的互聯瓶頸。同時，大模型的發展需要更大規模的算力系統，浪潮信息開放網絡交換機可實現16000+個計算節點10萬+加速卡的Scale out組網，滿足加速卡之間的互聯通信需求，帶寬利用率高達95%+。

在管理方面，需要解決跨平臺適配、模塊化架構、快速迭代的Scale要求，以開放的固件解決方案實現了管理的Scale。當前，異構算力多元分化，異步迭代，管理接口規范各不相同，導致固件平臺分支版本龐大，相互割裂，無法歸一，單一企業資源在維護和適配如此眾多的分支版本方面捉襟見肘。為解決一系列管理挑戰，需要依托于開源社區的開源固件平臺，構建原生解耦架構提升可擴展性，建立統一標準的接口規范，支持用戶對于自主模塊進行定制化，實現標準接口規范下的異步、自主定制迭代，以滿足智算時代的算力迭代需求。

在基礎設施方面，數據中心面臨智能算力擴展的兩大Scale挑戰：一是GPU、CPU算力提升，單芯片單卡功耗急劇增加，單機柜在供電和制冷上面臨著Scale up支撐挑戰；同時，Scaling Law驅動GPU規模無限膨脹，達到萬卡、十萬卡級別，帶來了數據中心層級Scale out的支撐挑戰，需要開放標準和開放生態將實現基礎實施的Scale，滿足快速建設、高算力/高能耗支撐要求。采用開放標準、開放生態構建的數據中心基礎設施，能更好地匹配智算時代多元、異構算力的擴展和迭代速度，進而支撐上層智能應用的進一步普及。以浪潮信息為例，基于開放標準推出的液冷冷板組件，支撐單機系統內GPU和CPU核心算力原件Scale up擴展；推出模塊化、標準接口的120kw機柜，兼容液冷、風冷場景，支撐柜內更大的部署需求；推出基于開放標準的預制化集裝箱數據中心，大幅壓縮建設周期，其擴展性很好的滿足了AI算力系統的Scale需要。

開放計算為數據中心的全向Scale，提供了一個可以迅速傳遞到整個產業鏈的"通道"。 目前，開放加速模組和開放網絡實現了算力的Scale，開放固件解決方案實現了管理的Scale，開放標準和開放生態實現了基礎設施的Scale。開放計算對于智算時代至關重要，需要用開放應對多元算力，用開放促進算力的Scale，基于開放創新構建的全向Scale能力將會成為未來AI基礎設施的核心驅動力，加速智算時代的創新，加速人工智能的前行。