【2025年10月29日，北京】作為全國信息技術標準化技術委員會委員，我長期關注AI算力基礎設施的標準化工作。近年來，隨著AI技術的快速發(fā)展，算力需求呈指數(shù)級增長，但算力供給模式卻面臨著成本高企、安全性堪憂、標準不統(tǒng)一等結構性問題。在參與制定相關技術標準的過程中，我們觀察到一個明確的趨勢：AI算力正在從"集中式云端"走向"分布式本地"，從"租賃模式"走向"自主可控"。這不僅是技術演進的自然結果，更是標準化發(fā)展的必然方向。

一、AI算力標準化面臨的三大挑戰(zhàn)

挑戰(zhàn)一：性能評估標準缺失，市場存在"測試混亂"

當前AI算力市場存在一個普遍問題：不同廠商使用不同的性能指標，導致用戶無法橫向比較。

現(xiàn)狀：

• 云廠商強調"TFLOPS"（浮點運算能力）

• 芯片廠商強調"TOPS"（整數(shù)運算能力）

• 服務器廠商強調"功耗比"

• 各自為政，用戶困惑

標準化需求：參考MLPerf等國際基準測試標準，我們在全國信標委推動《信息技術人工智能算力評估規(guī)范》明確提出：

• 統(tǒng)一測試基準：LLaMA推理、Stable Diffusion生成、YOLO目標檢測等實際場景

• 統(tǒng)一評估維度：性能、能效、成本、延遲四位一體

• 統(tǒng)一測試環(huán)境：溫度、濕度、負載條件標準化

DeepX的標準化實踐：東方超算的DeepX G20系列在產品發(fā)布時，主動采用了第三方標準化測試：

• 委托CHAI進行MLPerf      v3.1標準測試

• 公開完整測試報告和測試環(huán)境參數(shù)

• 結果可復現(xiàn)：LLaMA 13B推理779 tok/s，Stable Diffusion XL生成2.10s/張

這種透明化做法，正是標準化推廣的重要實踐。

挑戰(zhàn)二：接口標準不統(tǒng)一，生態(tài)碎片化嚴重

現(xiàn)狀：

• NVIDIA CUDA生態(tài)封閉，供應商鎖定嚴重

• AMD ROCm、Intel oneAPI各自為政

• 國產AI芯片（寒武紀、海光等）接口不兼容

• 開發(fā)者移植成本高，模型無法跨平臺復用

標準化需求：參考ONNX（Open Neural Network Exchange）等開放標準，我們需要：

• 統(tǒng)一的算子標準（Operator          Standard）

• 統(tǒng)一的模型格式（Model          Format）

• 統(tǒng)一的API接口（Runtime          API）

• 統(tǒng)一的部署標準（Deployment          Specification）

DeepX的標準化實踐：DeepX G20系列基于x86架構+開源生態(tài)，天然具備標準化優(yōu)勢：

• 硬件層：Intel x86架構，兼容所有主流操作系統(tǒng)和軟件

• 軟件層：支持ONNX、TensorFlow、PyTorch等主流框架

• 接口層：AppMall提供RESTful API，符合OpenAPI 3.0標準

• 模型層：推動1000+模型的ONNX格式標準化適配

AppMall的生態(tài)開放性，為模型標準化提供了實踐平臺。目前已有130+開發(fā)者上傳標準化模型，形成了良性循環(huán)。

挑戰(zhàn)三：數(shù)據(jù)安全標準滯后，本地化需求爆發(fā)

現(xiàn)狀：

• 《數(shù)據(jù)安全法》《個人信息保護法》要求數(shù)據(jù)本地化

• 煙草、金融、醫(yī)療等行業(yè)數(shù)據(jù)不能上云

• 但云GPU是主流方案，存在合規(guī)風險

• 企業(yè)面臨"要性能還是要合規(guī)"的兩難選擇

標準化需求：參考ISO/IEC 27001信息安全標準和等保2.0要求，我們需要：

• 明確AI算力的數(shù)據(jù)流轉標準

• 建立本地化部署的安全評估體系

• 制定算力設備的等保認證規(guī)范

• 推動"數(shù)據(jù)不出域"的技術標準

DeepX的標準化實踐：DeepX G20系列的100%本地化部署，天然符合數(shù)據(jù)安全標準：

• 數(shù)據(jù)零上傳：所有計算在本地完成，數(shù)據(jù)不經過互聯(lián)網

• 物理隔離：支持內網部署，符合等保三級要求

• 審計能力：AppMall內置日志記錄，可追溯所有操作

二、AI算力標準化的發(fā)展趨勢：從云端到本地

從標準化角度看，AI算力正在經歷一場深刻的范式轉移。

趨勢一：從"租賃為主"到"買斷為主"

傳統(tǒng)模式：

企業(yè)需求 → 購買云GPU → 按小時付費 → 持續(xù)支出→ 數(shù)據(jù)上傳 → 算力調度 → 結果下載

問題：

-長期成本不可控（3年TCO高達數(shù)百萬）

-數(shù)據(jù)安全風險（上傳云端）

-性能波動（共享資源）

-供應商鎖定（遷移成本高）

新模式：

企業(yè)需求 → 購買本地設備 → 一次性投入 → 零邊際成本→ 數(shù)據(jù)本地 → 算力自主 → 零延遲

優(yōu)勢：

• TCO降低95%以上

• 數(shù)據(jù)100%自主可控

• 性能穩(wěn)定可預期

• 無供應商鎖定

從標準化角度，"買斷模式"更符合長期趨勢：

1. 成本可預測：符合企業(yè)財務管理標準

2. 資產可管理：納入固定資產，符合會計準則

3. 安全可審計：滿足等保和合規(guī)要求

4. 生態(tài)可遷移：不依賴單一供應商

DeepX的1824 TOPS算力、4萬元價格，將TCO降至云GPU的1/375，正是這一趨勢的代表性產品。

趨勢二：從"通用算力"到"場景化算力"

傳統(tǒng)云GPU的問題：

• 通用設計，但企業(yè)80%的需求集中在推理而非訓練

• 大而全，但中小企業(yè)只需要"夠用"的算力

• 配置復雜，需要專業(yè)團隊運維

場景化算力的特征：

• 針對推理優(yōu)化（INT8/INT4量化）

• 算力適度（1-2P足以滿足90%企業(yè)需求）

• 開箱即用（3分鐘部署，零運維）

從標準化角度，"場景化"符合ISO 9126質量模型：

• 功能性：滿足實際需求而非堆砌參數(shù)

• 易用性：降低使用門檻，AppMall實現(xiàn)"點擊式部署"

• 效率性：能效比優(yōu)化，功耗僅300W

• 可移植性：1.68kg便攜設計，可跨場景使用

某建筑設計院的案例很能說明問題：他們需要在工地現(xiàn)場演示BIM方案，云GPU需要聯(lián)網+筆記本，延遲高且不穩(wěn)定。DeepX裝進背包，到工地插電就用，客戶現(xiàn)場修改方案、實時渲染，投標中標率從30%提升到70%。這就是場景化算力的價值。

趨勢三：從"硬件采購"到"生態(tài)訂閱"

傳統(tǒng)硬件采購的問題：

• 買完設備就結束，供應商無持續(xù)服務動力

• 模型升級、功能迭代需要重新采購

• 客戶學習成本高，復購率低

生態(tài)訂閱模式的特征：

• 硬件是"入口"，生態(tài)是"價值"

• AppMall持續(xù)更新模型，硬件持續(xù)增值

• 客戶深度綁定，LTV是硬件價格的5-8倍

從標準化角度，"生態(tài)模式"符合服務化趨勢：

• 符合ISO/IEC     20000服務管理標準

• 建立持續(xù)改進機制（PDCA循環(huán)）

• 形成客戶成功體系（Customer          Success）

AppMall目前1,247個模型，月新增85個，這個速度是任何企業(yè)內部團隊無法達到的。某量化私募反饋：他們每月在AppMall測試10-15個新策略模型，創(chuàng)新速度提升50倍。硬件會折舊，但生態(tài)會增值。

三、DeepX G20系列的標準化設計理念

作為東方超算創(chuàng)始人，我在設計DeepX系列時，始終將標準化作為核心原則。

設計原則一：架構開放，拒絕生態(tài)封閉

選擇x86而非ARM/專用芯片的理由：

• x86是事實上的工業(yè)標準，40年生態(tài)積累

• 兼容所有主流操作系統(tǒng)（Windows/Linux/macOS）

• 支持所有AI框架（TensorFlow/PyTorch/ONNX）

• 開發(fā)者零學習成本，模型直接遷移

對比：

這個選擇犧牲了部分性能，但換來了標準化和生態(tài)開放性。從長期看，這是正確的。

設計原則二：性能透明，接受標準化測試

我們主動做了三件事：

1. 委托第三方測試：基于MLPerf     v3.1標準測試

2. 公開測試數(shù)據(jù)：完整報告發(fā)布在官網，任何人可下載

3. 接受復現(xiàn)驗證：提供測試代碼和環(huán)境配置

測試結果（MLPerf v3.1標準）：

• LLaMA 13B推理：779 tok/s（vs 參照系統(tǒng)612 tok/s，+27%）

• Stable     Diffusion      XL：2.10s/張（vs         參照系統(tǒng)3.33s，+58%）

• YOLOv8目標檢測：186 FPS（vs 參照系統(tǒng)67 FPS，+178%）

這種透明化，正是標準化推廣的基礎。我們歡迎任何機構重復測試，如果發(fā)現(xiàn)數(shù)據(jù)不符，我們承諾退貨退款。

設計原則三：生態(tài)開放，推動模型標準化

AppMall的三個標準化目標：

1. 模型格式標準化

• 推動所有模型轉為ONNX格式

• 當前1,247個模型，82%已完成ONNX轉換

• 目標：2025年底100%標準化

2. API接口標準化

• 遵循OpenAPI            3.0規(guī)范

• RESTful            API設計，支持跨平臺調用

• 開發(fā)者可用任何語言接入（Python/Java/Go/Node.js）

3. 部署流程標準化

• 一鍵部署：3分鐘完成模型部署

• 零配置：自動優(yōu)化參數(shù)，無需手動調優(yōu)

• 可復現(xiàn)：記錄所有部署參數(shù),支持導出

某醫(yī)療機構的案例：他們在AppMall部署了8個AI診斷模型（肺結節(jié)、骨折、腦卒中等），所有模型都是ONNX格式，部署流程完全一致。如果未來更換硬件平臺，這8個模型可以零成本遷移。這就是標準化的價值。

四、標準化工作的未來方向與產業(yè)建議

作為全國信標委委員，我認為AI算力標準化還有很多工作要做：

方向一：建立統(tǒng)一的性能測試標準

當前問題：

• 各廠商自說自話，測試方法不統(tǒng)一

• 用戶無法橫向比較產品

建議：

• 推動《AI算力基準測試規(guī)范》國家標準制定

• 建立第三方測試認證機制

• 強制要求廠商公開測試數(shù)據(jù)

東方超算承諾：我們愿意開放DeepX的所有測試數(shù)據(jù)，供標準制定參考。

方向二：推動模型格式標準化

當前問題：

• TensorFlow/PyTorch/ONNX等格式并存

• 模型移植成本高

建議：

• 推廣ONNX為國家推薦標準

• 建立模型格式轉換工具庫

• 鼓勵企業(yè)開放模型

東方超算承諾：AppMall將在2026年實現(xiàn)100%模型ONNX化，并開源轉換工具。

方向三：制定數(shù)據(jù)安全合規(guī)標準

當前問題：

• 本地化部署缺乏評估標準

• 企業(yè)不知道如何選型

建議：

• 制定《AI算力本地化部署安全規(guī)范》

• 建立等保認證體系

• 明確不同行業(yè)的合規(guī)要求

東方超算承諾：我們愿意將DeepX的安全設計經驗貢獻給標準制定，并配合相關部門完善認證體系。

五、結語：標準化是產業(yè)健康發(fā)展的基石

AI算力產業(yè)正處于從無序競爭到標準化發(fā)展的關鍵轉折點。

作為從業(yè)者，我有三點體會：

第一，標準化不是約束，而是賦能。

• 統(tǒng)一標準降低了用戶的選型成本

• 開放生態(tài)降低了開發(fā)者的遷移成本

• 透明測試增強了市場的信任基礎

第二，本地化是趨勢，而非倒退。

• 云計算解決了"算力稀缺"問題

• 本地化解決了"成本和安全"問題

• 兩者將長期共存,各有適用場景

第三，生態(tài)開放才能走得長遠。

• 封閉生態(tài)短期獲利，長期受限

• 開放生態(tài)短期投入，長期共贏

• AppMall的1,247個模型，就是開放的成果

東方超算DeepX G20系列只是標準化實踐的一個案例。我們希望看到更多企業(yè)參與標準化工作，共同推動AI算力產業(yè)健康發(fā)展。

當然，DeepX也存在待改進之處：

• 在超大規(guī)模集群部署方面，尚缺乏統(tǒng)一的調度標準

• 能效測試方法需要進一步與國際標準對接

• 跨平臺模型遷移工具仍需完善

這些問題的解決，需要全行業(yè)共同努力，也是我們在全國信標委推動標準制定的重點方向。

關于作者

本文作者現(xiàn)任東方超算（深圳）科技有限公司創(chuàng)始人，全國信息技術標準化技術委員會委員，長期從事云計算、高性能計算、存儲、算力基礎設施的研發(fā)和標準化工作。本文觀點代表作者個人，不代表全國信標委立場。

關于東方超算

東方超算（深圳）科技有限公司是東方材料（603110.SH）全資子公司，專注于便攜式企業(yè)級AI算力解決方案。核心產品DeepX G20系列和AppMall.ai應用商城，致力于通過標準化、本地化、生態(tài)化，讓AI算力真正普及到千行百業(yè)。