Halloween DealsAmazon USHalloween week deals: useful picks before month-endAmazon US: current deals, useful picks and tech finds.Check DealsClean PCRecommendedOne scan can reveal what keeps slowing WindowsLook for cleanup and repair opportunities.Run ScanHalloween DealsAmazon USOctober picks are moving - compare before checkoutAmazon US: current deals, useful picks and tech finds.See Picks×
FREEDOM251

Freedom251 › Blog › AI 基礎設施

NVIDIA 發布面向系統製造商的 MGX 模組化伺服器參考架構

By Freedom251 Team · · 1 min read

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

直接答案:NVIDIA MGX 不是一台固定型號的伺服器,也不是所有細節都可自由下載的通用標準,而是 NVIDIA 面向 OEM、ODM 和系統整合商的模組化伺服器參考架構。它把 CPU、GPU、DPU、網路、機箱、電源、散熱與軟體驗證組合成可重複使用的設計積木,讓製造商能較快推出 AI、HPC、圖形和電信系統。

NVIDIA 於 2023 年 5 月 28 日 COMPUTEX 發布 MGX,當時宣稱架構可支援超過 100 種系統變體,開發成本最多降低四分之三、開發時間縮短三分之二至約六個月。這些是 NVIDIA 當時的官方預估,不是所有製造商都獨立驗證的保證。

As an Amazon Associate I earn from qualifying purchases.

為什麼需要 MGX

AI 與 HPC 伺服器的每一代 GPU、CPU、DPU 和網路組件,都可能迫使製造商重新設計主機板、供電、散熱、機箱、韌體與驗證流程。同一家公司又要同時服務訓練、推理、HPC、Omniverse、企業圖形及電信市場,重複工程很快成為上市瓶頸。

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

MGX 的方法是把共用的機械、電氣和管理設計固定下來,只替換部分運算或互連模組。製造商因此可把工程資源轉向散熱、管理軟體、客製化和現場服務,而不必每一代從零開始。

#1 Best Overall
PNY NVIDIA RTX 2000 Ada Generation 16GB GDDR6 PCI Express 4.0 Dual Slot, Low Profil 4X MiniDisplayPort, 8K Support, Ultraleiser Aktiver Lüfter
  • NVIDIA Ada Lovelace Architecture
  • Graphics memory: 16GB GDDR6 with ECC
  • CUDA cores: 2816
  • Tensor cores: 88
  • Raytrace cores: 22

2023 年首批採用者包括 ASRock Rack、ASUS、GIGABYTE、Pegatron、QCT 和 Supermicro。NVIDIA 的發布公告見於 NVIDIA Newsroom。

MGX 究竟包含哪些層次

  • 參考架構:規定運算、加速、網路與管理模組如何組合。
  • 機械與機櫃:早期涵蓋 1U、2U、4U,後續延伸至 6U 和機櫃級設計。
  • 運算:可採用 NVIDIA GPU、Grace、GH200、Vera、x86 及其他 Arm CPU。
  • 互連與網路:整合 PCIe、NVLink、BlueField DPU、ConnectX、Spectrum-X Ethernet 和 Quantum InfiniBand。
  • 資料中心整合:涉及液冷、電源、機櫃、儲存、連接器和維護流程。
  • 軟體與驗證:由 NVIDIA 驅動程式、韌體、軟體堆疊及合作夥伴測試共同完成。

可組合不代表任意混插。主機板、BIOS、PCIe 通道、供電、散熱、驅動程式和 NVIDIA 驗證矩陣,仍會限制實際配置。

2023 年發布時的組件範圍

類別 發布時列出的選項
機箱 1U、2U、4U;氣冷或液冷
GPU H100、L40、L4 及 NVIDIA GPU 產品組合
CPU Grace CPU Superchip、GH200 Grace Hopper Superchip、x86 CPU
網路 BlueField-3 DPU、ConnectX-7 網路介面卡
用途 AI、HPC、Omniverse,並可延伸至電信

上表是 2023 年的發布內容,不是 2026 年完整產品清單。現行 MGX 平台頁面已列出 Blackwell、Vera、Rubin、第三代 rack-scale、Spectrum-X、Quantum、AI 原生儲存、液冷及 800 VDC 等方向,詳見 NVIDIA MGX Platform。

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

MGX 如何組成一台系統

典型設計可理解為以下積木:

CPU/主機模組 + GPU/加速器 + PCIe 或 NVLink 互連 + DPU/SuperNIC + 記憶體與儲存 + 機箱、電源、散熱 + NVIDIA 軟體與驗證。

Rank #2
NVIDIA Quadro RTX 6000
  • CUDA Cores: 4608 / NVIDIA Tensor Cores: 576 / NVIDIA RT Cores: 72
  • GPU Memory: 24 GB GDDR6 with ECC / Bandwidth: 624 GB/Sec
  • System Interface: PCI Express 3.0 x16
  • Four DisplayPort 1.4 Connectors
  • 3D Stereo Support with Stereo Connector

製造商可依工作負載調整 GPU 數量、CPU 類型、DPU、PCIe 或 NVLink 拓撲、氣冷或液冷,以及單機、節點群集或機櫃級部署。但每一個組合都要通過相應的電氣、機械、韌體和熱設計驗證。

MGX 與 HGX 有何不同

項目 MGX HGX
定位 可延伸的模組化系統參考架構 以多 GPU NVLink 基板為核心的高密度平台
彈性 可組合 CPU、GPU、DPU、網路、機箱與多種外形 更聚焦於高階多 GPU 加速節點
主要優勢 多產品變體、跨世代設計重用、較快開發 GPU 間高頻寬互連與密集加速
典型使用者 OEM、ODM、系統整合商和雲端建置者 高階 AI/HPC 系統製造商與部署者

兩者不是高低階關係。需要高密度、對稱多 GPU 訓練節點時,HGX 可能更合適;需要多種外形、CPU 和網路組合時,MGX 的設計彈性更有價值。NVIDIA 對兩者的定位說明見 發布公告。

從單機伺服器走向 AI 工廠

2023:模組化單機

最初重點是 1U、2U、4U 伺服器,以及 H100、L40、L4、Grace、GH200、BlueField-3 和 ConnectX-7 等組件。

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

2024:機櫃與托盤規格

Open Compute Project 收錄了由 NVIDIA 撰寫的 MGX Accelerated Computing Rack and Trays Specification,版本頁面標示有效日期為 2024 年 8 月 29 日。這是 OCP 社群中的相關機櫃與托盤文件,不代表 MGX 全部內容都已開放標準化:OCP 規格文件。

2025–2026:6U、液冷與 rack-scale

NVIDIA 2025 年介紹了面向液冷 RTX PRO 6000 Blackwell Server Edition 的 6U MGX 設計,並提到 BlueField-3、ConnectX-8 SuperNIC 和 PCIe Gen 6。文章使用「預計於 2026 年上半年由全球系統製造商推出」的表述,因此不能據此宣稱每家製造商都已出貨。詳見 NVIDIA Technical Blog。

截至 2026 年,MGX 已被 NVIDIA 定位為可延伸至第三代機櫃級 AI 工廠的架構,涵蓋 Vera、Grace、Blackwell、Rubin、NVLink、Spectrum-X、Quantum、AI 原生儲存、液冷與 800 VDC。這些是現行平台方向,不表示早期 MGX 伺服器都能升級到新一代組件。

系統製造商能得到什麼

  • 減少重複工程:共用機械、電源、散熱和連接設計。
  • 更快推出產品:六個月和成本降低四分之三是 NVIDIA 2023 年的估計,實際時程取決於客製化、法規、供應鏈和驗證。
  • 擴展產品線:同一基礎設計可衍生 AI、HPC、圖形、電信和推理系統。
  • 跨世代延續:設計目標是更容易採用新 CPU、GPU、DPU 和網路,但實際相容性仍以 OEM 與 NVIDIA 的驗證矩陣為準。
  • 交換成本與自主性:製造商可更快進入市場,卻也更依賴 NVIDIA 的加速器、互連、驅動、認證和軟體生態。

MGX 不會自動解決 GPU 或記憶體供應、交付週期、性能、可靠性或總持有成本問題,也不等於 NVIDIA 直接提供完整成品伺服器。

Free tools Windows power users keep installed

One-click scans. No signup required.

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

企業與雲端採購檢查表

不要只問「是不是 MGX」,應要求供應商逐項提供:

Rank #4
NVIDIA GeForce RTX 4060Ti Founders Edition
  • NVIDIA GeForce RTX 4060Ti Founders Edition
  • VIDEO_CARD
  • generisch
  • 確切 MGX 代際、配置名稱及是否為 NVIDIA 認證系統;
  • CPU、GPU、DPU、SuperNIC 型號與 GPU 互連拓撲;
  • PCIe 世代、通道配置、主機與 GPU 記憶體容量;
  • 單機功耗、機架功率密度、氣冷或液冷條件;
  • CDU、冷板、水質、流量、溫度和漏液偵測要求;
  • BMC、BIOS、韌體、驅動程式、CUDA 與容器支援週期;
  • 保固、現場維護、備件、交付地區與供應商服務能力;
  • 完整 BOM、拓撲圖,以及能否在現有機房供電和冷卻條件下運作。

同樣標示 MGX 的產品,在 GPU 數量、NUMA/PCIe 拓撲、儲存槽位、BMC、液冷和維保方面可能差異很大。MGX 是平台設計共同語言,不是性能排名或統一 SKU。

Independent reader supportYour contribution helps us test, update, and keep practical guides available for everyone.Support on Ko-Fi

哪些情況不適合直接採用 MGX

  • 只需要一台低功耗推理伺服器,或 GPU 利用率很低;
  • 資料中心沒有液冷、高密度供電或相應維護能力;
  • 需求不穩定、只需短期算力,雲端 GPU 租用更合適;
  • 必須完全開放、跨供應商替換硬體;
  • 團隊無法維護 NVIDIA 驅動、韌體和容器環境。

一般 PCIe GPU 伺服器通常較容易放入既有機房;雲端 GPU 可避免資本設備與液冷改造;AMD Instinct、Intel Gaudi 等平台則需另行評估軟體移植、網路拓撲、供應商支援與 CUDA 相容性。

常見誤解

MGX 是一台 NVIDIA 伺服器

不是。實際產品由系統製造商設計、組裝、驗證和銷售。

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

MGX 是 HGX 的低階版本

不是。MGX 強調組件與外形彈性,HGX 聚焦高密度多 GPU NVLink 平台。

Best Value
Sale
NVIDIA 5GB nVIDIA Tesla K20 GPU Server Accelerator 900-22081-0010-000 (Renewed)
  • Item Package Dimension -14.7L X 8.8W X 3.4H Inches
  • Item Package Weight - 2.4 Pounds
  • Item Package Quantity - 1
  • Product Type - Video Card

採用 MGX 就能任意替換 GPU

不是。供電、散熱、主機板、韌體、驅動和支援矩陣都可能限制替換。

MGX 完全等於 OCP 標準

不是。MGX 支援 PCIe、OCP 和 EIA rack 等標準,OCP 也有相關機櫃/托盤文件,但 NVIDIA 仍控制相當部分的平台整合與驗證邊界。

結論

MGX 的真正價值,不是提供一個固定型號,而是把 NVIDIA 加速運算系統拆成可重複使用的設計積木。它特別適合需要快速推出多種 AI、HPC、圖形或電信系統的 OEM、ODM 和整合商;企業採購則必須回到具體型號,核對 GPU 拓撲、功耗、散熱、韌體、軟體和維保條件。

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

Quick Recap

Bestseller No. 1
PNY NVIDIA RTX 2000 Ada Generation 16GB GDDR6 PCI Express 4.0 Dual Slot, Low Profil 4X MiniDisplayPort, 8K Support, Ultraleiser Aktiver Lüfter
PNY NVIDIA RTX 2000 Ada Generation 16GB GDDR6 PCI Express 4.0 Dual Slot, Low Profil 4X MiniDisplayPort, 8K Support, Ultraleiser Aktiver Lüfter
NVIDIA Ada Lovelace Architecture; Graphics memory: 16GB GDDR6 with ECC; CUDA cores: 2816; Tensor cores: 88
$769.99
Bestseller No. 2
NVIDIA Quadro RTX 6000
NVIDIA Quadro RTX 6000
CUDA Cores: 4608 / NVIDIA Tensor Cores: 576 / NVIDIA RT Cores: 72; GPU Memory: 24 GB GDDR6 with ECC / Bandwidth: 624 GB/Sec
$1,499.96
Bestseller No. 4
NVIDIA GeForce RTX 4060Ti Founders Edition
NVIDIA GeForce RTX 4060Ti Founders Edition
NVIDIA GeForce RTX 4060Ti Founders Edition; VIDEO_CARD; generisch
$769.99
SaleBestseller No. 5
NVIDIA 5GB nVIDIA Tesla K20 GPU Server Accelerator 900-22081-0010-000 (Renewed)
NVIDIA 5GB nVIDIA Tesla K20 GPU Server Accelerator 900-22081-0010-000 (Renewed)
Item Package Dimension -14.7L X 8.8W X 3.4H Inches; Item Package Weight - 2.4 Pounds; Item Package Quantity - 1
$58.41

Product prices and availability are accurate as of the date/time indicated and are subject to change. Any price and availability information displayed on Amazon at the time of purchase will apply.

AI 基礎設施HGXNVIDIA MGX伺服器液冷資料中心

Leave a Reply

Your email address will not be published. Required fields are marked *

Special offer. See more information about Outbyte and uninstall instructions. Please review EULA and Privacy policy.

Recommended PC Tool
Recommended PC Tool
Windows Errors? Fix Them Before They SpreadFree repair scan
Outdated Drivers Are Slowing You DownFree scan - exact matches

Two free Windows tools

One Free Minute Could Fix That PC

Before you go - each of these free tools takes about a minute and tackles what quietly slows a Windows PC down.

Special offer. View Outbyte info, uninstall instructions, EULA, and Privacy Policy.