AI 是一個耗能怪獸
幾年前，超大規模資料中心的耗電量約為 50-100 百萬瓦（MW）。而今天，像 Microsoft 和 Google 這樣的科技巨頭正在規劃吉瓦級叢集。美國政府提出的 Stargate 專案預估電力需求最高可達 10 吉瓦（GW）。
10GW 會是什麼樣子？
新加坡的年度用電量：2024 年約為 58 TWh（約 6.6GW 平均）。
紐約市的年度用電量：2024 年約為 50 TWh（約 5.7GW 平均）。
為什麼 AI 資料中心需要消耗這麼多能源？傳統伺服器機架耗電 10kW，而現代 NVIDIA GB200 NVL72 機架則耗電 120kW，增加了超過 10 倍。
「資料移動稅」
在 AI 資料中心中，通訊變得極為關鍵，因為它支援共享記憶體與平行運算，而這正是兆參數模型的關鍵。NVIDIA 創辦人兼執行長 Jensen Huang 在 GTC 2025 表示，AI 伺服器機架正在傳輸海量資料，已超過全球網際網路流量峰值（約 900Tbps）。這僅僅是搬移資料，就造成了極其龐大的電力消耗。這也正是 「資料移動稅」或「互連牆」。
僅考慮 AI 資料中心內 GPU 與 GPU 之間的互連，一套 GB300 NVL72 系統有 72 顆 GPU 透過複雜的 scale-up 技術連接，在單一機架中提供約 130 TB/s（約 1 Pbps）的資料移動能力。讓我們看看在不同互連情境下的功耗：
*包含序列化-解序列化（Serializer-Deserializer）電路與模組功耗的估算
機架內部通訊會消耗計算功耗的 5-10%，其他資料移動行為還包括記憶體存取、板載 PCIe、交換器托盤等，嚴重阻礙了 AI 資料中心進一步擴展。
為什麼傳統光學模組耗電
儘管銅纜體積龐大，且可能阻礙冷卻氣流，但由於功耗過高與成本過高，可插拔光學模組並不是向上擴展的選項。
目前，可插拔光學模組的耗能約為 20 pJ/bit，主要是因為數位訊號處理晶片（DSP）的存在。在標準可插拔收發器（例如 800G OSFP）中，電訊號必須從 GPU 經由 PCB 長距離傳送到前面板。當訊號到達時，已經失真且雜訊很大。為了解決這個問題，光學模組會使用 DSP 來清理並重建訊號。但單是 DSP 就佔了接近 模組功耗的 70%。
共封裝光學（CPO）是一種新技術，將光學引擎直接放在 GPU 旁邊（僅相距幾毫米），使電路徑有效縮短到接近零，因此系統可在不使用 DSP 的情況下運作。業界巨頭正積極開發其 CPO 技術，例如 NVIDIA 的 Quantum-X 交換器與 Broadcom 的 Tomahawk 乙太網交換器。
RVi 的下一代 CPO
RVi 的 XmartLink™ 技術是一種下一代 CPO 解決方案，能提供更優異的功耗效率與單模組頻寬。傳統光學引擎依賴外部雷射搭配矽調變器，而 XmartLink™ 採用高良率、可靠的 Micro-VCSEL。透過將光源直接整合，我們大幅降低光學插入損耗，使 XmartLink™ 能達到比目前市場上的 CPO 解決方案更低的功耗表現。
幾年前，超大規模資料中心的耗電量約為 50-100 百萬瓦（MW）。而今天，像 Microsoft 和 Google 這樣的科技巨頭正在規劃吉瓦級叢集。美國政府提出的 Stargate 專案預估電力需求最高可達 10 吉瓦（GW）。
10GW 會是什麼樣子？
新加坡的年度用電量：2024 年約為 58 TWh（約 6.6GW 平均）。
紐約市的年度用電量：2024 年約為 50 TWh（約 5.7GW 平均）。
為什麼 AI 資料中心需要消耗這麼多能源？傳統伺服器機架耗電 10kW，而現代 NVIDIA GB200 NVL72 機架則耗電 120kW，增加了超過 10 倍。
「資料移動稅」
在 AI 資料中心中，通訊變得極為關鍵，因為它支援共享記憶體與平行運算，而這正是兆參數模型的關鍵。NVIDIA 創辦人兼執行長 Jensen Huang 在 GTC 2025 表示，AI 伺服器機架正在傳輸海量資料，已超過全球網際網路流量峰值（約 900Tbps）。這僅僅是搬移資料，就造成了極其龐大的電力消耗。這也正是 「資料移動稅」或「互連牆」。
僅考慮 AI 資料中心內 GPU 與 GPU 之間的互連，一套 GB300 NVL72 系統有 72 顆 GPU 透過複雜的 scale-up 技術連接，在單一機架中提供約 130 TB/s（約 1 Pbps）的資料移動能力。讓我們看看在不同互連情境下的功耗：
*包含序列化-解序列化（Serializer-Deserializer）電路與模組功耗的估算
機架內部通訊會消耗計算功耗的 5-10%，其他資料移動行為還包括記憶體存取、板載 PCIe、交換器托盤等，嚴重阻礙了 AI 資料中心進一步擴展。
為什麼傳統光學模組耗電
儘管銅纜體積龐大，且可能阻礙冷卻氣流，但由於功耗過高與成本過高，可插拔光學模組並不是向上擴展的選項。
目前，可插拔光學模組的耗能約為 20 pJ/bit，主要是因為數位訊號處理晶片（DSP）的存在。在標準可插拔收發器（例如 800G OSFP）中，電訊號必須從 GPU 經由 PCB 長距離傳送到前面板。當訊號到達時，已經失真且雜訊很大。為了解決這個問題，光學模組會使用 DSP 來清理並重建訊號。但單是 DSP 就佔了接近 模組功耗的 70%。
共封裝光學（CPO）是一種新技術，將光學引擎直接放在 GPU 旁邊（僅相距幾毫米），使電路徑有效縮短到接近零，因此系統可在不使用 DSP 的情況下運作。業界巨頭正積極開發其 CPO 技術，例如 NVIDIA 的 Quantum-X 交換器與 Broadcom 的 Tomahawk 乙太網交換器。
RVi 的下一代 CPO
RVi 的 XmartLink™ 技術是一種下一代 CPO 解決方案，能提供更優異的功耗效率與單模組頻寬。傳統光學引擎依賴外部雷射搭配矽調變器，而 XmartLink™ 採用高良率、可靠的 Micro-VCSEL。透過將光源直接整合，我們大幅降低光學插入損耗，使 XmartLink™ 能達到比目前市場上的 CPO 解決方案更低的功耗表現。
