NVIDIA H100 一台多少錢?買 vs 租的 5 年成本分析(含 TCO 詳解)

隨著生成式 AI 與大型語言模型訓練需求爆炸性成長,NVIDIA H100 已成為企業 AI 基礎建設的核心資產。然而,「H100 多少錢」這個看似簡單的問題,背後隱藏著複雜的財務決策。單卡定價僅是冰山一角,真正的挑戰在於採購後五年內的完整持有成本。許多企業在初期評估時只看硬體報價,直到部署後才發現電費、機房、維護與人力成本遠超預期。本文將從「H100 買 vs 租」兩個角度切入,拆解GPU 主機 TCO(Total Cost of Ownership,總持有成本)的每一項細節,並以戰國策集團 26 年主機代管與 GPU 租賃實務經驗,提供完整的五年財務對照,協助您做出最符合企業現金流與 AI 戰略的決策。

買 H100 硬體單卡多少錢?整台伺服器成本拆解

要回答「H100 多少錢」,必須先區分「單卡」與「整機」兩種採購型態。目前 NVIDIA H100 80GB PCIe 版本的國際市場報價落在 USD 30,000 至 40,000 之間,換算新台幣約為 100 萬元。若採購 H100 SXM5 版本(NVLink 高頻寬互聯),單卡價格可能推升至 USD 45,000 以上。然而,單卡購入後無法獨立運作,必須搭配整套伺服器架構。

一台可搭載 8 張 H100 的 DGX H100 或同等級 HGX 平台,整機報價通常從 NT$300 萬起跳,高階配置甚至突破 NT$1,500 萬。這個金額涵蓋雙路 Intel Xeon 或 AMD EPYC 處理器、2TB 以上 DDR5 記憶體、NVMe 高速儲存陣列、ConnectX-7 400Gb 網卡、以及支撐 10.2kW 功耗的電源模組。

除了主機本體,還必須追加下列一次性資本支出:機櫃改裝(H100 伺服器多為 6U 到 8U 規格,重量超過 130 公斤,需強化機櫃)約 NT$15 萬;高密度 PDU 電源分配器約 NT$8 萬;液冷或風冷散熱升級約 NT$20 萬到 50 萬;UPS 不斷電系統(至少 20kVA)約 NT$30 萬;以及專屬 InfiniBand 交換器約 NT$150 萬。

若企業自建八卡叢集,初期資本支出(CAPEX)實務估算約為 NT$500 萬到 NT$800 萬,若要達到訓練級規模(16 到 32 卡),初期投資將輕鬆突破 NT$2,000 萬。這僅是「買 H100」的起點,尚未計入後續五年的營運支出(OPEX)。

5 年 TCO 完整成本明細(硬體/電費/機房/折舊/人力/維修)

GPU 主機 TCO 遠不只是硬體價格。以一台 8 卡 H100 伺服器五年持有為基準,完整成本結構如下。

硬體折舊:以 NT$500 萬硬體、直線折舊 5 年計算,每年折舊 NT$100 萬,五年總計 NT$500 萬。若考量 GPU 快速迭代(Blackwell B200 已上市),殘值可能只剩原價 20%。

電費支出:H100 SXM 單卡 TDP 700W,八卡整機加上 CPU、風扇、散熱,滿載約 10.2kW。以台電營業用電每度 NT$4.5 計算,24 小時運轉一年耗電 89,352 度,電費約 NT$40.2 萬。五年電費累計 NT$201 萬。若在夏季高峰時段搭配用電契約懲罰,實際費用可能再增 15%。

機房與冷氣:自建機房初期投資 NT$300 萬起(含精密空調、消防、門禁),分攤五年每年約 NT$60 萬。若採用商用機房代管,每 U 每月 NT$3,000 到 5,000,8U 高密度機櫃五年支出約 NT$96 萬到 NT$150 萬。冷氣獨立計算,H100 產生的熱量需 PUE 1.5 以下環境,五年冷卻成本估算 NT$120 萬。

人力成本:AI 系統維運工程師月薪 NT$8 萬到 15 萬,即使僅分配 30% 工時管理 GPU 叢集,五年人力支出約 NT$150 萬到 NT$270 萬。

維修與軟體授權:H100 保固通常 3 年,第 4、5 年延保費用約硬體 8% 到 12%,估算 NT$40 萬到 60 萬。CUDA、NVIDIA AI Enterprise 授權每卡每年約 USD 4,500,八卡五年授權費近 NT$580 萬。

綜合以上,自建 8 卡 H100 五年 GPU 主機 TCO 保守估算為 NT$1,750 萬到 NT$2,300 萬,遠高於原始硬體報價。

租戰國策 H100 主機 5 年總支出計算

若選擇「H100 買 vs 租」中的租賃方案,可完全免除上述隱藏成本。戰國策集團 GPU 主機租賃提供三種主流方案,價格透明且無資本支出:

H100 80GB MIG 切割方案:月租 NT$15,000 起,適合推論任務或研發測試,共享單卡運算資源
H100 80GB 單卡專屬方案:月租 NT$25,000,獨享一張 H100 完整算力
H100 94GB NVL x2 客製化方案:月租 NT$84,000(含稅),雙卡 NVLink 互聯,適合大型模型微調

以中等規模企業租用「單卡專屬 8 張」計算,月租 NT$25,000 × 8 = NT$20 萬,一年 NT$240 萬,五年總支出 NT$1,200 萬。此金額已包含:硬體使用權、機房代管、電力與冷卻、24 小時 NOC 網管中心、硬體故障免費更換、200Gb 內部網路頻寬、基礎作業系統與 CUDA 環境。

若企業僅需 MIG 分割方案支援推論工作負載,月租 NT$15,000 × 8 卡等效資源計算,五年支出僅 NT$720 萬,較自建節省超過六成。對於需要 94GB 大顯存跑 70B 以上參數模型的 AI 團隊,雙卡 NVL 方案月費 NT$84,000,五年 NT$504 萬,免除自行採購 NVLink 交換器的 NT$150 萬額外支出。

租賃方案的最大優勢在於「彈性擴縮」與「零折舊風險」。當 NVIDIA 推出 Blackwell 或後續世代 GPU,租戶可直接遷移升級,無須承擔舊硬體貶值損失,現金流也更貼近企業實際 AI 專案節奏。

兩種方案的 5 年財務對照表(逐年現金流)

以下以「8 卡 H100 專屬方案」為基準,呈現「H100 買 vs 租」的完整五年現金流對比。

年度	自建方案(NT$)	戰國策租賃(NT$)	差額
第 0 年	-8,000,000	0	+8,000,000
第 1 年	-3,500,000	-2,400,000	+1,100,000
第 2 年	-3,600,000	-2,400,000	+1,200,000
第 3 年	-3,700,000	-2,400,000	+1,300,000
第 4 年	-4,200,000	-2,400,000	+1,800,000
第 5 年	-4,400,000	-2,400,000	+2,000,000
累計	-27,400,000	-12,000,000	+15,400,000

從財務結構觀察,自建方案在第 0 年需一次投入 NT$800 萬資本支出,對現金流衝擊極大。租賃方案將支出平均分攤 60 個月,每月固定 NT$20 萬,可完全列為營業費用扣抵稅務。以 20% 營所稅計算,五年節稅效益約 NT$240 萬,實質總成本再降低。

什麼情況下該買?什麼情況下該租?

適合購買:企業已有穩定的 24 小時滿載工作負載、具備完整 IT 團隊與機房環境、GPU 使用率長期高於 80%、預算充裕能承擔資本支出。涉及國家機密、病歷資料或高度合規需求的資料集,實體隔離的自建方案在稽核上較無爭議。

適合租賃:AI 專案處於 PoC 概念驗證、模型微調、季節性尖峰算力需求、或新創公司無法一次投入千萬資本支出。GPU 使用率低於 60% 的企業,租賃 TCO 幾乎必然勝出。對於希望快速跟上 Blackwell、Rubin 等新世代硬體的團隊,租賃更能保持技術領先。

3 種混合策略(自建+租/短租+長租/尖峰+基載)

策略一:自建基載 + 租賃彈性擴展。企業自建 4 到 8 卡 H100 處理日常穩定工作,月使用率確保 70% 以上;當專案進入尖峰期,向戰國策租用額外 8 到 16 卡短期擴充。實測五年 TCO 較純自建節省 25%。

策略二:短租試驗 + 長租承諾優惠。AI 初期團隊先以 MIG 月租 NT$15,000 方案驗證模型可行性,3 至 6 個月後確認正式進入產品化,再簽訂 24 或 36 個月長租合約換取折扣。長租方案通常可爭取 10% 到 18% 費用減免。

策略三:尖峰租賃 + 基載自建的分時策略。若企業訓練工作可預測,可在自建 GPU 已滿載時,透過戰國策彈性方案租用臨時算力,按月結算。此策略特別適合電商推薦系統、廣告 CTR 預測等有明顯週期性負載的場景。

戰國策 26 年租賃經驗案例

戰國策集團自 2000 年成立至今 26 年,是台灣少數同時具備自有機房、國際頻寬、資安團隊與 GPU 主機資源的整合型服務商。多年來累積數千家企業客戶,涵蓋金融、電商、遊戲、生技、學術與政府機關。

某知名電商平台原本自建 16 卡 A100 集群,2024 年決定升級 H100 時,經 TCO 評估後轉向戰國策租賃 24 卡 H100 SXM 方案,將原 NT$3,000 萬硬體採購預算轉為每年 NT$720 萬營運費用,現金流壓力減輕,推薦系統模型迭代速度提升 3 倍。

另一家生醫新創以 H100 94GB NVL x2 客製方案月租 NT$84,000 開發蛋白質結構預測模型,免除自建 NVLink 環境的建置時間,產品上市時程縮短 5 個月,順利完成 A 輪募資。

常見問題

Q1:H100 租賃合約最短多久?可隨時解約嗎?

戰國策提供彈性月租(最短 3 個月)與年約方案。月租方案適合短期 PoC,無違約金;年約可享 10% 到 15% 折扣。

Q2:租賃的 H100 資料安全嗎?會與其他客戶共用嗎?

單卡專屬與 NVL 方案為獨立實體伺服器,不與任何客戶共享;MIG 分割方案雖共用實體卡,但透過 NVIDIA 硬體級隔離技術完全劃分算力與記憶體。

Q3:未來升級到 Blackwell B200 需要額外費用嗎?

簽訂長期合約的客戶可享優先升級權,新世代硬體到貨後可依當時牌價轉租,無須負擔硬體轉換成本。

立即諮詢戰國策 GPU 主機專屬顧問

面對「H100 買 vs 租」的關鍵決策,戰國策集團 26 年主機代管經驗與完整 GPU 產品線,能為您量身規劃最貼合預算與 AI 戰略的方案。無論您是希望以月租 NT$15,000 起 MIG 方案開始 AI 之旅,或需要 94GB NVL 雙卡跑大型模型,我們都能提供 24 小時中文技術支援與 SLA 保證。立即撥打 0800-003-191 免費諮詢,或造訪 https://www.nss.com.tw/gpu/ 索取專屬 TCO 試算表。