💡 快速答案:浸沒式液冷伺服器是什麼?為什麼高密度 GPU 機房要把伺服器泡進液體裡?
浸沒式液冷伺服器就是把整台伺服器浸入不導電的介電冷卻液中散熱,分為單相(液體不沸騰,靠泵浦與對流循環帶熱)與兩相(液體在晶片表面沸騰汽化,以潛熱散熱,效率更高)兩種。液體帶熱能力遠勝空氣,單櫃可支援 30 到 100kW 以上的 GPU 高密度部署,機房 PUE 能從氣冷的 1.4-1.6 降到約 1.05-1.1,散熱電費大減,還能拆除風扇、大幅降低噪音與故障率。
走進一座傳統機房,最先感受到的是風:上千顆風扇的轟鳴、冷通道的寒意、熱通道撲面而來的熱浪。走進一座浸沒式液冷機房,卻安靜得像圖書館,伺服器整台泡在清澈的液體裡,只剩泵浦低鳴。這不是科幻場景,而是 AI 時代高密度 GPU 機房正在發生的散熱革命。這篇文章用顧問的視角,把浸沒式液冷伺服器的原理、單相與兩相的差異、PUE 電費帳本、與氣冷及冷板方案的取捨,以及台灣機房的導入現況,一次講清楚。
當機櫃功率衝破 30kW:氣冷正在逼近物理極限
十年前,一座標準機櫃裝滿伺服器,總功率大約 3 到 5kW,機房空調吹一吹就能應付。今天一台八卡的 AI 訓練伺服器,滿載功率就可能超過 10kW;疊四台進同一櫃,單櫃輕鬆突破 40kW。NVIDIA 新世代 GPU 平台的參考架構,單櫃功率更已規劃到 100kW 以上。業界的共識很直白:AI 機櫃的功率密度在五年內成長了一個數量級,而且還在往上爬。
麻煩在於,空氣本質上是很差的導熱介質:熱容量低、導熱係數低,要帶走同樣的熱量,需要非常大的體積流量。機房因此塞滿風扇、空調箱與冷熱通道封閉設施,整棟建築有相當比例的電力不是拿來運算,而是拿來吹風。當單櫃功率超過大約 20 到 30kW,氣冷開始捉襟見肘:風量再大,晶片熱點依舊壓不住,GPU 為了自保觸發降頻,你買來的算力就這樣悄悄打了折。風扇本身也吃電、也會壞,密度越高,這條路就越走越窄。
許多機房的第一反應是「攤開放」:一櫃只裝三分之一,把熱源稀釋。代價是機位租金與樓地板面積翻倍,叢集節點被迫拉遠,網路佈線與延遲一起惡化。如果你正在規劃 AI 訓練或高效能運算叢集,這道散熱天花板遲早會撞上;想先補齊運算架構的基礎,可參考這篇 HPC 高效能運算入門指南,本文則聚焦散熱這一側的解法。
浸沒式液冷伺服器是什麼?單相與兩相的差別
浸沒式液冷(immersion cooling)的做法非常直觀:把整台伺服器泡進裝滿「不導電冷卻液」的液槽。這種液體是絕緣的介電流體,主機板、記憶體、GPU 全部浸在裡面也不會短路。液體的導熱與帶熱能力遠勝空氣,晶片的熱量直接傳給緊貼表面的液體,不必再經過散熱鰭片、風扇、空氣這一長串低效率的接力賽。
依照冷卻液是否沸騰,浸沒式分成兩條技術路線:
- 單相浸沒(single-phase):冷卻液全程維持液態、不沸騰,靠泵浦與自然對流循環,把熱帶到熱交換器,再由水迴路送出機房。液體多為礦物油或合成碳氫流體,價格相對親民、系統簡單,是目前商用部署的主流。
- 兩相浸沒(two-phase):使用低沸點氟化液,液體直接在晶片表面沸騰汽化,蒸氣上升到液槽頂部的冷凝盤管,凝結後再滴回槽內形成封閉循環。汽化吸收的是潛熱,單位質量帶走的熱量遠高於單純升溫,散熱效率更高、可支撐更極端的功率密度;代價是氟化液昂貴、槽體要處理蒸氣密封,工程複雜度與成本都高一截。
一個好記的比喻:單相像把發燙的鐵塊放進不斷攪拌的油鍋,靠油的流動持續帶走熱;兩相像把水灑上燒紅的鐵板,水在瞬間汽化,那一刻吸走的熱量大得多。
浸沒式還有一項常被低估的紅利:風扇全數拆除。風扇通常吃掉伺服器本身約一成電力,也是機房裡最常故障的機械零件;拆掉之後,故障點減少,震動與灰塵問題一併消失,機房從 85 分貝的轟鳴變成 60 分貝以下的低鳴,運維人員終於不必戴著耳罩巡檢。
至於大家最擔心的維護:設備要先吊出液槽、瀝液之後才能動手,液槽上方通常配有導軌或小型吊臂輔助,流程與氣冷確實不同。冷卻液本身反而不嬌貴,單相液體的使用壽命常見規劃 8 到 10 年以上,期間定期檢測黏度、含水量與酸值即可;真正的消耗是設備進出時帶走的少量液體,屬於可預估、可編列的營運成本,而不是隱藏地雷。
PUE 是什麼?從 1.5 到 1.1 的電費帳本
評估機房能效,業界通用的指標是 PUE(Power Usage Effectiveness,電力使用效率):機房總用電除以 IT 設備用電,數字越接近 1 越好。PUE 1.5 代表 IT 設備每用 1 度電,空調、風扇、供電損耗等非 IT 開銷還要再吃 0.5 度。
傳統氣冷資料中心的 PUE 多落在 1.4 到 1.6;把冷熱通道封閉與氣流管理做到位,壓到 1.3 出頭已屬佳作。浸沒式液冷把散熱主力交給液體,幾乎不需要壓縮機制冷,冷卻迴路可接受 40 度上下的較高水溫,多數時間靠乾式冷卻塔就能把熱排掉,PUE 因此可壓到約 1.05 到 1.1。
帳本攤開來算最有感。假設一座 IT 負載 1,000kW 的 AI 機房:
- PUE 1.5:總用電 1,500kW,非 IT 耗電 500kW;
- PUE 1.1:總用電 1,100kW,非 IT 耗電僅 100kW,直接砍掉八成;
- 兩者差距 400kW,乘上一年 8,760 小時,約省下 350 萬度電;以工業電價每度 NT$3.5 元估算,一年電費差距約 NT$1,200 萬元。
還有一個行家才會注意的細節:伺服器內建風扇的用電,在 PUE 公式裡是算在 IT 設備那一側的。浸沒式把風扇整批拆掉,等於連分母裡的無效用電也一併省下,實際節能幅度比 PUE 數字表面呈現的更漂亮。省下的也不只是電費:散熱負擔變小,不斷電系統與發電機的容量需求跟著下降,同一棟建築的供電餘裕可以再塞進更多算力,這對受限於契約容量的台灣機房尤其關鍵。同樣的算力,只因散熱方式不同,一年就是千萬元等級的差距;機房規模越大、電價越高,這筆帳越驚人。
三條散熱路線對照:氣冷、冷板、浸沒式
液冷不是只有浸沒式一條路。另一條更漸進的路線是直接晶片液冷(Direct-to-Chip,簡稱 D2C,俗稱冷板式):在 GPU、CPU 等主要發熱晶片上鎖一塊內部有水道的冷板(cold plate),冷卻液只流經冷板、不接觸其他零件,其餘元件仍靠風扇散熱。D2C 對機房的改造幅度較小,拉水路、加裝冷卻液分配單元(CDU)後即可沿用現有機櫃型態,因此成為多數大型資料中心導入液冷的第一步。
浸沒式則是最徹底的方案:散熱效果最好、密度上限最高,但機房要改成液槽型態、樓板承重要重新計算、冷卻液要採購與管理、維運流程也得重新訓練。三條路線的取捨,一張表看得最清楚:
| 比較項目 | 傳統氣冷 | 直接晶片液冷(D2C 冷板) | 浸沒式液冷 |
|---|---|---|---|
| 典型 PUE | 約 1.4-1.6 | 約 1.15-1.3 | 約 1.05-1.1 |
| 可支援單櫃功率 | 常見 10-20kW,優化後約 30kW 接近極限 | 約 50-100kW | 100kW 以上,兩相潛力更高 |
| 導入成本 | 低,沿用既有設施 | 中,需水路管線與 CDU | 高,需液槽、冷卻液與機房改造 |
| 維護難度 | 低,人員最熟悉 | 中,需管理接頭與防漏 | 較高,設備進出需吊掛與瀝液 |
| 噪音與風扇 | 風扇多、噪音大 | 風扇減少 | 幾乎無風扇,近乎安靜 |
選擇邏輯大致是:單櫃 20kW 以下、預算有限,把氣冷優化到位即可;30 到 80kW 的 AI 機櫃,D2C 冷板是目前的主流解;要一次到位支撐 100kW 級機櫃、機房空間極度受限、或對噪音與能效有硬性要求,才值得直上浸沒式。也有不少案場採混合策略:訓練叢集用液冷,儲存與網路設備留在氣冷區,各取所長。
台灣機房為什麼開始認真看液冷?
把場景拉回台灣,幾個在地條件讓液冷的投資報酬率比多數國家更好算。
- 電價持續走揚:台灣工業電價每度約 NT$3 到 4 元,夏月(6 到 9 月)費率更高;近年數次調漲後,大用電戶感受最深。機房是 7×24 滿載的用電大戶,PUE 每降 0.1,都直接反映在每月的電費單上。
- 土地與空間昂貴:雙北與桃園的機房空間寸土寸金,氣冷被迫攤開放以稀釋熱源,浸沒式讓同樣算力塞進約三分之一的樓地板面積,省下的租金與土建成本相當可觀。
- 氣候先天不利氣冷:台灣夏季室外動輒 35 度以上、相對濕度 70% 起跳,自然冷卻可用時數短,空調壓縮機幾乎整年重載;液冷迴路可接受較高水溫,盛夏也能靠乾式冷卻塔運轉,對台灣的高溫高濕特別對症。
- ESG 與能效法規:上市櫃公司要做碳盤查與淨零承諾,主管機關對新建大型資料中心的用電申請也訂出能效門檻,PUE 大致要壓在 1.4 以下才容易取得供電核可;氣冷達標吃力,液冷是最直接的工程解。
實際動起來的不只科技巨頭:北部已有電信與雲端業者在既有機房劃出液冷專區,中南部新建的資料中心在設計階段就預留液冷管路與樓板承重;台灣的伺服器代工與散熱供應鏈(液槽、冷板、CDU、快接頭)本來就是全球要角,在地取得方案與技術支援相對容易。門檻同樣真實:冷卻液的初次填充與後續補充成本、既有機房的結構與消防改造、維運團隊的重新訓練,都是評估時必須誠實面對的項目;兩相浸沒使用的氟化液,更因主要供應商淡出市場而面臨供應與價格的雙重壓力。務實的建議是分階段走:先用一到兩座液槽驗證業務負載與維運流程,電費與故障率的數字對了,再放大規模,風險最可控。
一個 AI 機房的決策實例:氣冷擴充撞牆之後
一家台北的 AI 影像分析公司,2025 年接下大型智慧交通專案,需要把訓練算力擴充四倍。他們原本在北部某資料中心租用 12 櫃氣冷機位、每櫃約 8kW;新方案規劃 8 櫃 H100 等級伺服器,單櫃功率 60kW,合計 IT 負載約 480kW,而且客戶要求六個月內上線,時程壓力不小。
第一輪先評估氣冷擴充。機房方回覆:現有樓層每櫃供電與散熱上限 15kW,若維持氣冷,60kW 的設計得拆成 32 櫃低密度部署,機位租金翻倍,而且同樓層機位不足、必須跨兩個樓層,叢集網路的佈線成本與延遲都會惡化。第二輪評估列間空調加封閉通道改造:單櫃上限可拉到約 25kW,仍然不夠,且改造後 PUE 預估僅從 1.55 降到 1.35,電費改善有限。
最終拍板與機房業者合作導入單相浸沒式:8 櫃改為 6 座液槽,上線後 PUE 實測落在 1.08 到 1.12。用 PUE 1.5 對比 1.1 估算:480kW 的 IT 負載,非 IT 耗電從約 240kW 降到 48kW,一年省下約 168 萬度電,以每度 NT$3.5 元計,每年電費省下約 NT$590 萬元;加上省下的機位租金與免去的空調改造費,財務端估算整套液冷投資約 3 年半可回收。附帶的驚喜是噪音:機房從 85 分貝降到 60 分貝以下,維運同仁的評語是「終於能在機房裡好好講電話」。
這類高密度需求並不限於 AI 訓練。雲端遊戲與 VR 串流這種延遲敏感、又需要大量 GPU 併發的服務,同樣往高密度機櫃演進,可延伸閱讀 雲端遊戲與 VR 串流的 GPU 應用解析。而對多數還不需要自建機房的團隊來說,直接租用散熱與電力都已打點好的 GPU 主機,往往是更快、財務上也更輕盈的起點。
找台灣在地的 GPU 主機夥伴
看完浸沒式液冷的原理與帳本,你會發現高密度 GPU 部署的真正門檻,從來不只是買幾張卡,而是電力、散熱、機房與維運的整套工程。如果你的團隊需要的是穩定算力,而不是一座機房,把這些難題交給專業夥伴是務實的選擇。戰國策 GPU 主機部署於台灣在地機房,提供 NVIDIA H100 與 RTX 系列多種規格,月租 NT$15,000 元起,電力、散熱與網路由機房團隊打理,搭配 7×24 中文技術支援,讓你把心力留給模型與產品。詳情請見官網 https://www.nss.com.tw/gpu,或加入 LINE 帳號 @119m 洽詢,免費專線 0800-003-191。
常見問題 FAQ
浸沒式液冷伺服器需要特製機型嗎?現有伺服器能直接泡進去嗎?
不能直接泡。既有伺服器要先改造:拆除全部風扇、把散熱膏更換為不溶於冷卻液的介面材料、確認硬碟為密封式或改用 SSD,線材與標籤也要確認相容。多數液槽廠商提供改機服務,單台費用常見 NT$1 到 3 萬元;新採購時直接選液冷就緒機型最省事。
單相與兩相浸沒式液冷,實務上該選哪一種?
現階段商用主流是單相:礦物油或合成油價格較低、系統簡單、維護直觀,PUE 約 1.05 到 1.1 已能滿足絕大多數需求。兩相散熱密度更高,但氟化液每公升價格可達數千元,且主要供應商淡出、供應趨緊,多見於實驗性或極端密度場景。一般企業建議從單相入手。
浸沒式液冷的 PUE 真的能做到 1.1 以下嗎?
設計良好的案場可以。風扇全拆、冷卻迴路可用 40 度上下的較高水溫,多數時間靠乾式冷卻塔散熱,不依賴壓縮機制冷,業界實測常落在 1.03 到 1.1 之間。台灣高溫高濕環境下保守估 1.08 到 1.12,仍遠優於氣冷常見的 1.4 到 1.6,省電幅度依然可觀。
冷卻液會不會損壞硬體?原廠保固怎麼辦?
合格的介電冷卻液不導電、對金屬呈惰性,不會腐蝕電路;要留意部分塑膠、橡膠與標籤長期浸泡可能軟化,硬碟與光模組需選相容型號。保固方面,部分品牌已正式支援浸沒式,部分仍視為改裝;建議導入前要求供應商提供相容性清單與至少 3 年的材料測試報告。
一櫃 100kW 是什麼概念?我的專案需要浸沒式嗎?
100kW 約可容納 10 台上下的八卡 H100 等級伺服器,屬於超大規模 AI 訓練的密度。多數企業的單櫃需求落在 20 到 60kW:20kW 內優化氣冷即可,30kW 以上建議評估冷板式,超過 80kW 或空間受限再考慮浸沒式。先盤點實際功率再選散熱路線,順序不要顛倒。
導入浸沒式液冷,機房要做哪些改造?
重點有四項:樓板承重(滿液的液槽單座常超過 1 噸,荷重要重新計算)、水路與熱交換系統(乾冷塔或冷卻水塔)、消防與環安(冷卻液防漏與回收動線)、維運工具(吊掛設備與瀝液架)。既有機房改造工期常見 3 到 6 個月,新建案在設計期就納入的成本最低。
浸沒式液冷會讓日常維護變得很麻煩嗎?
是變不同,不一定變難。更換記憶體或介面卡要先吊出設備、瀝液 10 到 30 分鐘,單次作業比氣冷慢;但最大故障源風扇消失,灰塵、濕度與震動問題也沒了,業界常見回報整體硬體故障率下降三成上下。關鍵是重寫維運流程、培訓人員並備妥專用工具。
台灣現在租得到高密度或液冷等級的 GPU 算力嗎?
可以。台灣北中南都有資料中心建置或評估液冷專區,電信與雲端業者也陸續推出高密度機櫃方案。若不想自建,直接租用 GPU 主機是門檻最低的路:例如戰國策的 GPU 主機部署於台灣機房,月租 NT$15,000 元起,散熱與電力由機房打理,可撥免費專線 0800-003-191 詢問。
自建液冷機房與租用 GPU 主機,成本怎麼比較?
自建浸沒式的液槽、冷卻液、管路與機房改造,單座液槽的初期投資常見數百萬元等級,加上維運人力,適合長期滿載、規模達數十櫃的用戶,回收期約 3 到 5 年。若需求只是幾張到十幾張卡、或專案期不到 2 年,租用月付 NT$15,000 元起的方案幾乎必然更划算,還能隨時升級新卡。
液冷對 GPU 效能與壽命有實際幫助嗎?
有。液冷讓晶片溫度更低也更穩定,GPU 不易觸發熱降頻,長時間訓練的有效算力常比氣冷高 5% 到 10%;溫度波動小可減緩焊點疲勞,風扇震動歸零,業界普遍觀察年故障率可下降兩到三成。對 7×24 滿載的訓練叢集來說,穩定度本身就是產能。