分類：主機服務

💡 快速答案:GPU主機一個月租金要多少錢? 2026 年行情:H100 MIG 1/4 月租 NT$15,000、單卡 NT$50,000、八卡 NT$350,000,時租約 NT$120。戰國策的月租含電力與頻寬,簽 12 個月約可打 8 折。 先給答案:2026 年台灣 GPU主機的月租行情,從 H100 MIG 切割的 NT$15,000 到八卡整機的 NT$350,000,時租約 NT$120 一小時。但牌價只是起點,電力與頻寬含不含、隱藏成本藏在哪、長約能折多少,才是最後帳單好不好看的關鍵。這篇用我們經手過的實際租約與退租案例,把每一筆錢攤開來給你看。 2026 年 GPU主機價格帶總覽,先看懂牌價 市面上的報價單五花八門,回歸到規格本身,價格帶其實相當集中。以戰國策 2026 年的 H100 牌價為例,整理成一張表: 方案 VRAM 適合場景 月租牌價 MIG 1/4 卡 約 20GB 推論服務、生圖、輕量實驗 NT$15,000 單卡 80GB HBM3 7B–13B 微調、量產生圖 NT$50,000 雙卡 160GB 7B 全參數、雙服務分流 NT$100,000 四卡 320GB 13B 全參數、70B LoRA NT$200,000 八卡 640GB 70B 級訓練、叢集節點 NT$350,000 時租 依方案 POC、短期實驗 約 NT$120/小時 兩個閱讀重點。第一,價格不隨卡數線性成長:八卡月租是單卡的七倍而非八倍,因為機箱、電源與機櫃空間的固定成本被攤薄了,量大反而單價低。第二,MIG 方案是把一張實體 H100 切成硬體隔離的分割區,VRAM 與運算單元獨立,不是超賣的虛擬卡,拿來跑正式推論服務完全站得住腳。 順帶回答一個常被問的問題:2026 年了,為什麼租賃市場的主力還是 H100?新一代晶片的供給仍優先流向大型雲端業者,租賃市場的 H100 生態最成熟、軟體相容性最穩,而且牌價比兩年前的高點下修了兩成上下,以性價比來說,現在反而是用 H100 的好時機。 另一個看牌價的角度,是「這個價位一個月能做完什麼」。NT$15,000 的 MIG 方案,可以撐起一個 50 路併發的客服機器人整月在線;NT$50,000 的單卡,夠跑完兩輪 7B 微調再加上線服務;NT$200,000 的四卡,能收掉一個 70B Lo

💡 快速答案:AI 伺服器解決方案該怎麼規劃才不會買錯? 先看規模:7B 微調一張 H100 就夠;70B 全參數要八卡加 NVLink,跨節點才用 InfiniBand。戰國策 H100 單卡月租 NT$50,000、八卡 NT$350,000,2 小時部署,先租後買最穩。 AI 伺服器解決方案的規劃,核心其實只有三個問題:模型多大、資料多大、多久要看到結果。答案會直接決定你該停在單卡、升級到多卡 NVLink,還是跨入多節點 InfiniBand 叢集。這篇文章把三個階段的硬體架構、網路與儲存配套一次攤開,並附上我們在台北機房實際部署過的參考架構表。先對號入座,再談規格與預算,至少能省下三成冤枉錢。 規劃 AI 伺服器解決方案前,先找出規模落點 我們輔導客戶時最常看到兩種極端:需求明明只是 7B 模型微調,一開口就問八卡叢集的報價;或者反過來,想全參數訓練 70B,預算卻只編了一張卡。前者把錢燒在閒置算力,後者把錢燒在永遠跑不完的時程,兩種都很可惜。 判斷落點的方法很直接,用參數量對照 VRAM 需求:7B 模型的 LoRA 微調約需 20GB,一張 NVIDIA H100 80GB HBM3 綽綽有餘;13B 全參數微調要 260GB 上下,至少四卡;70B 全參數直接站上 TB 級,單節點八卡都得靠分片技術才塞得下。推論服務則改看併發量:一張 H100 跑 7B 量化模型,搭配 vLLM 可以撐住兩百路等級的聊天併發。 另外兩個維度也要一起看。資料量決定儲存與搬運方式,10GB 的資料集怎麼做都行,10TB 的語料就要認真規劃 NVMe 容量與上傳路徑;時程壓力則決定卡數,同一個訓練任務,四卡大約能把單卡的時間壓到三成,趕上線的專案,用卡數換時間通常是划算的交易;反過來,研究型任務沒有死線,單卡慢慢跑,預算可以省一半以上。 階段 典型場景 關鍵硬體 互聯技術 月租行情 單卡 7B–13B 微調、推論、生圖 H100 80GB ×1 PCIe 5.0 約 NT$50,000 多卡 13B 全參數、70B LoRA H100 ×2–8 NVLink 900GB/s NT$100,000–350,000 多節點 70B 全參數、預訓練 H100 ×16 起 InfiniBand 400Gbps 專案報價 把自己放進表裡的哪一列,後面的架構與預算討

💡 快速答案:企業要自建還是租用 AI 實體主機? 關鍵在使用率:GPU 月用量超過 400 小時,實體主機通常比雲端划算;使用率穩定逾六成、規劃五年以上才考慮自建。自建八卡 H100 首年約 NT$1,300 萬;戰國策八卡月租 NT$350,000,建議先租後買。 自建一套八卡 H100 的 AI 實體主機,硬體加首年營運的總投入約新台幣 1,300 萬元起,從決策到上線大約一季;租用同級設備月付 35 萬元,最快 2 小時開通。這中間沒有標準答案,只有適不適合你的使用率、團隊與資金結構。這篇指南把自建成本一項項拆開,對照租用方案的行情,再給你四個問題組成的決策框架——照著回答,租或買的答案自然浮現。 AI 實體主機是什麼?先對齊定義 AI 實體主機指為 AI 工作負載配置的專屬實體伺服器:GPU、CPU、記憶體、儲存整機獨享,不經虛擬化直接跑在硬體上,也就是俗稱的裸機。它可以是你自購後放進機房的設備,也可以是向主機商承租的專屬機器;共同點是效能可預測、資料位置明確,與多租戶共享的雲端 GPU 形成對照。市場上 GPU主機、GPU Server、AI 伺服器這些詞經常混用,採購時認「獨享實體、無虛擬化」這個定義,就不會被話術帶偏。 要不要「實體」,判斷點通常有三個:負載是否長期穩定、資料是否受個資法或產業法規約束、成本是否需要按月固定。三個都是,實體就幾乎是必選項,剩下的問題只是自建還是租用——這正是本文要拆的題目。 順帶說明,這裡談的「實體」不等於「放在自家辦公室」。絕大多數的 AI 實體主機都住在專業機房裡,你透過網路使用它,操作體驗跟用雲端幾乎一樣,差別在資源獨享與費用結構。想像成長租一整層樓與住飯店的差別,就八九不離十了。 ▲ 自建動輒 8-12 週:機房、電力、散熱、人力全要自己扛 自建 AI 實體主機:成本一項項拆 硬體採購 八卡 H100 的 HGX 整機行情約 900 萬到 1,200 萬元,含 NVLink 基板、雙路 CPU、1TB 記憶體與 NVMe 儲存。這還沒完:機櫃級交換器、儲存伺服器、備援電源與線材,預算再加一到兩成。GPU 世代每 18 到 24 個月更迭一次,財務上多以三到五年攤提,期末殘值的波動要自己吸收——上一代卡在新卡發表後的租賃市場價,掉三成是常態。採購管道也影響價格與交期:原廠整機保固完整

💡 快速答案:GPU 實體主機和雲端 GPU 哪個比較划算? 八張 H100 全時用三年:雲端隨需約 US$98/小時、總價約 NT$7,980 萬;租用戰國策實體主機月付 NT$350,000,三年約 NT$1,260 萬,價差逾六倍。低用量選雲端、穩定負載選實體。 先給結論的數字:八張 H100 全時使用三年,國際雲端隨需方案的總費用約新台幣 7,900 萬元,租用台灣機房的 GPU 實體主機約 1,260 萬元,差距超過六倍;但如果一個月只用一百小時,結論會完全反過來。實體與雲端沒有絕對優劣,勝負取決於使用率、資料敏感度與團隊型態。這篇文章把三年總持有成本攤開試算,再比效能隔離與資料主權,給你一套可以直接套用的決策方法。 GPU 實體主機與雲端 GPU:本質差異在哪 GPU 實體主機就是俗稱的裸機(bare metal):整台實體伺服器由你獨享,GPU、CPU、記憶體、硬碟與網卡都不與他人共用,中間沒有虛擬化層,作業系統與驅動版本自己決定。雲端 GPU 則是從大型資源池切出一個執行個體給你,底層實體機可能同時服務多個租戶,開關以分鐘計、計費以小時計。市場上講的 GPU主機租用、GPU Server 專屬方案,多半指前者。 這個差異衍生出兩邊的性格:實體主機像自有辦公室,穩定、可控、長住便宜,但搬遷擴充要時間;雲端像共享辦公室,說走就走、全球都有據點,但長住的房租驚人,隔壁鄰居吵不吵也不由你。後面所有的比較——成本、效能、法遵——都只是這個本質的展開。 市場風向的轉變也很能說明問題。前幾年的主旋律是什麼都上雲,這兩年愈來愈多 AI 團隊把穩定負載搬回實體,業界稱之為回流。原因不難理解:網站流量忽高忽低,雲端的彈性是剛需;模型訓練與推論的負載卻常常是一條平穩的直線,為用不到的彈性付出六倍價格,財務長遲早會找上門。工具沒有對錯,是負載型態變了,答案跟著變。 ▲ 長期穩定負載:實體租用 NT$1,260 萬 vs 雲端隨需 NT$7,980 萬(8×H100) GPU 實體主機 vs 雲端:三年 TCO 試算 用市場公開行情,以「八張 H100、全時運轉、三年」為基準情境,匯率以 31 計: 方案 計費方式 月成本 三年總成本 雲端隨需(AWS p5.48xlarge) US$98/小時 約 US$71,500(約 NT$222 萬) 約

💡 快速答案:GPU Server 規格怎麼看?H100、A100、L40S 該選哪一張? 看 GPU Server 規格先抓五個數字:VRAM、記憶體頻寬、TFLOPS、互連與功耗。H100 適合訓練、L40S 主打推論繪圖;台灣 H100 單卡月租約 NT$50,000,戰國策可先租後買,降低選錯風險。 看 GPU Server 規格表,先抓五個數字:VRAM 容量、記憶體頻寬、TFLOPS 算力、卡間互連、整機功耗,九成的選型問題都能靠這五項回答。這篇指南用 H100、A100、L40S 三張市場主力卡當座標,逐一解釋每個規格背後代表的實際能力,最後附上依工作負載整理的選型速查表。你不需要懂半導體,只要看得懂這幾個數字的相對關係,就足以跟供應商平起平坐地對話。 GPU Server 規格表的五個關鍵數字 拿到規格書,照這個順序檢查:第一,VRAM 容量與種類——決定模型裝不裝得下;第二,記憶體頻寬——決定資料餵不餵得飽;第三,TFLOPS 與支援精度——決定算得多快;第四,互連介面(NVLink、PCIe 世代)——決定多卡協作的效率;第五,功耗與散熱設計——決定機房裝不裝得下。其餘的核心數量、時脈這些參數,對採購決策的影響遠小於這五項,看不懂可以先跳過,不影響判斷。 先預告兩個規格表上的經典陷阱:一是算力數字「含稀疏化」與「不含」可以差一倍,比較時務必對齊基準;二是同一顆晶片有 SXM 與 PCIe 兩種版本,頻寬與功耗上限完全不同,只寫「H100」三個字的報價單,資訊是不完整的。這兩點下面會展開講。 為什麼要花力氣看懂這五個數字?因為它們是採購、財務與工程三方唯一的共同語言。工程師關心跑不跑得動、跑多快;財務關心攤提與月費;採購關心規格書怎麼寫才不會被鑽漏洞。把需求翻譯成這五個數字,三方對話的誤差會小很多——我們看過太多專案卡在各說各話,最後買到一台誰都不滿意的機器。 另外先建立一個心理準備:規格數字是「上限」,不是「日常」。實際吞吐取決於模型結構、批次大小、資料管線與軟體版本,同一張卡在不同團隊手上跑出兩倍差距很正常。規格表幫你排除絕對不夠用的選項;至於用得多好,是工程功力的範疇。兩件事分開看,期望值才不會失真。 ▲ NVLink 900GB/s 高速互連,多卡訓練的頻寬命脈 VRAM 與 HBM:先確認模型裝不裝得下 VR

💡 快速答案:2026 年台灣 GPU主機推薦怎麼挑?哪一類廠商適合我? 挑 GPU主機看七件事:機房位置、GPU 世代、網路、SLA、價格透明、支援與擴充。台灣行情 H100 單卡月租約 NT$50,000、八卡叢集 NT$350,000;戰國策等主機商 2 小時部署,先時租實測再簽約。 挑 GPU主機不是比誰的顯卡多,而是看七件事:機房位置、GPU 世代、網路品質、SLA、價格透明度、技術支援、擴充彈性。這篇 2026 年版指南把台灣市場三類供應商——專業主機商、電信商、國際雲端——的定位與行情攤開比較,附上簽約前的避坑清單與兩週評估流程。看完你可以直接拿著檢核表去要報價,少走我們過去十五年看客戶踩過的彎路。 GPU主機推薦之前,先講清楚評比方法 市面上的推薦文常見兩個毛病:一是拿國外雲端的規格與價格直接套在台灣情境,忽略延遲、匯率與法遵;二是只排價格高低,不談交期與支援品質,簽下去才發現落差。本文的比較基準是「2026 年在台灣實際簽得到約的方案」,對象涵蓋兩人 AI 新創到百人研發團隊,權重放在三件事:長期持有成本、部署速度、出問題時找不找得到人。價格取市場公開牌價或具代表性的行情數字,實際成交價仍以各家報價為準。 還有一個前提要先對齊:先確認你要的是「訓練」還是「推論」。訓練吃多卡互連與大 VRAM,推論吃延遲與單位成本,兩者的最佳供應商可能不是同一家。需求沒定義清楚就去比價,是選錯方案的第一大原因。 也提醒一個心態:不要用「最便宜」當唯一準則。GPU 算力是生產工具,停機一天的營收損失往往超過一整個月的價差;把總持有成本、停機風險與工程師時間全部放進同一張試算表,才是「划算」的正確定義。順帶說明,搜尋資料時 GPU Server、GPU 伺服器、GPU主機講的是同一件事,中英文交叉查詢,能找到的評測與規格文件會完整許多。 ▲ 機房位置・GPU 世代・網路・SLA・價格透明・支援・擴充性 挑選 GPU主機的七大準則 一、機房位置與延遲 服務對象在台灣,機房就該在台灣。台北機房到全台用戶的延遲普遍低於 10ms,海外節點動輒 100ms 起跳,對話式 AI 與即時推薦的體感差距一翻兩瞪眼;個資敏感產業更有資料落地的法遵需求,機房位置直接決定案子能不能過。另外確認機房有沒有 ISO 27001 認證與雙迴路供電,這兩項是穩定度的基

💡 快速答案:GPU主機是什麼?和一般伺服器有什麼不同? GPU主機是搭載資料中心級 GPU 的伺服器,如 H100 具 80GB HBM3 與約 990 TFLOPS 算力,專跑 AI 訓練與推論。企業可買斷、上雲,或向戰國策等主機商租用,單卡月租 NT$50,000 起。 GPU主機是搭載一張以上資料中心等級圖形處理器(GPU)的伺服器,靠數千到上萬個運算核心同時處理大量平行運算,主要用途是 AI 模型訓練與推論、3D 算圖與科學模擬。它與一般伺服器的差別不在等級高低,而在運算架構:CPU 擅長依序處理複雜邏輯,GPU 擅長同時處理海量重複計算。這篇用主機商視角,把 GPU 主機的定義、內部架構、適用場景與費用級距一次講清楚,幫你在十分鐘內判斷公司需不需要這台機器。 GPU主機的定義:不只是「有插顯示卡的伺服器」 GPU 原本是為了畫面繪製而設計的晶片。螢幕上數百萬個像素要各自計算顏色與光影,而這些計算彼此獨立,所以 GPU 的架構走向「核心數量極多、單一核心構造簡單」。後來研究人員發現,深度學習的核心運算——矩陣乘法與卷積——正好就是這種型態:同一種算式,重複幾十億次。於是 GPU 從繪圖晶片一路演變成 AI 運算的主力,裝滿這種晶片的 GPU主機,也成了企業建置 AI 能力時第一個要面對的硬體題目。 用具體數字感受一下規模:一張 NVIDIA H100 內含一萬六千多個 CUDA 核心,搭載 80GB HBM3 高頻寬記憶體,FP16 張量運算力約 990 TFLOPS;一台八卡機種的總算力,已經接近十多年前一整座國家級超級電腦。反過來說,不是所有工作都吃得到這種算力——程式必須具備高度平行性才有意義,這也是為什麼跑網站、開資料庫從來不需要 GPU,買了只是讓它閒置折舊。 另一個常見的混淆是資料中心卡與電競卡。兩者晶片系出同門,但資料中心卡配備 ECC 錯誤修正記憶體、通過全年無休運轉驗證、支援 NVLink 卡間互連,韌體與驅動的維護週期以年計;電競卡拿來跑兩天實驗沒問題,要扛連續三週的訓練任務,穩定性與原廠授權條款都會讓工程師睡不安穩。正規的 GPU 主機,用的一定是前者。 ▲ GPU 平行運算 vs CPU 序列運算,AI 工作負載差距 10-100 倍 GPU主機與一般伺服器(CPU Server)的差異 兩者的關係是分