目錄
「同樣的規格，怎麼貴了兩成？」凌晨的會議室裡，資訊主管把報價單推到財務主管面前。這句話，正在台灣許多企業裡重複上演。AI 硬體成本在記憶體漲價潮推升下快速位移，過去編好的算力預算，如今可能連原本規劃的機器都買不齊。問題從來不是「要不要買」，而是「怎麼重編才不會讓投資打水漂」。
記憶體漲價潮來襲：AI硬體成本結構怎麼變了？
過去企業編列 AI 預算，重心多半放在軟體授權與模型推論費用，硬體報價被當成相對穩定的項目。這幾年情況反轉了。業界研調資料顯示，AI 伺服器物料清單中的記憶體成本占比，已從傳統伺服器約一成，攀升到兩成以上。這不是單一零組件的短期波動，而是整個成本結構的位移。
所以，當資訊主管說「同樣規格貴了兩成」，背後其實是好幾個環節同時鬆動。要重編預算，第一步得先看清楚錢到底花去哪裡。
AI伺服器物料清單的記憶體占比變化
傳統伺服器的記憶體用量以 CPU 核心數與虛擬機數量估算，占比大致穩定。AI 伺服器不同，加速器需要極高的頻寬餵資料，記憶體容量與頻寬規格同步跳升，單機記憶體成本自然被放大。多家研調機構的調查也顯示，不少企業的 AI 相關硬體預算比原編列明顯增加，記憶體是最主要的推力之一。
HBM與DDR5的產能排擠效應
高頻寬記憶體（HBM）透過矽穿孔堆疊多層 DRAM 晶粒，製程複雜、良率較低，每生產一單位 HBM 所消耗的晶圓面積遠高於標準 DDR5。當 AI 加速器需求大增，產能優先轉向 HBM，DDR5 供給被排擠，兩者價格同步走揚。這是結構性因素，不是短期炒作。
載板供給緊俏對伺服器成本的影響
ABF 載板負責連接晶片與印刷電路板。AI 晶片面積大、接腳多，對載板層數與線寬要求更高。載板擴產週期長達兩到三年，供給彈性低，報價易漲難跌。企業評估伺服器成本時，往往忽略這個隱形環節。
| 成本項目 | 傳統伺服器占比 | AI伺服器占比 | 變化幅度 |
|---|---|---|---|
| 記憶體（DRAM／HBM） | 約 10% | 20–25% | 增加 10～15 個百分點 |
| 載板（ABF） | 約 5% | 15–20% | 增加 10 個百分點以上 |
| GPU／加速器 | 約 5% | 40–50% | 大幅提升 |
| 電力與散熱 | 約 5% | 10–15% | 翻倍 |
| 其他（CPU、儲存、機箱） | 約 75% | 15–25% | 占比明顯壓縮 |
看懂這張表，就會明白為何原本的預算書會失準。硬體漲價不是單點事件，而是「記憶體＋載板＋電力散熱」三條線同時上移。若想進一步掌握推論端的成本結構，可以先從推論工作負載與單位算力成本著手；若還在打地基的階段，則要先讓規格與預算對齊，再談擴充。
誰該緊張？企業AI預算重編的關鍵角色
這波漲價不是資訊部門單獨能扛的事。它的影響橫跨資本支出、現金流與營運時程，真正需要坐下來談的，至少有三種角色。
資訊主管的採購兩難
資訊主管面對的是「規格不能降、預算不夠用」的夾擊。降規可能導致模型跑不動或推論延遲超標；不降規就得回頭向財務要錢。偏偏交期也在拉長，不少台灣企業反映 AI 硬體交期較前一年明顯延長，時間壓力讓決策更難從容。
財務主管的資本支出審核壓力
財務主管的難處在於，AI 投資的效益往往難以在短期財報上兌現，但資本支出卻要先付。當硬體報價每季變動，傳統的年度預算審核節奏就跟不上。若沒有可驗證的成本模型與滾動檢視機制，財務端只能選擇保守，反而拖慢整體布局。
跨部門協作的治理框架
與其讓兩個部門各自為政，不如把預算重編當成一個跨部門專案。由資訊端提供成本監測數據，財務端提供授權邊界，採購端負責合約條款，三方每季共同檢視一次。這也是 AI 投資報酬率評估能發揮作用的地方：把抽象的效益轉成可討論的數字。
| 角色 | 核心關注 | 主要壓力 | 協作需求 |
|---|---|---|---|
| 資訊主管 | 算力規格、交期與相容性 | 預算不足、部署時程延後 | 需要財務端的彈性授權 |
| 財務主管 | 資本支出節奏與投報率 | 董事會問責、現金流壓力 | 需要可驗證的成本模型 |
| 採購部門 | 合約條款與價格保障 | 漲價風險、議價空間壓縮 | 需要明確的觸發條件 |
| 共同需求 | 滾動檢視機制 | 跨部門資訊落差 | 每季共同檢視一次 |
傳統做法
資訊主管：「記憶體漲了兩成，原本編的預算不夠買同樣的伺服器。」
財務主管：「那就少買幾台，等價格跌了再說。」
資訊主管：「但推論服務下個月就要上線⋯⋯」新做法
資訊主管：「我整理了記憶體與載板的價格趨勢，建議把預算拆成硬體、電力散熱、軟體三塊，硬體保留一成五彈性。」
財務主管：「所以與其一次買齊，不如分批採購、設定觸發條件？」
資訊主管：「對，穩定推論先自建，尖峰訓練用租的，三年總持有成本我算給你。」
為什麼現在就要重編？三大成本位移訊號
預算重編不是因為恐慌，而是因為訊號已經很清楚。以下三個位移，任何一個單獨出現都還算小事，同時出現就代表原本的假設已經失效。
訊號一：記憶體合約價連續多季走揚
業界追蹤資料顯示，AI 需求帶動下，HBM 與伺服器用 DDR5 的合約價在近兩年明顯走揚，部分規格年漲幅達數成。合約價連續多季走揚，意味著「等下一季會便宜」的期待並不牢靠。
訊號二：交期延長與供給緊俏
價格之外，時間也是成本。多家台灣企業反映 AI 硬體交期較前一年明顯拉長。交期拉長會壓縮測試與上線的緩衝期，一旦延誤，連帶影響服務上線與營收時程。
訊號三：電力與散熱成本同步攀升
業界統計顯示，近五年資料中心每機櫃平均電力密度成長逾兩倍。硬體買進來只是開始，能不能供電、能不能散熱，才是真正的關卡。相關的機房規劃細節，建議在編列預算時就一併評估。
| 項目 | 概況 | 對企業的影響 |
|---|---|---|
| HBM 合約價 | AI 需求帶動，年漲幅達數成 | 加速器整體成本墊高 |
| DDR5 RDIMM 現貨價 | 供給被排擠，價格同步走高 | 一般推論伺服器同步漲價 |
| ABF 載板 | 供給彈性低，漲幅約一到兩成 | 成本與交期雙重壓力 |
| AI 硬體交期 | 較前一年明顯拉長 | 部署時程被迫順延 |
| 機櫃電力密度 | 近五年成長逾兩倍 | 機房改造成本上升 |
漲價週期有多長？記憶體與載板價格趨勢解讀
重編預算的另一個前提，是判斷這波漲勢會走多久。若只是短期波動，撐一下就好；若是跨越年度的長週期，就得改變策略。
HBM與DDR5漲價週期預估
業界普遍預估，HBM 與 DDR5 供給緊俏會延續數季以上，主因 AI 加速器需求未歇、原廠產能排擠效應持續。這代表企業採購節奏要從「年度議價」轉向「季度滾動」，並考慮提前鎖定長約以規避現貨波動。
載板擴產週期與供給彈性
載板的問題更棘手。ABF 載板擴產需兩到三年，供給彈性低。當 AI 晶片需求湧現，載板報價易漲難跌。企業在評估伺服器成本時，應把載板視為必須追蹤的指標，而非交給供應商自行吸收。
企業採購策略的因應調整
面對長週期漲價，策略上可分成三層：一是用長約鎖定關鍵料件的價格區間；二是分批交貨，避免一次吃下全部漲幅；三是提前評估替代規格或備援供應商。關於合約條款怎麼談才不吃虧，建議先把價格調整條款、分批交貨與違約責任三件事寫清楚。
| 零組件 | 漲價主因 | 預估週期 | 供給彈性 | 企業因應策略 |
|---|---|---|---|---|
| HBM | 產能排擠、加速器需求強 | 延續數季以上 | 低 | 長約鎖定、提前備料 |
| DDR5 RDIMM | 原廠產能轉向 HBM | 中期偏緊 | 中低 | 分批採購、替代規格評估 |
| ABF 載板 | AI 晶片面積大、層數高 | 擴產需 2–3 年 | 低 | 與供應商簽長約、建立備援來源 |
自建、租用還是混合？算力部署成本大比較
知道價格會漲，接下來要決定的是「用什麼方式取得算力」。這個選擇直接影響資本支出的形狀，也是預算重編中最關鍵的一步。
全自建算力的優勢與限制
全自建的長期推論單位成本通常最低，資料主權與合規掌控度也最高，適合穩定且大量的工作負載。限制在於初期資本支出龐大，硬體漲價直接衝擊預算，且必須自行承擔電力、散熱與維運人力。
全雲端租用的優勢與限制
全雲端租用把資本支出轉為營運支出，不用承擔硬體漲價與折舊風險，調度彈性高。但長期大量使用的單位成本較高，資料跨境與合規風險要額外管理，供應商鎖定的風險也較大。
混合部署的實務做法與效益
多數企業最後會走向混合：核心推論自建以控制成本，尖峰訓練租用以保留彈性。架構複雜度會提高，但只要把資料同步與資安治理設計好，就能同時分散漲價風險。若需要具體數字，建議先做一份 GPU 租用與自建的三年總持有成本試算，再決定兩邊的比例。
| 部署模式 | 初期成本 | 長期單位成本 | 彈性 | 風險 | 適合情境 |
|---|---|---|---|---|---|
| 全自建 | 高 | 低 | 低 | 硬體漲價、折舊與維運負擔 | 穩定且大量的推論負載 |
| 全雲端租用 | 低 | 高 | 高 | 供應商漲價、鎖定與合規風險 | 短期或波動大的訓練負載 |
| 混合部署 | 中 | 中低 | 高 | 架構複雜、跨環境治理成本 | 核心自建＋尖峰租用的多數企業 |
| 評估構面 | 全自建 | 全雲端租用 | 混合部署 |
|---|---|---|---|
| 成本可控性 | ★★★☆☆ | ★★☆☆☆ | ★★★★☆ |
| 調度彈性 | ★★☆☆☆ | ★★★★★ | ★★★★☆ |
| 合規掌控 | ★★★★★ | ★★☆☆☆ | ★★★★☆ |
| 維運負擔 | ★☆☆☆☆ | ★★★★★ | ★★★☆☆ |
| 漲價風險分散 | ★★☆☆☆ | ★★★★☆ | ★★★★★ |
電力與散熱：被忽略的AI預算黑洞
很多預算書只寫了「伺服器採購」，卻沒寫「這台機器插得進去嗎」。這是最常見、也最貴的疏漏。
資料中心電力密度成長趨勢
業界統計顯示，近五年每機櫃平均電力密度成長逾兩倍。這意味著既有機房的配電設計，很可能早已不敷使用。若不先處理電力增容，設備到貨也只能放著。
液冷與氣冷方案的PUE比較
PUE 值越低代表電力使用效率越高。傳統氣冷資料中心 PUE 常見值約 1.5 至 1.8，直接液冷可降至 1.1 至 1.2，浸沒式液冷甚至可達 1.05 至 1.1。AI 伺服器熱密度高，氣冷已難應付，液冷逐漸成為必要選項而非選配。
台灣土地與變電所取得的挑戰
台灣地狹人稠，土地與變電所取得困難，使機房擴充更具挑戰。新增用電申請需要前置作業時間。企業若未事先編列電力與散熱預算，很容易陷入設備閒置的成本黑洞。碳排與揭露的相關要求，也建議同步納入評估。
| 散熱方案 | PUE範圍 | 改裝成本 | 適合機櫃密度 | 台灣適用性 |
|---|---|---|---|---|
| 傳統氣冷 | 1.5–1.8 | 低 | 每櫃 5–10 kW | 機房空間足夠者可行 |
| 直接液冷 | 1.1–1.2 | 中高 | 每櫃 20–50 kW | 新建機房較適合 |
| 浸沒式液冷 | 1.05–1.1 | 高 | 每櫃 50 kW 以上 | 需評估槽體與維護人力 |
| 成本項目 | 占比 | 說明 | 企業常忽略原因 |
|---|---|---|---|
| 電力與散熱合計 | 約 35% | 含電費、增容與冷卻改裝 | 只看硬體報價 |
| 電力增容 | 約 10–15% | 變壓器、配電與線路更新 | 誤認為是機房房東的事 |
| 冷卻改裝 | 約 10–15% | 液冷導入與管路工程 | 低估熱密度成長速度 |
| 碳排與揭露成本 | 約 5% | 盤查、驗證與揭露作業 | 未納入專案預算 |
業界針對 AI 基礎架構總持有成本的研究普遍指出，電力與散熱合計約占企業 AI 總持有成本的三分之一左右。這不是零頭，而是足以改變投資結論的關鍵數字。
五步驟重編AI預算：從監測到觸發條件的實務流程
前面談的是「為什麼」，接下來談「怎麼做」。以下五個步驟可以讓資訊與財務主管協同執行，不需要一次到位，但要先開始。
步驟一：建立硬體成本監測儀表板
每月追蹤 HBM、DDR5 與載板的合約價及現貨價，並對照自家採購規格，設定漲幅預警門檻。數據來源建議同時採用國際研調報告與供應商報價，避免只依賴單一通路資訊。
步驟二：區分訓練與推論算力需求
把 AI 工作負載拆成「長期穩定推論」與「短期突發訓練」兩類。推論負載適合自建以降低單位成本，訓練負載則可彈性租用以規避硬體漲價風險。
步驟三：採混合部署與保留採購彈性
核心推論系統自建，尖峰訓練需求租用雲端算力。採購合約中加入價格調整條款與分批交貨選項，避免在漲價高峰一次性鎖定大量硬體。
步驟四：將電力與散熱納入總持有成本
編列預算時同步計算每機櫃的電力增容、冷卻改裝與碳排成本。若既有機房無法支援，應評估異地機房或液冷方案，並把相關費用計入三年總持有成本。
步驟五：設定採購觸發條件與滾動檢視
例如記憶體合約價連續兩季上漲逾一成，即啟動替代方案評估；價格回落至設定區間則啟動分批採購。每季由資訊、財務與採購部門共同檢視一次。要讓這套機制運作順暢，可以先建立企業 AI 治理框架，並搭配滾動式預算管理的做法。
| 步驟 | 執行重點 | 負責部門 | 產出文件 | 檢視頻率 |
|---|---|---|---|---|
| 一、成本監測 | 追蹤 HBM、DDR5、載板價格並設警示 | 資訊＋採購 | 成本監測儀表板 | 每月 |
| 二、需求分類 | 拆分訓練與推論負載 | 資訊 | 訓練推論分類表 | 每季 |
| 三、混合部署 | 核心自建、尖峰租用 | 資訊＋財務 | 混合部署比例規劃 | 每季 |
| 四、總持有成本 | 納入電力、散熱與碳排 | 資訊＋廠務＋財務 | 三年總持有成本模型 | 每半年 |
| 五、觸發條件 | 設定採購啟動門檻 | 資訊＋財務＋採購 | 採購觸發條件清單 | 每季 |
傳統做法
採購：「我們要一次採購五十台 AI 伺服器，請給最好的價格。」
供應商：「目前記憶體漲價，只能維持報價一週。」
採購：「那就先簽約再說。」新做法
採購：「我們需要分批交貨，每季十台，合約中加入價格調整條款。」
供應商：「可以，但長約鎖定價格需要預付三成。」
採購：「沒問題，但若合約價連續兩季漲逾一成，我們保留重新議價的權利。」
採購時機怎麼抓？漲價潮下的進場與等待策略
「現在買還是等？」這是重編預算時最常被問的問題。答案不是二選一，而是取決於你的工作負載與觸發條件。
分批採購與長約鎖定的搭配
與其一次買齊，不如把採購切成幾批，同時對關鍵料件談長約鎖定價格區間。這樣既不會在最高點全數進場，也能確保核心料件供應穩定。
價格觸發條件的設定範例
觸發條件的價值在於「事先講好、到時照做」，避免每次都要重新開會。例如合約價連續兩季漲逾一成，就啟動替代方案評估；價格回落至設定區間，就啟動分批採購。
替代方案評估的啟動時機
替代方案不一定要立刻採用，但必須提前評估。無論是不同規格的記憶體、備援供應商，或是把部分負載移到雲端，都應該在漲價初期就完成可行性分析。供應鏈層面，建議同步建立備援供應商與風險管理機制。
| 觸發情境 | 監測指標 | 門檻設定 | 啟動行動 | 負責部門 |
|---|---|---|---|---|
| 價格續漲 | 記憶體合約價 | 連兩季漲逾一成 | 啟動替代方案評估 | 資訊＋採購 |
| 價格回落 | DDR5 現貨價 | 回落至設定區間 | 啟動分批採購 | 採購 |
| 交期拉長 | 供應商交期 | 延長逾一季 | 啟動備援供應商 | 採購 |
| 電力不足 | 機櫃電力密度 | 超過既有設計值 | 啟動機房或液冷評估 | 資訊＋廠務 |
投資排序怎麼排？訓練與推論的資源配置
預算有限時，最忌諱平均分配。不同工作負載的特性差異很大，用同一套邏輯配置資源，往往是浪費的開始。
長期穩定推論負載的配置策略
推論服務一旦上線，通常是全年無休、流量可預測。這類負載最適合自建，因為單位算力成本會隨使用時間攤薄。把預算優先配置在這裡，長期效益最明確。
短期突發訓練負載的配置策略
訓練任務往往集中在特定專案期間，需求來得急、結束得也快。這類負載租用雲端算力更合理，既不用承擔硬體漲價風險，也不必負擔閒置成本。
投資排序的動態調整機制
排序不是排一次就定終身。建議每月檢視一次負載變化，每季重新確認投資優先順序。當推論量成長到一定規模，自建門檻就會浮現；當訓練需求趨緩，租用比重就該下調。分類時可先從工作負載的穩定度與合規需求兩條線下手。
| 工作負載類型 | 特性 | 建議部署模式 | 成本考量 | 調整頻率 |
|---|---|---|---|---|
| 長期穩定推論 | 流量可預測、全年無休 | 自建為主 | 單位算力成本最低 | 每季檢視 |
| 短期突發訓練 | 需求集中、期間短 | 雲端租用 | 避免閒置與漲價風險 | 每月檢視 |
| 季節性尖峰 | 週期性波動 | 混合部署 | 保留調度彈性 | 每月檢視 |
| 敏感資料處理 | 合規要求高 | 自建或專屬環境 | 合規成本優先於單價 | 每季檢視 |
常見問答：AI硬體成本與算力預算的實務疑問
記憶體漲價對企業AI預算的影響有多大？
記憶體占 AI 伺服器物料清單比重已從約一成升至兩成以上。若企業原編列一千萬元採購預算，同等規格可能需增加兩至三成支出。建議把預算拆分為硬體、電力散熱與軟體三塊，並保留一成至一成五的彈性空間因應價格波動。
AI硬體成本持續上漲，企業該現在採購還是等待？
不建議一次性大量採購，也不宜無限期等待。可依工作負載區分：穩定推論需求分批採購並鎖定長約；突發訓練需求先以租用因應。同時設定價格觸發條件，例如合約價連續兩季上漲逾一成，即啟動替代方案評估。
自建與租用算力，哪個對企業AI預算比較划算？
須視使用量與期間而定。長期穩定且大量的推論負載，自建單位成本通常較低；短期或波動大的訓練負載，租用較具彈性。關鍵是把電力、散熱、維運與碳排納入三年總持有成本比較，而不是只看硬體報價。
電力與散熱成本如何納入AI算力預算編列？
AI 伺服器每機櫃電力密度較傳統伺服器高出數倍，既有機房配電與冷卻多不敷使用。電力增容與液冷改裝費用可觀，且台灣土地與變電所取得困難。若未事先編列，可能導致設備到貨卻無法上線，形成閒置成本。
如何說服財務部門同意增加AI硬體預算？
建議以總持有成本與投資報酬率溝通，而非單獨呈現硬體漲價。把 AI 專案預期效益、單位算力成本、自建與租用比較，以及電力散熱費用一併納入，並提出滾動檢視機制與觸發條件，讓財務部門理解預算調整的邏輯與可控性。編列時也別忘了把隱形成本、折舊與跨部門協作成本一起算進去。
| 項目 | 重編前做法 | 重編後做法 | 效益 |
|---|---|---|---|
| 編列週期 | 年度一次性編列 | 季度滾動檢視 | 及時反映價格波動 |
| 成本範圍 | 只看硬體報價 | 納入電力、散熱與碳排的總持有成本 | 避免隱形成本失控 |
| 部署模式 | 單一自建或單一租用 | 混合部署 | 兼顧成本與彈性 |
| 採購策略 | 一次買齊、年度議價 | 分批交貨＋觸發條件 | 分散漲價風險 |
| 跨部門協作 | 資訊部門單獨作業 | 資訊、財務、採購共同檢視 | 決策依據一致 |
品牌觀點：從王道經營看AI預算治理
預算重編看起來是數字調整，本質上卻是一場治理練習。當硬體價格每季變動，企業真正需要的不是更精準的預測，而是一套能容納變動的決策節奏。
治理、領導、管理三支柱的預算思維
從王道經營學的角度看，治理負責定邊界與權責，領導負責聚共識與定方向，管理負責抓落地與兌現。對應到 AI 預算，就是先講清楚誰有權調整、哪些條件下自動啟動、每季由誰檢視。邊界清楚了，執行才不會每次都要重新協商。
價值總帳：用總價值語言支撐決策
單看硬體報價，永遠會覺得「漲價就是壞消息」。但若用價值總帳的六面向來衡量——顯性與隱性、現在與未來、直接與間接——就會發現提前布局的合規與資料主權，可能在未來省下更大的成本。這正是王道經營學與 AI 決策系統想解決的問題：讓取捨有座標，而不是憑感覺。
滾動式治理讓AI投資更長久
價格會波動，需求會變化，唯一不變的是企業必須持續做出選擇。把預算從「一年編一次」改成「每季滾動檢視」，看起來麻煩，實際上是把風險拆小、把決策變快。這也是領導人同心分身導入時強調的落地節奏：先把價值排序與決策底線沉澱下來，組織才有一致的方向。
| 王道支柱 | AI預算治理對應 | 實務做法 | 預期效益 |
|---|---|---|---|
| 治理 | 定邊界與權責 | 明訂預算授權層級與觸發條件 | 避免臨時決策與內耗 |
| 領導 | 聚共識與定方向 | 高層確認算力投資的優先順序 | 資源集中於關鍵場景 |
| 管理 | 抓落地與兌現 | 每季檢視成本儀表板與執行進度 | 投資成果可被驗證 |
若您正在為 AI 硬體漲價下的預算重編傷腦筋，歡迎預約智菩科技的企業 AI 化轉型陪跑服務，我們將協助您建立滾動式治理框架，讓每一筆算力投資都創造長久價值。
結論：滾動式治理，讓AI投資更長久
記憶體與載板漲價不會是最後一次成本位移。與其期待價格回落，不如把預算編列從「一次性作業」升級為「持續運作的治理機制」。
三個今天就能做的行動
- 打開試算表，把現有 AI 預算拆成硬體、電力散熱、軟體三塊，看看電力與散熱那一欄是不是空白。
- 列出你手上最穩定的推論負載與最突發的訓練負載，各自標註目前是自建還是租用。
- 設定一個最簡單的觸發條件，例如「記憶體合約價連兩季漲逾一成，就召開一次跨部門檢視會」。
持續監測與動態調整
這三件事做完，你已經有了滾動治理的雛形。接下來只要固定頻率檢視、依實際狀況調整比例，就能在漲價週期中保持主動。AI 硬體成本會變，但一套能因應變化的決策節奏，會一直用得上。
延伸閱讀
若想再往下走，可以從三個方向延伸：企業 AI 化轉型陪跑、滾動式預算管理，以及企業 AI 治理框架的建立。把這三件事串起來，預算就不只是數字，而是一套能長期運作的決策節奏。