快訊

就是今天!千載難逢「超級666日」降臨 命理師曝開運招財秘訣

57歲蕭薔《瀟灑小姐》火辣熱舞!浪姐「腰精」大秀一字馬、朝天蹬

功耗升級催生散熱產業鏈

【文/呂泰德】

AI伺服器功耗從晶片燒到整櫃,氣冷已難支撐高密度部署,液冷從選配走向標配,台達電、奇鋐、雙鴻、緯穎等台廠卡位系統升級。

如果說二○二三年是生成式AI全面驅動的起點,那麼二六年則是AI資料中心正式進入功耗時代的分水嶺。過去二十年間,全球資料中心競爭焦點主要圍繞在運算效能、儲存容量與網路頻寬,但隨大型語言模型、生成式AI與AI Agent快速擴張,市場開始發現真正限制AI基礎建設擴張速度的關鍵因素,已逐漸從晶片供給轉向電力與散熱能力。因為當運算密度持續提高,熱量增加速度遠遠超過傳統資料中心的設計假設,氣冷架構逐漸逼近物理極限。

當前,企業機房與一般雲端伺服器大多採用氣冷設計,單櫃功耗約落在五至十五kW,大型雲端業者部分高密度機櫃雖可達二○至三○kW,但仍可透過空調系統、冷熱通道管理以及高效風扇維持穩定運作。然而生成式AI出現後,情況開始出現變化,因為AI伺服器不只是增加數量,而是讓單一機櫃的運算密度呈現倍數成長。尤其GB200 NVL72的問世,象徵AI資料中心正式從伺服器時代跨入機櫃時代。

功耗升級改寫散熱規格

過去資料中心競爭的是單台伺服器效能,如今競爭的則是整個機櫃的運算能力與能源效率。由於七二顆GPU需透過NVLink高速互連形成單一運算平台,系統設計更強調集中部署與高速資料交換,使算力密度創下歷史新高,但同時也將熱源高度集中。當機櫃功率密度突破一○○kW門檻後,傳統依靠風扇與空調的散熱方式逐漸接近極限,促使液冷從過去的選配方案轉變為新世代AI資料中心的重要標準配置,並帶動冷板、CDU、快接頭與液冷機櫃等供應鏈全面升級。

根據施耐德電機公開資料,AI資料中心機櫃功率密度已由傳統十至二○kW,快速提升至超過一○○kW水準,未來更有機會朝數百kW發展。對資料中心營運商而言,真正的挑戰不只是耗電量增加,而是熱量移除效率。因為空氣本身的熱容量有限,即使增加風量與空調能力,也無法有效解決高密度運算所產生的局部熱點問題。反觀液體的熱傳導效率遠高於空氣,能夠更直接將熱量從GPU與CPU表面帶走,因此開始成為AI資料中心的主流方向。

也正因如此,Nvidia執行長黃仁勳也多次強調,未來資料中心將不只是儲存與運算空間,而是生產AI模型與AI服務的工廠。既然是工廠,就必須考慮能源供給、熱能管理與營運效率。這種思維轉變使得資料中心逐漸從資訊科技產業,跨入能源工程與基礎建設。

液冷直攻晶片熱源

當AI伺服器的運算密度愈高,熱源就愈集中,過去靠風扇、散熱片、熱導管與機房空調堆出來的氣冷架構,已經很難支撐百kW等級的機櫃部署。過去資料中心是把熱從伺服器內部吹到機房,再由空調系統處理;但AI機櫃的熱密度太高,若仍先讓熱留在機箱內,再透過空氣慢慢帶走,不只效率低,還會讓風扇耗電、空調負載與機房能耗同步上升。因此,產業開始把散熱位置直接貼近GPU與CPU,把熱在源頭就帶走,這就是直達晶片液冷(Direct-to-Chip; DTC)液冷。所謂DTC液冷,核心是利用冷板貼(Cold Plate)附在GPU、CPU與高熱源元件上,讓冷卻液透過冷板內部微通道流動,直接把晶片運算產生的熱帶走,再經由歧管、管路與CDU液冷分配裝置把熱交換出去。

【本文未完,全文詳情及圖表請見《先探投資週刊》2407期;訂閱先探投資週刊電子版

相關新聞

功耗升級催生散熱產業鏈

AI伺服器功耗從晶片燒到整櫃,氣冷已難支撐高密度部署,液冷從選配走向標配,台達電、奇鋐、雙鴻、緯穎等台廠卡位系統升級。

Micro LED CPO全光互聯要角

AI叢集規模大擴張,GPU/HBM間的資料搬移迫切實現低延遲、高頻寬、低功耗互連,Micro LED CPO將在輝達Feynman GPU三.二T超高速互連架構世代扮演要角。

狂牛台股 市值奔馳

AI趨勢當道,半導體與電子股持續擴張,推動台股總市值持續攀升,指數迅速上漲須留意追高風險,卻也無需預設測高點立場,順勢操作方為上策。

謝金河:台股五不窮、六不絕!Dell帶領的AI地端革命

股市進入五月,通常都有「五窮六絕」的淡季現象,今年ComputeX展再度引來貴客,從蘇姿丰端出百億美元採購清單,被她欽點的封測廠日月光投控、力成,ABF三雄欣興、景碩、南電,PC、伺服器的緯創、緯穎、英業達及機殼的營邦等全面大漲。

功率半導體 接棒AI賽道

全球AI算力競賽,龐大功耗讓能源轉換效率成為下個決勝關鍵點。支撐電力的功率半導體,歷經庫存調整後,迎來供需反轉與漲價潮。當國際IDM大廠以調漲報價確立產業新秩序,並加速朝高階領域轉型之際,台灣供應鏈亦順勢掌握產業向上趨勢,可望全面迎接成長格局。

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。