跳到主要內容

AI 伺服器的熱挑戰:冷卻技術簡介



AI 伺服器的熱挑戰

AI 伺服器雖然是運算高手,但也帶來不小的熱問題。隨著 AI 伺服器越來越強,傳統的風扇散熱方式已經逐漸"功虧一簣"。這不只影響機器效能,也對環境造成壓力。小編試著整理一些文章做了簡介,如果有錯誤還麻煩高手指教刊誤。


液態冷卻:新時代的選擇

據 Forbes 報導,液態冷卻正快速成為 AI 伺服器的新常態。比起傳統風扇,液態冷卻更為高效,有單相和雙相等不同方式。單相冷卻使用一種液態冷卻液吸熱,而不會改變自身狀態。而雙相冷卻則利用液體與蒸氣的變化進行熱交換。


浸液式冷卻:效率的新層次

Equus Compute Solutions 提及的浸液式冷卻是把伺服器零件全部浸入冷卻液中。這方法特別適合需求高的計算機和數據中心。它也有單相和雙相兩種模式,各有特色與用途。


液態冷卻與浸液式冷卻:一較高下

當我們討論冷卻方式時,常常會聚焦在液態冷卻和浸液式冷卻上。CES Corporation 的文章指出,液態冷卻是利用冷卻液透過管道流動,直接冷卻硬體組件。這方式確實有效,但一般適合需求在每架 10 到 15 kW 電力的情境。而浸液式冷卻則是把整組硬體裝置完全浸入一種非導電的液體中,這讓它在需要每架超過 100 kW 的高密度場合更具優勢。液態冷卻的安裝較為簡單且初期投資較低,但浸液式冷卻在能效上表現更佳,特別適合大型數據中心。雖然這兩種方法都有各自的利弊,但浸液式冷卻在未來的 AI Server 中,逐漸展現出它更高的效率和持續性。


直接冷卻芯片

直接冷卻芯片或稱 D2C 是一種直接讓冷卻液接觸熱源如 CPU 或 GPU 的方式。這方法不僅提高散熱效率,尤其適合密集或高負荷的環境。


AI 輔助的熱控制

如 IEEE 的研究所述,AI 也投入到數據中心的熱控制之中。透過 AI 的優化,不僅改進工作流程,還能消除熱點,為熱控制增加了新的效率層次。



寫在後面

AI 伺服器冷卻技術日新月異,液態和浸液式冷卻目前算是主流技術。展望未來,這些冷卻技術將指引我們走向更快速的運算與更環保環境。


參考資料

留言

這個網誌中的熱門文章

Reddit 超強文章:使用 ChatGPT 的 Custom Instruction 提升回答品質

Forefront Chat:自由切換 GPT-3.5 和 GPT-4 聊天,現在免費!

提高投資決策效率:利用 ChatGPT 分析資產負債表

ChatGPT 可以顯示美觀數學公式:Tex All the Tings Chrome Extension

Glarity Chrome 擴充套件:使用 ChatGPT 生成 Youtube/bilibili, Google/Bing, Page Summary, Comment Summary 摘要

ChatGPT 的 GPTs 筆記 (4):GPTs Konwledge 知識庫的限制與風險

當未來和過去交錯:AI 翻譯古老楔形文字 Cuneiform

TRIZGPT:解決問題的小顧問

ChatGPT Sidebar: 全方位 AI 助手 (Chrome Extension)

Grammarly 推出 GrammarlyGo:創新的生成式 AI 寫作助手