當像微軟這樣的資料中心擁有數十萬個AI加速器時，累積廢熱問題就很容易產生，尤其是在冷卻方面。今天，微軟展示了它特製冷卻板，該冷卻板利用微流體技術將液體冷卻劑輸送到直接蝕刻在矽晶片背面的微通道中，預計將比當今的標準冷卻板系統更有效地散熱。在內部測試中，該方法的散熱效率比傳統冷卻板高出3倍，並將GPU內部的峰值溫升降低了約3分之2。該公司認為，這些成果有望使資料中心能夠從相同硬體中榨取更高效能，同時減少冷卻能耗。
微軟的設計並非依賴位於封裝晶片上方表面的金屬冷卻板，而是在矽晶片本身中雕刻出微小的微通道，讓冷卻劑能夠更接近實際熱源（實際電晶體電路）流動。這些通道細如髮絲，遵循受自然啟發的獨特圖案，與其說是直管，不如說更像葉脈。微軟使用人工智慧將流體引導至熱點並繪製每個晶片的熱指紋，從而提高標準化通道佈局的效率。
現代人工智慧加速器將大功率集中到狹小密集的區域。例如，NVIDIA的「Rubin Ultra」預計單一加速器將產生2,300瓦熱量。隨著每一代加速器在新節點上密度的提升，電晶體間距也隨之減小，更多電晶體可以輸出更多熱量。即使最新節點的效率有所提升，各大公司也會利用這一點來最大限度地提升效能。然而，傳統冷卻方式已達到實際應用的極限。微流體冷卻技術降低了冷卻液和電晶體之間的熱障，使液體能夠與電晶體層達到最大程度的接觸。這反過來又可以實現更高的機架密度、在短暫的需求高峰期實現更高的時脈頻率，以及新的封裝選擇，例如 3D晶片佈局，而這些佈局之前一直受到熱量的阻擋。
將任何類型的液體引入晶片內部都會帶來機械和製造方面的挑戰。通道需要足夠深，以使液體能夠吸收足夠的熱量，同時又要夠淺，以維持結構不削弱強度。封裝必須防漏，冷卻液和蝕刻方法也需要經過驗證。整個系統，包括矽晶片、電路板、伺服器和資料中心管道，都必須進行整體考慮。微軟正在進行多次設計迭代和實驗室試驗，以探索如何將微流體技術融入未來的內部晶片以及與製造商的合作中。為了實現這種晶片冷卻，封裝必須由台積電、英特爾、三星或其他晶圓廠生產。
謝謝收看
