01 · 資料怎麼走
GPU 與 HBM、主機 CPU 與 DRAM、SSD、網卡、交換器及線纜。先分清機內互連與跨伺服器網路，再看頻寬與延遲。
延伸閱讀：記憶體 →AI 的算力，
來自整個系統。
從 GPU 開始，沿著資料、電力與熱的路徑，看懂 AI 伺服器。點選下方元件，認識它的工作，以及研究供應鏈時值得追問的問題。
SYSTEM EXPLORER概念配置 · 非產品拆機圖
資料輸入運算協作輸出結果
同一套硬體，不同工作重點。
訓練：反覆計算，讓模型學會規律。
模型根據資料更新參數。多 GPU 訓練時，除了運算與記憶體容量，也需要協調 GPU 間的資料交換。
沿著三條路徑，讀懂供應鏈。
02 · 電力怎麼進
從機房供電、機櫃配電，到電源供應器與板上供電。研究重點包含轉換效率、供電容量與冗餘設計。
03 · 熱怎麼出去
晶片的熱經由散熱器或冷板移出，再由風流或液體帶走。散熱方式取決於系統功率密度與機房條件。
伺服器、機櫃、叢集，差在哪裡？
伺服器是運算節點；機櫃承載運算、交換、供電等設備；叢集則將多個節點透過網路與軟體協同運作。機櫃級系統的配置可能跨越多個運算托盤，不能一律當作單台傳統伺服器。