Nvidias revolution för vätskekylning för AI-server

Strömförbrukningen för banbrytande AI-chips ökar ständigt, vilket har blivit en katalysator för nästa generations DGX AI-servrar att växla mot vätskekylning. Den nuvarande TDP (thermal design power) för Nvidias flaggskepp H100 GPU är 700W, vilket har överskridit gränsen för traditionell luftkylning. Det förväntas att Nvidia kommer att lansera Blackwell-arkitekturen B100 GPU med en TDP på ​​cirka 1000W senare i år, och vätskekylning kommer definitivt att vara nödvändig vid den tiden.

För högpresterande datorsystem har vätskekylning flera viktiga fördelar jämfört med luftkylning:
Utmärkt värmeöverföringseffektivitet gör att komponenter med högre TDP kan kylas helt
På grund av minskad efterfrågan på höghastighetsfläktar är driften tystare
Systemdesignen är tätare och skrymmande kylflänsar och fläktar tar mindre plats
Potential för att fånga upp och återanvända spillvärme i vätske-vätskevärmeväxlare

Genom att använda flytande kylning kan Nvidia fortsätta att överskrida prestandagränserna för AI-acceleratorer utan att begränsas av kylsystemet. Eftersom komplexiteten i träningsbelastningen för artificiell intelligens fortsätter att öka och motsvarande hårdvaruförbrukning ökar, är detta avgörande. Nvidias DGX AI-server paketerar flera GPU:er till ett optimerat system för AI-arbetsbelastningar, som snabbt har antagits av storskaliga företag. Stora molntjänstleverantörer som Google Cloud, Meta och Microsoft har distribuerat DGX-system i sina datacenter. Under de senaste åren, eftersom fler och fler organisationer försöker utnyttja artificiell intelligenss transformativa kraft, har antagandet av Nvidia DGX artificiell intelligens växt exponentiellt.

Nvidia DGX-systemet kan använda avancerade nedsänkningskylningsdesigner som använder dielektriska vätskor. Direkt chipkylning pumpar dielektriska vätskor direkt på GPU-chips och andra termiska komponenter, utan behov av kalla plattor, vilket uppnår mer direkt värmeöverföring. Den kan stödja mycket höga TDP-nivåer (500W+) på ett enda chip, vilket ger mer täta system.

Eftersom artificiell intelligens fortsätter att utvecklas i en häpnadsväckande hastighet, måste den understödda hårdvaruinfrastrukturen utvecklas synkront. Vätskekylning är en viktig möjliggörande teknik som gör det möjligt för acceleratorer att skala till oöverträffade prestandanivåer. Denna omvandling är inte utan utmaningar. Eftersom datacenter kräver omvandling av vätskekylningsinfrastruktur och utveckling av nya underhållsprogram, är fördelarna med energieffektivitet, täthet och prestanda betydande och kan inte ignoreras.