Tekniken och marknadstrenderna för AI-kylning

På grund av den snabba ökningen av efterfrågan på AI-datorkraft har prestanda och strömförbrukning för AI-chips förbättrats avsevärt samtidigt. Den övre gränsen för strömförbrukning för kylning med luftkyld chipnivå är cirka 800W, och kostnadseffektiviteten minskar när det luftkylda chipet når effektgränsen. Kraftfullare och effektivare kyllösningar behövs för att upprätthålla normal drift av utrustningen.

Om vi ​​bara strävar efter förbättring av värmeavledningstekniken och gör några mindre justeringar eller optimeringar på den ursprungliga planen, kommer hastigheten för framsteg och uppgradering att bli långsammare, och gapet mellan den tillhandahållna värmeavledningskapaciteten och kravet på högpresterande och hög datorkraft kommer att bli allt större. Endast genom vissa kreativa och störande kyltekniker kan vi i grunden uppnå skala eller flera gånger kapacitetsförbättringen och lösa problemet med det ökande gapet mellan utbud och efterfrågan på kylning av chipprestanda som traditionella tekniker står inför.

När det gäller kylteknik är den nuvarande värmeavledningsmodulen huvudsakligen sammansatt av aktiv och passiv hybrid termisk teknologi. För närvarande är de termiska modulerna uppdelade i luftkylning och vätskekylning:
Luftkylning är processen att använda luft som ett medium för att avleda värme genom mellanliggande material såsom värmegränssnittsmaterial, kylflänsar (VC) eller värmerör, genom konvektion mellan kylflänsen eller fläkten och luften.
Vätskekylningsvärmeavledning uppnås genom, eller doppvärmeavledning, huvudsakligen genom konvektion med flytande värme för att kyla chipet. Men när värmealstringen och volymen hos chipet ökar och minskar, ökar chipets termiska designeffektförbrukning (TDP) och luftkylningsvärmeavledningen blir gradvis otillräcklig för användning.

Och det finns två huvudsakliga termiska lösningar för vätskekylning på den termiska marknaden för närvarande, den första vanliga vätskekylningslösningen är genom vattencirkulation, som kommer in i kroppen genom pumpar och rörledningar för att ta bort värmeenergi. En annan typ är nedsänkningsteknik, som placerar en värmekälla (som ett chip) i en icke-ledande vätska för att ta bort värmeenergi. Därför har flytande kyllösningar använts i stor utsträckning för att förbättra effekttätheten i ett enda skåp. i datacenter de senaste åren. Det kan grovt delas in i två tekniska vägar: Cold Plate och Immersion.
Den förra överför indirekt värmen från värmeanordningen till kylvätskan som är innesluten i den cirkulerande rörledningen genom en kall platta; Den senare placerar värmeanordningen och kretskortet som helhet direkt i vätskan. Jämfört med luftmedium har vätskan högre värmeledningsförmåga, större specifik värmekapacitet och starkare värmeupptagningsförmåga. Dessutom har vätskekylning också betydande fördelar vid drift kostnader.

På grund av den snabba ökningen av efterfrågan på AI-datorkraft, visar effektförbättringen av relaterade CPU:er/GPU:er en accelererande trend. Värmeavledning, en industri som tidigare inte ägnats så mycket uppmärksamhet, blir allt viktigare på grund av den explosiva tillväxten av data och datoranvändning som AI åstadkommer. Penetrationshastigheten för vätskekylning kommer att stiga från mindre än 10 % för närvarande till 20 % år 2025.