Nuair a Éilíonn Freastalaithe AI ​​Teicneolaíocht Fuarú Níos airde! Cén Fáth a Aistríonn an Treocht ó "Fuarú Aeir" go "Fuarú Leachtach"

Aug 23, 2024

Fág nóta

 

Rinne Príomhfheidhmeannach NVIDIA Jensen Huang láithreas speisialta ag COMPUTEX 2023 chun tacú le hóráid Chathaoirleach Supermicro Charles Liang. Thug Cathaoirleach Fanner, Lin Yushen, le fios go raibh modúil uisce-fhuaraithe Fanner i bhformhór na dtáirgí freastalaí a taispeánadh ar an stáitse. Tá Fanner, tar éis infheistíocht a dhéanamh i modúil uisce-fuaraithe le blianta fada, i riocht maith chun leas a bhaint as an tonn AI seo. Mar sin féin, de réir mar a éilíonn freastalaithe AI ​​caighdeáin fuaraithe atá ag éirí níos airde, cén fáth a bhfuil an treocht ag aistriú ó "fuarú aer" go "fuarú leachtach"?

 

 

I Ó Oibríocht Ardluais go Fuarú Leachtach

 

Ó thaobh na teicneolaíochta fuaraithe, thug Lin Yushen faoi deara go n-úsáideann na modúil fuaraithe reatha go príomha teicneolaíocht fuaraithe hibrideach a chuimsíonn píopaí teasa. Comhcheanglaíonn na modúil fuaraithe píopa teasa seo comhpháirteanna cosúil le lucht leanúna, doirtil teasa, agus píopaí teasa chun timpeallacht teirmeach cothrom a chruthú do chomhpháirteanna leictreonacha inmheánacha, rud a chuireann le cobhsaíocht gléasanna leictreonacha. Mar sin féin, de réir mar a éiríonn táirgí leictreonacha teirminéil iartheachtacha níos ilfheidhmeach agus níos dlúithe, tá monaróirí modúl fuaraithe tar éis bogadh chuig réitigh fuaraithe a dhearadh atá dírithe ar sheomraí gaile agus píopaí teasa.

 

Faoi láthair, roinntear modúil fuaraithe ina dhá chineál: "fuaraithe aeir" agus "fuaraithe leachtach." Úsáideann fuarú aeir aer mar mheán, le hábhair cosúil le hábhair chomhéadain teirmeacha, seomraí gaile (VCanna), nó píopaí teasa ag seoladh teasa, a scaiptear ansin trí siní teasa nó gaothráin trí chomhiompar aeir. I gcodarsnacht leis sin, scaipeann fuarú leachtach teas trí chomhiompar leachtach, lena n-áirítear fuarú tumoideachais, a fhuaraíonn sliseanna níos éifeachtaí. Mar sin féin, de réir mar a ghineann sliseanna níos mó teasa agus go n-éiríonn siad níos lú, agus de réir mar a mhéadaíonn cumhacht dearadh teirmeach (TDP), tá an fuarú aer ag éirí neamhleor de réir a chéile.

 

 A comparison between air cooling and liquid cooling technologies

▲ Comparáid idir teicneolaíochtaí fuarú aeir agus fuarú leachta

 

Le méadú ChatGPT, tá AI giniúna tar éis méadú ar lastais freastalaí a thiomáint, rud a d'eascair sonraíochtaí uasghrádaithe do mhodúil fuaraithe, ag brú orthu i dtreo réitigh fuaraithe leachtacha chun freastal ar na ceanglais dhian maidir le fuarú agus cobhsaíocht an fhreastalaí. D'aibhsigh Lin Yushen gur thosaigh Fanner le teicneolaíocht fuaraithe aeir agus, chomh luath le deich mbliana ó shin, thosaigh sé ag fáil teicneolaíocht fuaraithe leachtach trí aistriú teicneolaíochta IBM. Chuir siad backdoors uisce-fuaraithe ar fáil a thug deis do chliaint uisce-fuaraithe a chur le caibinéid gan an bonneagar lárionad sonraí atá ann cheana a mhodhnú.

 

 

II Faoi 2025, Ré Nua Aer Comhthráthach agus Fuarú Leachtach

 

Arna thiomáint ag forbairt na teicneolaíochta leathsheoltóra a bhaineann le feidhmchláir AI, tá méadú tagtha ar pharaiméadair algartam AI go 175 billiún le tabhairt isteach GPT-3 i ChatGPT, rud a d’fhág go raibh gá le méadú faoin gcéad ar chumhacht ríomhaireachta GPU. Tá an tionscal ag baint úsáide as teicneolaíocht fuaraithe tumoideachais aon phas go príomha laistigh den fhuarú leachtach chun na dúshláin diomailt teasa a bhaineann le freastalaithe nó comhpháirteanna ard-dlúis a réiteach. Mar sin féin, tá teorainn 600W ag an modh seo, agus tá na riachtanais fuaraithe do ChatGPT nó freastalaithe níos airde níos mó ná 700W.

 

 Illustration of single-phase immersion cooling technology

▲ Léiriú ar theicneolaíocht fhuaraithe aon phas tumoideachais

 

Le forbairt IoT, ríomhaireacht imeall, agus feidhmchláir 5G, tá sonraí AI ag cur cumhacht ríomhaireachta domhanda isteach i gcéim ardfháis. Leanfaidh an chéad ghlúin eile de dhearaí modúl fuaraithe dhá phríomhthreo: uasghrádú a dhéanamh ar na modúil fuaraithe atá ann cheana féin le seomraí gaile 3D (3DVC) nó córais fuaraithe leachtacha a thabhairt isteach a úsáideann leacht mar mheán comhiompar teirmeach chun éifeachtacht fuaraithe a fheabhsú. Mar thoradh air sin, tháinig méadú suntasach ar líon na dtástálacha fuaraithe leachtacha i 2023. Mar sin féin, is réiteach idirthréimhseach é 3DVC ar deireadh thiar, agus táthar ag súil go gcuirfear tús le ré an fhuaraithe aeir agus leachtacha comhthráthach faoi 2024-2025.

 

De réir TrendForce, in 2022, b'ionann freastalaithe AI ​​a bhí feistithe le GPUanna (GPUanna Ginearálta Cuspóir) agus thart ar 1% de na lastais iomlána. Mar sin féin, arna thiomáint ag cur i bhfeidhm ChatGPT, táthar ag súil go dtiocfaidh méadú 38.4% ar lastais fhreastalaí AI in 2023, agus an ráta fáis bliantúil cumaisc de loingsithe freastalaí AI idir 2022 agus 2026 ag 29%.

 

 

Beidh III "Fuarú Leachtach" mar Phríomhshrutha le haghaidh Sceallóga AI

 

De réir mar a théann TDP an ghlúin nua freastalaithe i dtreo teorainneacha an fhuaraithe aeir, tá cuideachtaí teicneolaíochta tosaigh ag tosú ag tástáil fuarú leachtach nó ag méadú spás fuaraithe. Mar shampla, tá Teorainneacha an fhuaraithe aeir bainte amach ag Intel's Eagle Stream agus Genoa TDP de 350-400W AMD, rud a fhágann gurb é fuarú leacht an réiteach príomhshrutha do sceallóga AI. Tá TDP de 700W ag NVIDIA's H100, agus go ginearálta éilíonn fuarú aer a úsáideann 3DVC níos mó ná 4U de spás, nach bhfuil oiriúnach le haghaidh ailtireachtaí imscaradh ard-dlúis.

 

NVIDIA's H100

▲ H100 NVIDIA

 

Ós rud é gurb ionann córais fuaraithe agus thart ar 33% den tomhaltas iomlán fuinnimh in ionaid sonraí, baineann laghdú ar thomhaltas cumhachta iomlán agus feabhas a chur ar Éifeachtúlacht Úsáide Cumhachta (PUE) le córais fuaraithe, trealamh TF a bharrfheabhsú, agus úsáid a bhaint as fuinneamh in-athnuaite. Ós rud é go bhfuil cumas teirmeach an uisce ceithre huaire níos mó ná an aeir, ní gá ach 1U de spás don phláta fuaraithe leachtach a chur i bhfeidhm córais fuaraithe leachtacha. De réir tástálacha NVIDIA, chun an chumhacht ríomhaireachta céanna a bhaint amach, is féidir le fuarú leachtach líon na gcaibinéid a theastaíonn a laghdú 66%, tomhaltas fuinnimh 28%, agus PUE ó 1.6 go 1.15, agus feabhas a chur ar fheidhmíocht ríomhaireachta freisin.

 

 

IV Tá Úsáid Supermicro as Modúil Fuarú Fanner ríthábhachtach

 

Déantar fuarú leachtach a roinnt tuilleadh i "fuarú uisce" agus "fuarú ola," agus is é fuarú uisce an ceann is mó a úsáidtear faoi láthair. Thug Lin Yushen faoi deara go n-úsáideann beagnach gach freastalaí AI réitigh fuaraithe uisce anois. Mar shampla, ní mór do GH100 NVIDIA, le TDP níos mó ná 700W, fuarú uisce a úsáid. Cé gurb ionann fuarú uisce faoi láthair agus cuid bheag d’ioncam Fanner, tá meánphraghas díola (ASP) na bhfreastalaithe AI ​​deich n-uaire níos airde ná sin na freastalaithe traidisiúnta, rud a chabhróidh le struchtúr táirgí Fanner a athrú sa dara leath den bhliain. Meastar go bhféadfadh freastalaithe AI ​​a bheith freagrach as 5-10% dá ngnó in 2023.

 

Chuir Lin Yushen béim ar gurb é an príomhchúis a úsáideann Supermicro modúil fuaraithe uisce ó Fanner do fhreastalaithe atá feistithe le NVIDIA GH100 GPUs ná go bhfuil Fanner ag obair ar réitigh fuaraithe leachtacha le breis agus deich mbliana. Cé go mbaineann na dúshláin a bhaineann le fuarú uisce a chur i bhfeidhm go príomha le costais agus cosc ​​ar sceitheadh, tá breis agus deich mbliana taighde Fanner tar éis na saincheisteanna sceite seo a shárú de réir a chéile. Chuir infheistíocht fhadtéarmach Fanner i modúil fuaraithe uisce iad i riocht leas a bhaint as an tonn AI seo.

 

 Supermicro Custom Liquid Cooling

▲ Fuarú Leacht Chustaim Supermicro

 

Chuir Lin Yushen béim go bhfuil an méadú leanúnach ar TDP atá á thiomáint ag ríomhaireacht ardluais agus na héilimh fuaraithe atá ag fás ar fhreastalaithe AI ​​tar éis fuarú píopa teasa traidisiúnta a bhrú chun a theorainneacha, rud a fhágann gur gá modúil fuaraithe uisce a ghlacadh. Tá roinnt custaiméirí ag Fanner cheana féin, Supermicro agus Meta ina measc, a bhfuil a gcuid réitigh glactha acu. In ainneoin go nglacfar le fuarú uisce níos tapúla ná mar a bhíothas ag súil leis, ní dócha go gcuirfear i bhfeidhm go hiomlán é in 2023. Mar sin féin, táthar ag súil go dtiocfaidh dul chun cinn suntasach faoi 2024, agus táthar ag súil le fás pléascach in 2025.

 

 

 

Glaoigh Linn