Revoluția Nvidia de răcire cu lichid pentru serverul AI

Consumul de energie al cipurilor AI de ultimă generație este în continuă creștere, ceea ce a devenit un catalizator pentru următoarea generație de servere DGX AI pentru a trece la răcirea lichidă. TDP-ul actual (puterea de proiectare termică) a GPU-ului emblematic H100 al Nvidia este de 700 W, ceea ce a depășit limita răcirii tradiționale cu aer. Este de așteptat ca Nvidia să lanseze GPU-ul cu arhitectură Blackwell B100 cu un TDP de aproximativ 1000W mai târziu în acest an, iar răcirea cu lichid va fi cu siguranță necesară la acel moment.

Pentru sistemele de calcul de înaltă performanță, răcirea cu lichid are câteva avantaje cheie față de răcirea cu aer:
Eficiența excelentă a transferului de căldură permite componentelor cu TDP mai mare să fie complet răcite
Datorită cererii reduse de ventilatoare de mare viteză, funcționarea este mai silențioasă
Designul sistemului este mai dens, iar radiatoarele voluminoase și ventilatoarele ocupă mai puțin spațiu
Potențial de captare și reutilizare a căldurii reziduale în schimbătoare de căldură lichid-lichid

Folosind răcirea lichidă, Nvidia poate continua să depășească limitele de performanță ale acceleratoarelor AI fără a fi limitată de sistemul de răcire. Pe măsură ce complexitatea sarcinii de instruire a inteligenței artificiale continuă să crească și consumul de energie hardware corespunzător crește, acest lucru este crucial. Serverul DGX AI de la Nvidia împachetează mai multe GPU-uri într-un sistem optimizat pentru sarcinile de lucru AI, care a fost adoptat rapid de întreprinderile la scară largă. Principalii furnizori de servicii cloud, cum ar fi Google Cloud, Meta și Microsoft, au implementat sisteme DGX în centrele lor de date. În ultimii ani, pe măsură ce tot mai multe organizații încearcă să profite de puterea de transformare a inteligenței artificiale, adoptarea sistemelor de inteligență artificială Nvidia DGX a crescut exponențial.

Sistemul Nvidia DGX poate folosi modele avansate de răcire prin imersie care utilizează fluide dielectrice. Răcirea directă cu cip pompează fluide dielectrice direct pe cipurile GPU și alte componente termice, fără a fi nevoie de plăci reci, realizând un transfer de căldură mai direct. Poate suporta niveluri TDP foarte ridicate (500W+) pe un singur cip, realizând sisteme mai dense.

Pe măsură ce inteligența artificială continuă să se dezvolte cu o viteză uimitoare, infrastructura hardware suportată trebuie să evolueze sincron. Răcirea cu lichid este o tehnologie cheie care le va permite acceleratoarelor să ajungă la niveluri de performanță fără precedent. Această transformare nu este lipsită de provocări. Deoarece centrele de date necesită transformarea infrastructurii de răcire cu lichid și dezvoltarea de noi programe de întreținere, beneficiile eficienței energetice, densității și performanței sunt semnificative și nu pot fi ignorate.