Managementul termic al cipului AI
În prezent, alți giganți ai tehnologiei, cum ar fi Microsoft, Google și Meta își extind, de asemenea, centrele de date pentru a-și antrena și rula modelele de inteligență artificială. Potrivit rapoartelor, Microsoft și OpenAI intenționează să construiască un proiect de centru de date care va include un supercomputer cu milioane de cipuri de server dedicate, iar proiectul actual ar putea costa 115 miliarde de dolari, inclusiv un supercomputer cu inteligență artificială numit Stargate, care va fi lansat în 2028. CEO-ul Meta, Mark Zuckerberg, a mai declarat în ianuarie anul acesta că infrastructura de calcul a companiei va include 30000 de plăci grafice H100 până la sfârșitul anului 2024. El a adăugat, de asemenea, „Dacă sunt incluse și alte GPU-uri, există aproximativ 600000 de calcule echivalente H100”.
AIGC se bazează pe modele mari și date mari. Un model mare se referă la un model care se poate adapta la sarcinile din aval după antrenament pe date la scară largă și ample. După apariția unui model mare, (1) parametrii modelului sunt măriți în magnitudine; (2) Cererea diversificată accelerează modernizarea diversificată a puterii de calcul: puterea de calcul poate fi împărțită în putere de calcul de bază, putere de calcul inteligentă și putere de supercalculare în funcție de potrivirea cererii. În 2021, puterea totală de calcul a dispozitivelor de calcul globale a atins 615 EFlops, cu o rată de creștere de 44%. Până în 2030, este de așteptat să crească la 56ZFlops, cu un CAGR de 65%. Puterea de calcul inteligentă va crește de la 232EFlops la 52,5ZFlops, cu un CAGR care depășește 80%; După apariția marelui model, acesta a adus o nouă tendință de creștere a puterii de calcul, cu un timp mediu de dublare de 9,9 luni pentru puterea de calcul.
În spatele îmbunătățirii puterii de calcul, cipurile trebuie să aibă o eficiență de calcul mai mare și să finalizeze mai multe calcule într-un timp mai scurt, ceea ce duce inevitabil la o creștere a consumului de energie pentru cip. Caracteristicile de densitate mare și consum de energie ridicat ale centrelor de date din centrele de supercalculare fac problemele de disipare a căldurii din ce în ce mai importante. Centrele de date moderne, în special centrele de supercomputing, conțin de obicei un număr mare de dispozitive de mare putere care generează o cantitate semnificativă de căldură în timpul funcționării. Dacă căldura nu poate fi disipată în timp util și eficient, aceasta nu numai că va afecta performanța dispozitivului, ci poate duce și la defecțiuni hardware. Potrivit raportului IDC, aproximativ 40% din consumul de energie din centrele de date este utilizat pentru sistemele de răcire, ceea ce indică faptul că soluțiile eficiente de răcire sunt cruciale pentru funcționarea centrelor de date.
Sistemele tradiționale de răcire cu aer nu mai sunt capabile să răspundă nevoilor de răcire ale supercalculatoarelor actuale, așa că tehnologia de răcire cu lichid a devenit treptat alegerea principală în industrie. Aplicarea tehnologiei de răcire cu lichid permite centrelor de date să găzduiască mai multe dispozitive de calcul în același spațiu, reducând în același timp consumul de energie al sistemului de răcire. Aplicarea tehnologiei de răcire cu lichid nu numai că îmbunătățește eficiența de calcul, dar și reduce semnificativ consumul de energie și costurile de operare. Tehnologia de răcire cu lichid poate gestiona mai multe sarcini de calcul cu același consum de energie printr-o conducție mai eficientă a căldurii.
Odată cu creșterea cererii de instruire AI și de calcul de înaltă performanță, tehnologia de răcire cu lichid va juca un rol mai important în viitoarele centre de supercalculare. Este de așteptat ca tehnologia de răcire cu lichid să devină o configurație standard în centrele de supercalculare și centrele mari de date în următorii ani, pentru a răspunde cerințelor în creștere de calcul și provocărilor de disipare a căldurii.
