Gestione termica del chip AI

Attualmente, anche altri giganti della tecnologia come Microsoft, Google e Meta stanno espandendo i propri data center per addestrare ed eseguire i propri modelli di intelligenza artificiale. Secondo i rapporti, Microsoft e OpenAI stanno pianificando di costruire un progetto di data center che includerà un supercomputer con milioni di chip server dedicati, e il progetto attuale potrebbe costare 115 miliardi di dollari, compreso un supercomputer di intelligenza artificiale chiamato Stargate, il cui lancio è previsto nel 2028. Il CEO di Meta, Mark Zuckerberg, ha anche dichiarato nel gennaio di quest'anno che l'infrastruttura informatica dell'azienda includerà 30.000 schede grafiche H100 entro la fine del 2024. Ha anche aggiunto: "Se vengono incluse altre GPU, ci sono circa 600.000 calcoli equivalenti H100".

L’AIGC si basa su grandi modelli e big data. Un modello di grandi dimensioni si riferisce a un modello che può adattarsi alle attività a valle dopo l'addestramento su dati ampi e su larga scala. Dopo l'emergere di un modello di grandi dimensioni, (1) i parametri del modello aumentano di grandezza; (2) La domanda diversificata accelera il potenziamento diversificato della potenza di calcolo: la potenza di calcolo può essere suddivisa in potenza di calcolo di base, potenza di calcolo intelligente e potenza di supercalcolo in base alla corrispondenza della domanda. Nel 2021, la potenza di calcolo totale dei dispositivi informatici globali ha raggiunto i 615 EFlop, con un tasso di crescita del 44%. Entro il 2030 si prevede che aumenterà a 56ZFlops, con un CAGR del 65%. La potenza di calcolo intelligente aumenterà da 232EFlops a 52.5ZFlops, con un CAGR superiore all'80%; Dopo l’emergere del grande modello, ha portato una nuova tendenza di crescita della potenza di calcolo, con un tempo medio di raddoppio di 9,9 mesi per la potenza di calcolo.

Dietro il miglioramento della potenza di calcolo, i chip devono avere una maggiore efficienza di calcolo e completare più calcoli in un tempo più breve, il che porta inevitabilmente ad un aumento del consumo energetico dei chip. Le caratteristiche di alta densità e di elevato consumo energetico dei data center nei centri di supercalcolo rendono i problemi di dissipazione del calore sempre più importanti. I moderni data center, in particolare i centri di supercalcolo, contengono in genere un gran numero di dispositivi ad alta potenza che generano una notevole quantità di calore durante il funzionamento. Se il calore non può essere dissipato in modo tempestivo ed efficace, ciò non solo influirà sulle prestazioni del dispositivo, ma potrebbe anche causare guasti all'hardware. Secondo il rapporto di IDC, circa il 40% del consumo energetico nei data center viene utilizzato per i sistemi di raffreddamento, indicando che soluzioni di raffreddamento efficaci sono cruciali per il funzionamento dei data center.

I tradizionali sistemi di raffreddamento ad aria non sono più in grado di soddisfare le esigenze di raffreddamento degli attuali supercomputer, quindi la tecnologia di raffreddamento a liquido è gradualmente diventata la scelta principale nel settore. L'applicazione della tecnologia di raffreddamento a liquido consente ai data center di ospitare più dispositivi informatici nello stesso spazio, riducendo al contempo il consumo energetico del sistema di raffreddamento. L’applicazione della tecnologia di raffreddamento a liquido non solo migliora l’efficienza computazionale, ma riduce anche significativamente il consumo energetico e i costi operativi. La tecnologia di raffreddamento a liquido può gestire più attività di elaborazione con lo stesso consumo energetico attraverso una conduzione del calore più efficiente.

Con la crescente domanda di formazione sull’intelligenza artificiale e di calcolo ad alte prestazioni, la tecnologia di raffreddamento a liquido svolgerà un ruolo più importante nei futuri centri di supercalcolo. Si prevede che nei prossimi anni la tecnologia di raffreddamento a liquido diventerà una configurazione standard nei centri di supercalcolo e nei grandi data center per soddisfare le crescenti richieste di elaborazione e le sfide di dissipazione del calore.