Nell’attuale mercato informatico, c’è una crescente concorrenza tra le aziende per sviluppare macchine compatibili con l’intelligenza artificiale. La sfida non è chi riesce a costruire la macchina più grande e più cattiva; è chi può costruire la macchina più efficiente dal punto di vista termico.
Quando i server eseguono processi di intelligenza artificiale, generano quantità di calore straordinarie , superiori a quelle dei normali server che eseguono processi e servizi aziendali standard. Per questo motivo, gli ingegneri che progettano i sistemi che contengono questi server dovranno tenere conto di componenti di raffreddamento e di scambio termico più potenti.
Esiste una relazione tra la quantità di energia utilizzata da un socket della CPU e il calore che un sistema è progettato per dissipare mentre è a pieno carico. Questo è indicato come Thermal Design Point o TDP. Le aziende utilizzano il TDP come guida per assicurarsi di utilizzare i chip più potenti nei propri server e allo stesso tempo progettare le scatole e le schede fisicamente più efficienti per la densità in un ambiente di data center di grandi dimensioni. Più grande è la scatola, maggiore è la dissipazione del calore che puoi influenzare. Tuttavia, ciò si traduce in una perdita di densità del server in un data center. È un equilibrio delicato.
Cloudflare sembra aver raggiunto il limite massimo di questa relazione con il lancio del suo server di calcolo di ultima generazione. Durante la progettazione del server di dodicesima generazione, l'azienda ha scoperto che non è più fattibile integrare il processore AMD EPYC x86 di ultima generazione e tutti i suoi accessori, in particolare le otto ventole a doppio rotore da 40 mm necessarie, che per eseguire qualsiasi operazione a questo livello, come nel programma Workers AI, le porterebbero a funzionare al 100% del ciclo di lavoro, ininterrottamente.
Potenziali vie future
Sebbene sia possibile aumentare le dimensioni fisiche di un server per ospitare ventole più grandi e alette di raffreddamento per consentire alle CPU di dissipare il calore, questo approccio diventa rapidamente inefficiente.
Immagina di avere un armadio da 40 kW distribuito in un data center. In un sistema raffreddato ad aria, fino al 30% dell'energia immessa nell'armadio potrebbe potenzialmente essere utilizzata per alimentare le ventole del server. Ciò significa che la capacità di calcolo effettiva di quel cabinet rappresenterebbe solo circa 28 kW. Al contrario, lo stesso cabinet supportato da un sistema di raffreddamento a liquido potrebbe dedicare fino a 39 kW della sua potenza per elaborare i carichi di lavoro. In breve, il raffreddamento a liquido ti consente di fare di più con la stessa potenza.
Inoltre, poiché l’acqua può contenere una capacità termica 4 volte maggiore rispetto all’aria, questi nuovi server raffreddati a liquido possono supportare processori più veloci e con contenitori più alti con requisiti energetici inferiori e maggiore affidabilità. Sostituendo o integrando il raffreddamento ad aria convenzionale con un raffreddamento a liquido a maggiore efficienza, si migliora l'efficienza operativa complessiva del data center.
Dell ha dimostrato un miglioramento del 50-60% nell'efficienza di raffreddamento e nel consumo energetico grazie alla tecnologia di raffreddamento a liquido nei suoi data center. Se Cloudflare smettesse di espandere la propria rete di server fisici e abbracciasse la rivoluzione del raffreddamento a liquido, si unirebbe alle fila dei progettisti di sistemi che riescono a comprimere le capacità di archiviazione e di elaborazione, riducendo al contempo il costo totale di proprietà e di esercizio.
Amazon