In Breve

Qual è la strategia di LinkedIn per gli investimenti in GPU?

LinkedIn ha deciso di mantenere invariati gli investimenti in GPU, puntando su efficienza e nuove funzionalità.

Come ha migliorato LinkedIn l'efficienza delle sue GPU?

LinkedIn ha raddoppiato l'efficienza delle GPU esistenti in sei mesi grazie a miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.

Qual è il contesto economico di LinkedIn rispetto a Microsoft?

LinkedIn adotta un approccio diverso rispetto a Microsoft, che ha registrato spese significative per l'espansione infrastrutturale.

LinkedIn: Investimenti in GPU Stabili per il Futuro

LinkedIn ha annunciato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’azienda ha deciso di mantenere sostanzialmente invariato il proprio investimento in GPU, così come l’impronta di calcolo e storage.

Grazie a miglioramenti cumulativi nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro, LinkedIn ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in circa sei mesi. Questo margine operativo verrà impiegato per sviluppare nuove funzionalità, piuttosto che per l’acquisto di nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo dell’azienda come la capacità di mantenere stabile il footprint di calcolo, pur introducendo in produzione funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distacca dalla strategia di espansione infrastrutturale adottata da Microsoft, che controlla LinkedIn dal 2016.

Infatti, Microsoft ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente. In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, l’azienda ha concentrato i propri sforzi su data center propri situati in Oregon, Texas e Virginia.

Avere il controllo dell’intero stack tecnologico è stato identificato come un fattore chiave per LinkedIn, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo. Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incrementare storage e compute è «non una piccola impresa» e ha richiesto un notevole lavoro da parte del team.

I miglioramenti ottenuti sono stati presentati come il risultato di un processo continuo piuttosto che di una singola innovazione tecnologica. Tra le misure adottate figurano un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa strategia è stata motivata anche dalla crescente pressione economica: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non sostiene di aver risolto definitivamente il problema, ma la scelta di mantenere stabili gli investimenti in hardware rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware.

La rilevanza di questa strategia dipenderà dalla capacità del programma di efficienza di reggere nel tempo, in un contesto in cui le esigenze computazionali continuano a crescere.