In Breve
- Qual è la strategia di LinkedIn per l'investimento in GPU?
- LinkedIn manterrà invariato l'investimento in GPU, puntando su efficienza e nuove funzionalità.
- Come ha migliorato LinkedIn l'efficienza delle sue GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nella distillazione dei modelli.
- Qual è la posizione di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto all'espansione infrastrutturale di Microsoft.
LinkedIn ha annunciato che nel prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale, mantenendo sostanzialmente invariato l’investimento in GPU. La società ha dichiarato di aver raddoppiato l’efficienza delle GPU esistenti in un periodo di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.
Erran Berger, CTO per l’ingegneria, ha spiegato che l’obiettivo è quello di mantenere stabile l’impronta di calcolo mentre si introducono funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio diverso rispetto all’espansione infrastrutturale aggressiva del colosso tecnologico. Infatti, Microsoft ha registrato spese in conto capitale per 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’infrastruttura è considerato un fattore chiave per ottimizzare ogni livello del sistema, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e calcolo per un anno è un risultato significativo, frutto di un lavoro notevole. I miglioramenti ottenuti non sono il risultato di una singola innovazione tecnologica, ma di un insieme di strategie, tra cui un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più compatte.
Questa scelta è motivata anche da considerazioni economiche: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava annualmente, una tendenza che LinkedIn ha giudicato insostenibile. Pur non affermando di aver risolto definitivamente il problema, la società propone un’alternativa alla crescita proporzionale dell’hardware, il cui successo dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
