In Breve
- Qual è la strategia di LinkedIn per gli investimenti in GPU?
- LinkedIn manterrà invariati gli investimenti in GPU per il prossimo anno fiscale, puntando su efficienza e sviluppo di nuove funzionalità.
- Come si differenzia LinkedIn da Microsoft in termini di infrastruttura?
- LinkedIn adotta un approccio più conservativo rispetto all'espansione infrastrutturale di Microsoft, puntando su data center propri.
- Quali sono le sfide economiche affrontate da LinkedIn?
- LinkedIn deve affrontare l'aumento dei costi per singola query e la crescita esponenziale dei dati immagazzinati.
LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale
LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale (AI) nel prossimo anno fiscale. L’azienda manterrà sostanzialmente invariato il suo investimento in GPU, con l’obiettivo di stabilizzare l’impronta di calcolo e storage.
Secondo Erran Berger, CTO dell’ingegneria, LinkedIn ha raddoppiato l’efficienza delle GPU esistenti in circa sei mesi. Questo è stato possibile grazie a miglioramenti cumulativi nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. L’azienda intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.
Un Approccio Diverso rispetto a Microsoft
LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto alla strategia di espansione infrastrutturale del colosso tecnologico. Microsoft ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi nel trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da quel momento, l’azienda ha deciso di puntare su data center propri situati in Oregon, Texas e Virginia, per avere un maggiore controllo sulla propria infrastruttura.
Efficienza e Controllo dell’Infrastruttura
Il controllo dell’intero stack tecnologico è considerato un fattore chiave per LinkedIn, poiché consente di monitorare e ottimizzare ogni livello dell’infrastruttura. Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole sforzo.
I miglioramenti ottenuti non sono il risultato di una singola innovazione, ma piuttosto di un insieme di strategie: un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione dei compiti tra training, inference e storage.
Costi e Sostenibilità
La decisione di LinkedIn è anche influenzata dalla dinamica dei costi. Negli ultimi anni, il costo per singola query è aumentato, mentre la quantità di dati immagazzinati raddoppiava annualmente, una tendenza considerata insostenibile. Sebbene LinkedIn non affermi di aver risolto definitivamente il problema, la sua strategia rappresenta un’alternativa alla crescita proporzionale dell’hardware, e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
In conclusione, LinkedIn si prepara ad affrontare le sfide future mantenendo un approccio conservativo nei suoi investimenti in hardware, puntando invece su innovazione e ottimizzazione delle risorse esistenti.
