Chiedi a qualcuno cosa Nvidia produce e probabilmente diranno prima “GPU”. Per decenni, il produttore di chip è stato definito dal calcolo parallelo avanzato e l’emergere dell’intelligenza artificiale generativa e il conseguente aumento della domanda di GPU è stato un vantaggio per l’azienda.
Ma le recenti mosse di Nvidia segnalano che sta cercando di attirare più clienti nella fascia meno intensiva di calcolo del mercato dell’intelligenza artificiale: clienti che non hanno necessariamente bisogno delle GPU più robuste e potenti per addestrare modelli di intelligenza artificiale, ma che invece sono alla ricerca dei modi più efficienti per eseguire software program di intelligenza artificiale. Nvidia ha recentemente speso miliardi per concedere in licenza la tecnologia di una startup di chip focalizzata sull’informatica AI a bassa latenza e ha anche iniziato a vendere CPU standalone come parte del suo ultimo sistema di superchip.
Ieri Nvidia e Meta annunciato che il gigante dei social media aveva accettato di acquistare chip Nvidia per miliardi di dollari per fornire potenza di calcolo per i suoi enormi progetti infrastrutturali, con le CPU Nvidia come parte dell’accordo.
L’accordo pluriennale rappresenta l’espansione di un’accogliente partnership in corso tra le due società. Meta aveva precedentemente stimato che entro la superb del 2024 l’avrebbe acquistato 350.000 gettoni H100 da Nvidia e a cui l’azienda avrà accesso entro la superb del 2025 1,3 milioni di GPU in totale (anche se non period chiaro se sarebbero stati tutti chip Nvidia).
Nell’ambito dell’ultimo annuncio, Nvidia ha affermato che Meta “costruirà information heart su vasta scala ottimizzati sia per la formazione che per l’inferenza a supporto della roadmap dell’infrastruttura AI a lungo termine dell’azienda”. Ciò embrace una “distribuzione su larga scala” delle CPU Nvidia e “milioni di GPU Nvidia Blackwell e Rubin”.
In particolare, Meta è il primo colosso della tecnologia advert annunciare l’acquisto su larga scala della CPU Grace di Nvidia come chip autonomo, qualcosa che Nvidia ha detto sarebbe stata un’opzione quando ha rivelato le specifiche full del suo nuovo superchip Vera Rubin a gennaio. Nvidia ha anche sottolineato di offrire una tecnologia che connette vari chip, come parte del suo “approccio “zuppa-to-nuts” alla potenza di calcolo, come cube un analista.
Ben Bajarin, CEO e principale analista della società di ricerche di mercato tecnologica Inventive Methods, afferma che la mossa segnala che Nvidia riconosce che una gamma crescente di software program AI ora deve essere eseguita su CPU, più o meno allo stesso modo delle applicazioni cloud convenzionali. “Il motivo per cui il settore è così ottimista riguardo alle CPU all’interno dei information heart in questo momento è l’intelligenza artificiale degli agenti, che pone nuove esigenze sulle architetture CPU per scopi generali”, afferma.
UN recente rapporto della newsletter sui chip Semianalysis ha sottolineato questo punto. Gli analisti hanno notato che l’utilizzo della CPU sta accelerando per supportare l’addestramento e l’inferenza dell’intelligenza artificiale, citando come esempio uno dei information heart di Microsoft per OpenAI, dove “decine di migliaia di CPU sono ora necessarie per elaborare e gestire i petabyte di dati generati dalle GPU, un caso d’uso che altrimenti non sarebbe stato richiesto senza l’intelligenza artificiale”.
Bajarin nota, tuttavia, che le CPU sono ancora solo uno dei componenti dei sistemi {hardware} IA più avanzati. Il numero di GPU che Meta acquista da Nvidia supera ancora quello delle CPU.
“Se sei uno degli hyperscaler, non scapperai Tutto del calcolo inferenziale sulle CPU”, afferma Bajarin. “È sufficiente che il software program in esecuzione sia abbastanza veloce sulla CPU da interagire con l’architettura GPU che è in realtà la forza trainante di story elaborazione. Altrimenti la CPU diventa un collo di bottiglia.”
Meta ha rifiutato di commentare il suo accordo ampliato con Nvidia. Durante una recente conferenza sugli utili, il colosso dei social media ha affermato che quest’anno prevede di aumentare drasticamente la propria spesa per le infrastrutture di intelligenza artificiale tra 115 e 135 miliardi di dollari, rispetto ai 72,2 miliardi di dollari dell’anno scorso.
