Nvidia CEO Jensen Huang onthulde maandag op de jaarlijkse GTC-conferentie van het bedrijf een nieuw inferentiesysteem – de meest beslissende stap van het bedrijf tot nu toe om zijn dominantie te verdedigen nu inferentie het volgende slagveld van AI wordt.
De nieuwe impuls tot gevolgtrekking komt op het moment dat Huang zei dat Nvidia een enorme vraag verwacht. Het bedrijf verwacht tot 2027 een vraag van ten minste 1 biljoen dollar naar zijn Blackwell- en Rubin AI-systemen – een stijging ten opzichte van de verwachte vraag van ongeveer 500 miljard dollar tot 2026, zei hij.
De AI-chipgigant heeft de nieuwe Nvidia Groq 3 LPX aangekondigd, die volgens Huang de inferentiewerklast tot 35 keer kan versnellen. Het integreert technologie van AI-chipstartup Groq en koppelt deze aan Nvidia’s Vera Rubin-architectuur.
Samsung produceert de nieuwe Groq-chip en Nvidia verwacht dat het systeem in de tweede helft van dit jaar op de markt zal komen.
“Het keerpunt van de gevolgtrekking is gearriveerd”, zei Huang tijdens de keynote.
Het nieuwe systeem van Nvidia bouwt voort op de deal van ongeveer $ 20 miljard geslagen met Groq in december, toen het de technologie van Groq in licentie gaf en zijn topingenieurs inhuurde.
Huang had eerder al gezinspeeld op een samenwerking met startup Groq Nvidia’s laatste winstoproep. De Wall Street Journal meldde eerder dat het bedrijf bezig was met het voorbereiden van een nieuw gevolgtrekkingssysteem waarin Groq-technologie is verwerkt.
De grafische verwerkingseenheden (GPU’s) van Nvidia domineren nog steeds het AI-veld en kunnen worden gebruikt voor zowel het trainen van AI-modellen als voor gevolgtrekkingen, of voor de manier waarop AI-modellen beslissingen nemen of voorspellingen doen.
Nu een groeiend aantal Nvidia-concurrenten – van hyperscalers tot chip-startups – ontwikkelen gespecialiseerde systemen die goedkoper en efficiënter zijn voor het repetitieve en kostengevoelige gevolgtrekkingswerk.
De opkomst van AI-agenten – of tools die taken namens mensen uitvoeren – zou de vraag naar gevolgtrekkingen dramatisch kunnen vergroten.
Daartoe hebben AI-bedrijven zoals OpenAI alternatieven voor Nvidia-hardware onderzocht. Reuters meldde eerder dat het ontevreden was over de inferentiechips van het bedrijf. In januari tekende OpenAI een rekenovereenkomst ter waarde van $10 miljard met inference chip-startup Cerebras.
Heeft u een tip? Neem contact op met deze verslaggever via e-mail op gweiss@businessinsider.com of Signaal op @geoffweiss.25. Gebruik een persoonlijk e-mailadres, een niet-werkelijk wifi-netwerk en een niet-werkapparaat; hier‘Het is onze gids voor veilig informatie delen.
