De geheugen tekort neemt geen gevangenen. Zelfs Google is niet immuun.
AI-bedrijven zijn op zoek naar steeds grotere hoeveelheden geheugenchips. Het probleem? De sector kampt met grote aanbodbeperkingen. De kosten zijn omhooggeschoten, producten zijn vastgelopen en sommige bedrijven – vooral die in de VS – zijn failliet gegaan consumentenelektronica – stijgende prijzen.
Op het gebied van AI vertelde Google DeepMind CEO Demis Hassabis CNBC dat fysieke uitdagingen “veel inzet beperkten”. Google ziet “zoveel meer vraag” naar Gemini en zijn andere modellen dan het zou kunnen dienen, zei hij.
“Bovendien beperkt het het onderzoek een beetje”, zei Hassabis. “Je hebt veel chips nodig om te kunnen experimenteren met nieuwe ideeën op een schaal die groot genoeg is om daadwerkelijk te kunnen zien of ze gaan werken.”
Onderzoekers willen chips, of ze nu bij Google, Meta, OpenAI of andere Big Tech-bedrijven werken, en geheugen is een sleutelcomponent. Mark Zuckerberg zei dat AI-onderzoekers eiste twee dingen meer dan geld: het minste aantal mensen dat aan hen rapporteert, en de meeste chips die mogelijk zijn.
Hassabis zei dat overal waar er sprake was van een capaciteitsbeperking, er een ‘knelpunt’ was.
“De hele toeleveringsketen staat nogal onder druk”, zegt Hassabis. “We hebben geluk, want we hebben onze eigen TPU’s, dus we hebben onze eigen chipontwerpen.”
Google heeft lang gebouwde TPU’s — Tensorverwerkingseenheden — voor intern gebruik. Het bedrijf verhuurt ze ook aan externe klanten via zijn cloud, die dat ook heeft gedaan Nvidia op scherp.
Maar zelfs de toegang tot hun eigen TPU’s zal Google er niet van weerhouden zich te moeten begeven op de zeer competitieve geheugenmarkt. “Uiteindelijk komt het toch neer op een paar leveranciers van een paar belangrijke componenten”, aldus Hassabis.
Drie leveranciers domineren de productie van geheugenchips: Samsung, Micron en SK Hynix. Deze bedrijven hebben moeite om aan de vraag naar chips van AI-hyperscalers te voldoen zonder hun oude elektronicaklanten te laten vallen.
Het helpt niet dat AI-bedrijven vooral een ander type geheugenchip willen dan pc-fabrikanten. Producenten van grote taalmodellen willen HBM-chips (geheugen met hoge bandbreedte).
Verwacht niet dat de uitgaven van Google aan AI-infrastructuur en chips binnenkort zullen dalen. Bij de winstoproep voor het vierde kwartaal voorspelde het bedrijf kapitaaluitgaven van $175 miljard tot $185 miljard voor 2026.
