Nvidia is de onbetwiste koning van AI chips. Maar dankzij de AI die hij hielp opbouwen, kon de kampioen al snel te maken krijgen met toenemende concurrentie.
Moderne AI draait op Nvidia-ontwerpen, een dynamiek die het bedrijf naar een marktkapitalisatie van ruim $ 4 biljoen heeft gestuwd. Met elke nieuwe generatie Nvidia-chips kunnen bedrijven krachtigere AI-modellen trainen met behulp van honderden of duizenden processors die met elkaar in enorme datacenters zijn verbonden. Eén reden voor het succes van Nvidia is dat het software levert om elke nieuwe generatie chips te helpen programmeren. Dat is misschien binnenkort niet zo’n gedifferentieerde vaardigheid.
Een startup belde Wafeltje traint AI-modellen om een van de moeilijkste en belangrijkste taken op het gebied van AI uit te voeren: het optimaliseren van code zodat deze zo efficiënt mogelijk op een bepaalde siliciumchip draait.
Emilio Andere, medeoprichter en CEO van Wafer, zegt dat het bedrijf versterkend leren uitvoert op open source-modellen om hen te leren kernelcode te schrijven, of software die rechtstreeks samenwerkt met hardware in een besturingssysteem. Andere zegt dat Wafer ook ‘agentic harnassen’ toevoegt aan bestaande codeermodellen zoals Claude van Anthropic en GPT van OpenAI om hun vermogen om code te schrijven die rechtstreeks op chips draait, te vergroten.
Veel vooraanstaande technologiebedrijven hebben inmiddels hun eigen chips. Apple en anderen gebruiken al jaren speciaal silicium om de prestaties en efficiëntie van software op laptops, tablets en smartphones te verbeteren. Aan de andere kant van de schaal produceren bedrijven als Google en Amazon hun eigen silicium om de prestaties van hun cloudcomputerplatforms te verbeteren. Meta onlangs gezegd het zou 1 gigawatt aan rekencapaciteit inzetten met een nieuwe chip die samen met Broadcom is ontwikkeld. Het inzetten van maatwerk silicium betekent ook dat er veel code geschreven moet worden, zodat deze soepel en efficiënt draait op de nieuwe processor.
Wafer werkt samen met bedrijven als AMD en Amazon om software te optimaliseren zodat deze efficiënt op hun hardware kan draaien. De startup heeft tot nu toe $4 miljoen aan startfinanciering opgehaald van Google’s Jeff Dean, Wojciech Zaremba van OpenAI en anderen.
Andere gelooft dat de AI-aanpak van zijn bedrijf het potentieel heeft om de dominantie van Nvidia uit te dagen. Een aantal high-end chips bieden nu vergelijkbare ruwe drijvende-kommaprestaties (een belangrijke maatstaf voor de industrie voor het vermogen van een chip om eenvoudige berekeningen uit te voeren) als Nvidia’s beste silicium.
“De beste AMD-hardware, de beste (Amazon) Trainium-hardware, de beste (Google) TPU’s, geven je dezelfde theoretische flops als Nvidia GPU’s”, vertelde Andere me onlangs. “We willen de intelligentie per watt maximaliseren.”
Prestatie-ingenieurs met de vaardigheden die nodig zijn om de code te optimaliseren zodat deze betrouwbaar en efficiënt op deze chips draait, zijn duur en er is veel vraag naar, zegt Andere, terwijl Nvidia’s software-ecosysteem het gemakkelijker maakt om code voor zijn chips te schrijven en te onderhouden. Dat maakt het zelfs voor de grootste technologiebedrijven moeilijk om het alleen te doen.
Toen Anthropic bijvoorbeeld samenwerkte met Amazon om zijn AI-modellen op Trainium te bouwen, moest het de code van het model helemaal opnieuw schrijven om het zo efficiënt mogelijk op de hardware te laten werken, zegt Andere.
Natuurlijk is Claude van Anthropic nu een van de vele AI-modellen die nu bovenmenselijk zijn in het schrijven van code. Andere denkt dus dat het niet lang zal duren voordat AI de softwarevoordelen van Nvidia gaat consumeren.
“Het probleem schuilt in de programmeerbaarheid van de chip”, zegt Andere verwijzend naar de bibliotheken en softwaretools die het gemakkelijker maken om code voor Nvidia-hardware te optimaliseren. “Ik denk dat het tijd is om te heroverwegen of dat wel een sterke slotgracht is.”
Naast dat het gemakkelijker wordt om code voor verschillende soorten silicium te optimaliseren, kan AI het binnenkort ook gemakkelijker maken om zelf chips te ontwerpen. Recursieve intelligentieeen startup opgericht door twee ex-Google-ingenieurs, Azalia Mirhoseini en Anna Goldie, ontwikkelt nieuwe manieren om computerchips met kunstmatige intelligentie te ontwerpen. Als de technologie een vlucht neemt, zouden veel meer bedrijven zich kunnen richten op het ontwerpen van chips, waardoor op maat gemaakt silicium kan worden gemaakt dat hun software efficiënter laat draaien.
