Jensen Huang heeft een nieuwe rode vlag voor toptalent: niet genoeg AI-tokens gebruiken.
De CEO van Nvidia zei in een aflevering van de donderdag gepubliceerde “All-In Podcast” dat hij “diep ongerust” zou zijn als een van de topingenieurs van de chipgigant te weinig aan AI zou uitgeven.
‘Als die ingenieur van $500.000 tenminste niet verbruikte Ik ga diep gealarmeerd zijn ter waarde van $250.000 aan tokens”, zei Huang.
“Die ingenieur van $ 500.000 aan het eind van het jaar, ik ga ze vragen hoeveel je aan tokens hebt uitgegeven? Als die persoon $ 5.000 zei, ga ik iets anders nabootsen”, voegde hij eraan toe.
Op de vraag of Nvidia 2 miljard dollar uitgeeft aan tokens voor zijn technische team, zei Huang: “Dat proberen we.”
“Dit is niet anders dan een van onze chipontwerpers die zegt: ‘Raad eens? Ik ga gewoon papier en potlood gebruiken'”, zei hij, verwijzend naar topingenieurs die AI-tokens te weinig gebruiken.
Dat zei Huang eerder deze week op de GPU Technology Conference tokens konden deel uitmaken van zijn rekruteringsstrategie voor ingenieurs.
“Ze gaan een paar honderdduizend dollar per jaar verdienen, hun basissalaris”, zei Huang over ingenieurs. “Ik ga ze waarschijnlijk de helft daarvan als tokens geven, zodat ze 10x versterkt kunnen worden.”
‘Het is nu een van de rekruteringsinstrumenten in Silicon Valley: Hoeveel tokens horen bij mijn baan?’ Huang voegde eraan toe. ‘En de reden daarvoor is heel duidelijk, omdat elke ingenieur die toegang heeft tot tokens productiever zal zijn.’
Tokens zijn de basiseenheid AI-systemen gebruiken om tekst te verwerken. Hoe meer tekst een AI leest of genereert, hoe meer tokens hij verbruikt. Daarom rekenen bedrijven doorgaans op basis van het gebruik per duizend of miljoen tokens.
Tokens als compensatie
Huang is niet de enige die het idee naar voren brengt dat ingenieurs royale toegang tot AI-computers nodig hebben – en dat bedrijven bereid moeten zijn daarvoor te betalen.
Alistair Barr van Business Insider meldde eerder deze maand dat technologiebedrijven zouden kunnen experimenteren met een nieuwe manier om te concurreren om talent: het aanbieden van toegang tot AI-inferentiekracht naast salaris, bonussen en eigen vermogen.
Tomasz Tunguz van Theory Ventures vertelde Barr dat tokens een potentieel “vierde onderdeel” van de compensatie zijn.
Peter Gostev, leider op het gebied van AI-capaciteiten bij Arena, een startup die de prestaties van modellen meet, suggereerde dat OpenAI en Anthropic “wervingssites zouden creëren waar hun klanten functies kunnen adverteren, waarbij het symbolische budget voor de baan naast het salarisbereik wordt vermeld.”
Thibault Sottiaux, technisch leider van het Codex-team van OpenAI, schreef op X dat kandidaten zich steeds vaker afvragen tot hoeveel rekenkracht ze toegang krijgen.
OpenAI CEO Sam Altman heeft eerder gezegd dat AI-tokens een vorm van kunnen zijn universeel basisinkomen.
“Ik vraag me af of de toekomst meer op Universal Basic Compute lijkt dan op Universal Basic Income, en dat iedereen een stukje van de GPT-7-compute krijgt”, zei Altman in een “All-In Podcast” -aflevering van mei 2024. “En ze kunnen het gebruiken, ze kunnen het doorverkopen, ze kunnen het aan iemand doneren om te gebruiken voor kankeronderzoek, maar wat je krijgt zijn geen dollars, maar dit soort stukje, je bezit een deel van de productiviteit,”
