Home Nieuws Een kijkje in de golf van AI met vuurwerk AI-CEO Lin Qiao

Een kijkje in de golf van AI met vuurwerk AI-CEO Lin Qiao

5
0
Een kijkje in de golf van AI met vuurwerk AI-CEO Lin Qiao

De AI de groei vertraagt ​​niet; het versnelt.

Lin Qiao, een voormalig Meta ingenieur die hielp bouwen PyTorchdraait nu Fireworks AI, een startup van $4 miljard die 15 biljoen AI-tokens per dag verwerkt, en ze zegt dat de vraag nog maar net begint.

“Dit is het jaar dat de tokenconsumptie exponentieel gaat groeien”, vertelde Qiao me in een recent interview.

Het inferentie-cloudplatform van Fireworks AI verwerkt nu ongeveer 15 biljoen AI tokens per dag, vergeleken met 13 biljoen een paar maanden geleden en 10 biljoen eind 2025. (Modellen splitsen woorden en andere invoer op in numerieke tokens om ze gemakkelijker te verwerken en te begrijpen. Eén token is ongeveer ¾ van een woord. Ze worden ook gebruikt om het gebruik van AI-modellen te beprijzen, via een industriestandaard kostprijs per miljoen tokens.

Qiao is hier eerder geweest. Lang vóór de huidige generatieve AI-hausse werkte ze bij Meta mee aan de opbouw van PyTorch, het open-sourceframework dat de eerste golf van moderne AI-adoptie aandreef. Toen waren er nog geen GPU’s geoptimaliseerd voor AI, geen volwassen tooling en geen duidelijke routekaart.

“We moesten alles vanaf de grond opbouwen”, zei Qiao.

De omvang van die groei weerspiegelt volgens Qiao hoe snel AI zich in de dagelijkse workflows in verschillende sectoren verankert.

Het gebruik van tokens is niet beperkt tot technische teams. Qiao beschreef financiële afdelingen die AI gebruikten om prognoses te automatiseren, haar eigen juridische team dat interne AI-tools bouwde, en zelfs gig-medewerkers die muziek on-demand creëerden met generatieve AI-modellen. Haar dochter van middelbare leeftijd gebruikt meerdere AI-systemen tegelijk: één om antwoorden te genereren en andere om ze te verifiëren.

“Dat is de wereld waarin we leven”, zei Qiao. “Letterlijk iedereen gebruikt deze tools.”

Die golf golft door de hele technologiestapel heen. Het GPU-aanbod is krap, de prijzen stijgenen zelfs de energie-infrastructuur staat onder druk nu bedrijven zich haasten om meer AI-capaciteit in te zetten.

“Het hele systeem is verzadigd”, zei Qiao, terwijl hij de knelpunten beschrijft die zich uitstrekken van halfgeleidercomponenten tot energienetwerken.

Haar geloofwaardigheid op het gebied van deze trends komt voort uit haar rol bij het opbouwen van PyTorch, dat heeft bijgedragen aan de democratisering van de AI-ontwikkeling bij bedrijven variërend van Tesla tot Walmart. Die vroege blootstelling liet haar zien hoe snel AI zich buiten Silicon Valley zou kunnen verspreiden naar sectoren als de landbouw en de productie.

Nu ziet ze een soortgelijke, maar veel snellere, golf zich ontvouwen.

Waarom bestaan?

Toch hangt er een kernvraag boven bedrijven als Fireworks AI: waarom bestaan ​​ze überhaupt? Als hyperscalers Amazon, Google, Microsoft en Oracle al GPU’s verhuren, waarom zouden we dan niet rechtstreeks naar hen toe gaan?

Het antwoord van Qiao is complexiteit en snelheid. Bedrijven, zegt ze, hebben moeite om de snel veranderende modellen en hardware bij te houden, van nieuwe Nvidia-chips die elke paar maanden arriveren tot nieuwe AI-modellen om de paar weken. Fireworks zorgt voor dat verloop – door de prestaties te optimaliseren, de infrastructuur te beheren en klanten te helpen snel te migreren – zodat zij dat niet hoeven te doen.

Voor Qiao is de les van zowel PyTorch als Fireworks consistent: zodra AI bruikbaar wordt, versnelt de adoptie dramatisch. En op basis van de huidige tokenvolumes is die versnelling nog maar net begonnen.

Meld u aan voor de Tech Memo-nieuwsbrief van BI hier. Neem contact met mij op via e-mail op abarr@businessinsider.com.

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in