CEO van Box Aaron Levie zegt dat technologiebedrijven niet de laatsten zullen zijn die het AI-budget zien stijgen.
“Dit begint natuurlijk in de engineering, waar we al weten dat ontwikkelaars meerdere agenten parallel kunnen draaien, of projecten ’s nachts kunnen laten lopen”, schreef Levie op X. “Maar uiteindelijk raakte dit ook de rest van het kenniswerk.”
Als voorbeeld noemde Levie juridisch en verkoop als twee gebieden die grote tokengebruikers zouden kunnen worden.
Tokens bepalen hoe AI wordt gemeten en hoe het verbruik ervan wordt geprijsd. Het zijn teksteenheden, een woord of een deel van een woord – in wezen de bouwstenen van grote taalmodellen, die populaire chatbots zoals OpenAI aandrijven ChatGPTClaude van Anthropic, of Grok van xAI. Belangrijk is dat tokens geen vast bedrag zijn, en AI-bedrijven hebben de neiging om meer in rekening te brengen voor het gebruik van de meest geavanceerde modellen en het stellen van ingewikkelder vragen.
Levie’s bericht was een reactie op de CEO van Nvidia Jensen HuangHij is van mening dat hij “diep gealarmeerd” zou zijn als een ingenieur die $ 500.000 krijgt, geen AI-tokens zou gebruiken die gelijkwaardig zijn aan ten minste de helft van dat salaris.
“Die ingenieur van $ 500.000 aan het eind van het jaar, ik ga hem vragen hoeveel je aan tokens hebt uitgegeven? Als die persoon $ 5.000 zei, ga ik iets anders nabootsen”, zei Huang tijdens een aflevering van de “All-In Podcast” die donderdag werd gepubliceerd.
Levie zei: “Dit onderliggende concept en deze trend zullen heel reëel zijn, omdat werknemers die AI op de juiste manier inzetten er alleen maar meer van zullen consumeren.
“Hun rekenbudgetten zullen in de loop van de tijd monotoon stijgen”, schreef hij.
Het zullen ook niet alleen arbeiders zijn, zegt Levie. Agenten, die gedurende alle uren actief kunnen zijn, zijn waarschijnlijk de grootste tokenconsumenten.
“Dit zijn geen chatbot-workflows die een simpele vraag beantwoorden, maar agenten die op grote schaal ongelooflijke hoeveelheden gegevens verwerken en verwerken, en die alle nieuwe vormen van informatie genereren”, schreef hij.
Niet iedereen zal blij zijn met hun AI-computerbudgetten. Durfkapitalist Chamath Palihapitiya zei dat hij 8090, zijn startende softwarebedrijf, moest vertellen om te stoppen met het gebruik van Cursor, een populaire AI-coderingstool, nadat hij had gezien hoeveel het bedrijf aan tokens uitgaf.
“Onze kosten zijn sinds 25 november meer dan verdrievoudigd”, zei Palihapitiya in een eerdere aflevering van de “All-In Podcast.” “Tussen de gevolgtrekkingskosten die we aan AWS betalen, wat gigantisch is, tussen onze kosten met Cursor, tussen Anthropic, geven we slechts miljoenen uit.”
Levie zei dat bedrijven “zullen moeten uitzoeken hoe ze dit budgetteren.”
“Het zal in de loop van de tijd waarschijnlijk geen IT-budgetpost zijn, maar uiteindelijk eigendom zijn van en toegewezen worden door het bedrijf”, schreef hij. “Misschien is de CFO uiteindelijk het hoofd van AI :-).”
