Durfkapitalist Chamath Palihapitiya zei dat hij niet kan geloven hoeveel zijn software-startup aan AI uitgeeft.
“Onze kosten zijn sinds 25 november meer dan verdrievoudigd”, zei Palihapitiya tijdens een aflevering van de “All-In Podcast” die vrijdag werd gepost. “Tussen de gevolgtrekkingskosten die we aan AWS betalen, wat gigantisch is, tussen onze kosten met Cursor, tussen Anthropic, geven we slechts miljoenen uit.”
Palihapitiya zei dat 8090, dat hij begon met “het doel om alle oudere software ter wereld te vervangen/herschrijven”, de neiging heeft om 10 miljoen dollar per jaar uit te geven aan AI-kosten. Zijn bezorgdheid over de stijgende rekeningen komt omdat de technologie-industrie blijft verteren hoe AI gevestigde velden als software-engineering op zijn kop zet.
De grootste angst die Palihapitiya uitte, is dat hoewel de AI-kosten stijgen, de inkomsten van 8090 niet in hetzelfde tempo stijgen.
“Het probleem is dat mijn kosten elke drie maanden drie keer zo hoog worden”, zegt hij. “Mijn inkomsten niet.”
Het huidige systeem, zei Palihapitiya op X, wordt gedeeltelijk gesubsidieerd door grote durfkapitaalbedrijven die tot de grootste financiers van AI-bedrijven als OpenAI en Anthropic behoren. Sommigen in de technologiesector hebben de duurzaamheid van de huidige aanpak in twijfel getrokken, door deze te vergelijken met hoe Uber-ritten eerst goedkoop waren en vervolgens in de loop van de tijd duurder werden.
“Bedankt aan de durfkapitaalfondsen die deze onbeperkte tokenconsumptie zullen financieren via hun enorme investeringen”, schreef hij.
Palihapitiya noemde Cursor, een populaire AI-coderingstool, als bron van enkele van de grootste AI-kosten van 8090. Hij zei dat de Claude Code van Anthropic een veel beter koopje is.
“We moeten van Cursor migreren”, schreef hij op X. “Het is gewoon te duur in vergelijking met Claude Code. Dit laatste is gelijkwaardig en als je het Pro-abonnement gebruikt, elimineer je enorme Cursor-rekeningen voor tokenverbruik.”
De zorgen over de stijgende rekeningen voor AI-gebruik borrelen nog steeds op. OpenCode-maker Dax Raad zei onlangs dat CFO’s zich bewust beginnen te worden van de kosten van AI-rekeningen.
“Je CFO is zoiets van: wat bedoel je met, elke ingenieur kost nu $ 2000 extra per maand aan LLM-rekeningen”, schreef Raad op X.
Palihapitiya zei dat hij vermoedt dat sommige van de AI-rekeningen van 8090 te wijten kunnen zijn aan Ralph-loops, de bijnaam voor een gebruikstechniek die in wezen dezelfde prompt terugstuurt naar een AI-model totdat het probleem is opgelost. De aanpak is vernoemd naar het personage “The Simpsons”. Ralph Wiggumeen geliefde doofus die erg volhardend kan zijn.
“Iedereen is verliefd geworden op wat wij deze Ralph Wiggum-loops noemen, net zoals je het ding opstuurt en het zal wel iets bedenken”, zei Palihapitiya tijdens de podcast. ‘A, er komt nooit iets uit. En B, je krijgt gewoon deze gigantische rekening van Cursor.’
In de toekomst zei Palihapitiya dat er meer flexibiliteit moet zijn om tussen modellen te wisselen. Hij zei dat het van Anthropic was recente ruzie met het Pentagon illustreert waarom dit nodig is.
“We moeten meer flexibiliteit krijgen om tussen modellen te kunnen wisselen zonder dat alles kapot gaat”, schreef hij op X. “Ik denk dat dit zowel een kostenprobleem per #1 is, maar ook een strategisch flexibiliteitsprobleem na de gebeurtenissen tussen Anthropic en DoW.”
