Hij hielp bij het bouwen van enkele van ’s werelds krachtigste AI-systemen. Nu trekt hij de stekker uit het stopcontact.
Een voormalige medewerker van OpenAI en xAI zegt dat hij door het razend tempo in de AI-laboratoria aan de grens is opgebrand en dat hij op weg is naar Vietnam om te herstellen.
Hieu Pham kondigde donderdag zijn vertrek bij OpenAI aan in een post op X, waarin hij zijn tijd bij OpenAI en bij xAI omschreef als een “once-in-a-lifetime ervaring”.
“Bij deze bedrijven heb ik geholpen bij het creëren van extreem intelligente entiteiten die ons leven op betekenisvolle wijze zullen verbeteren. Het werk maakt me trots”, schreef hij.
De intensiteit van het werk bracht een persoonlijke prijs met zich mee, voegde hij eraan toe.
“Ik kan niet geloven dat ik dit op een dag zou zeggen, maar ik ben opgebrand”, zei Pham.
‘Alle verslechterende geestelijke gezondheid waar ik vroeger de spot mee dreef, is reëel, ellendig, beangstigend en gevaarlijk’, voegde hij eraan toe.
Pham begon in augustus 2024 bij xAI, voordat hij in augustus vorig jaar naar OpenAI verhuisde. Voor zijn aankondiging donderdag werkte hij volgens zijn LinkedIn-profiel ongeveer 7 maanden bij OpenAI.
Pham zei dat hij met zijn gezin zal terugkeren naar zijn thuisland Vietnam.
Daar is hij van plan “iets nieuws te proberen, en ook te zoeken naar een remedie voor mijn aandoeningen”, zei hij.
“Ik hoop dat ik zal genezen. Tot die tijd”, voegde hij eraan toe.
Golf van aftreden
Het vertrek van Pham komt als een reeks van AI-onderzoekers stap weg van grenslaboratoria.
Eerder deze maand kondigde Mrinank Sharma, die leiding gaf aan het Safeguards Research Team bij Anthropic, zijn vertrek uit het bedrijf aan.
“Het lijkt erop dat we een drempel naderen waarop onze wijsheid in gelijke mate moet groeien als ons vermogen om de wereld te beïnvloeden, anders worden we geconfronteerd met de gevolgen”, schreef Sharma in een brief over X.
“Gedurende mijn tijd hier heb ik herhaaldelijk gezien hoe moeilijk het is om onze waarden echt onze daden te laten bepalen.”
Jacob Silverman van Business Insider meldde eerder deze maand dat er een patroon is van toponderzoekers die weglopen en publiekelijk worstelen met hun ongemak over de technologie die zij hebben helpen bouwen.
Dylan Scandinarodie eerder deze maand Anthropic verliet om zich bij OpenAI aan te sluiten als hoofd paraatheid, schreef op LinkedIn: “AI maakt snel vorderingen. De potentiële voordelen zijn groot – en dat geldt ook voor de risico’s van extreme en zelfs onherstelbare schade.”
Sommige AI-onderzoekers zeggen ook dat de industrie begint te lijken op het beruchte ‘996’-schema van China – een afkorting voor werken van 9.00 uur tot 21.00 uur, zes dagen per week.
Nathan Lambert, senior onderzoeker bij het Allen Institute for AI, zei in een aflevering van de “Lex Fridman Podcast” die deze maand werd gepubliceerd dat dit soort intensiteit de norm is geworden bij bedrijven als OpenAI en Anthropic.
“Dat is hoe OpenAI en Anthropic zijn,” zei Lambert, die een cultuur van hoge druk beschrijft waarin lange uren vaak aan zichzelf worden opgelegd. Veel werknemers, vooral programmeurs, kopen in omdat ze het werk willen doen, voegde hij eraan toe.
