Een voormalige medewerker van Anthropic zei in een maandag gepubliceerde vertrekbrief dat hij het bedrijf verlaat omdat hij rekening houdt met een ‘wereld in gevaar’.
Mrinank Sharma, die zei dat hij leiding gaf aan het veiligheidsonderzoeksteam van Antropischplaatste maandag een brief die hij naar collega’s stuurde waarin hij zijn vertrek aankondigde. Sharma legde uit waarom hij het kunstmatige-intelligentiebedrijf verliet en schetste zijn toekomstplannen.
“Ik heb hier alles bereikt wat ik wilde”, schreef Sharma, daarbij verwijzend naar projecten zoals het ontwikkelen van verdedigingsmechanismen om de risico’s ervan te verminderen AI-ondersteund bioterrorisme en een afstudeerproject over het begrijpen van de effecten van AI op de mensheid.
Hij zei ook dat het tijd was om verder te gaan, omdat hij voortdurend worstelde met de gevaren van AI, biowapens en een ‘hele reeks onderling verbonden crises die zich op dit moment ontvouwen’.
‘Het lijkt erop dat we een drempel naderen waarop onze wijsheid in gelijke mate moet groeien als ons vermogen om de wereld te beïnvloeden, anders worden we geconfronteerd met de gevolgen’, schreef hij.
Hij voegde eraan toe: “Gedurende mijn tijd hier heb ik herhaaldelijk gezien hoe moeilijk het is om onze waarden echt onze daden te laten bepalen. Ik heb dit bij mezelf gezien, binnen de organisatie, waar we voortdurend onder druk staan om opzij te zetten wat het belangrijkst is, en ook in de bredere samenleving.”
Sharma zei dat hij van plan is werk na te streven dat aansluit bij zijn integriteit, een graad in poëzie te gaan studeren en zich te wijden aan moedige uitspraken.
Noch Sharma noch Anthropic reageerden onmiddellijk op verzoeken om commentaar van Business Insider.
Sharma is de nieuwste medewerker van Anthropic die publiekelijk een vertrek aankondigt.
Dat zeggen Harsh Mehta, die in onderzoek en ontwikkeling werkte, en de vooraanstaande AI-wetenschapper Behnam Neyshabur in X postte vorige week dat ze Anthropic hadden verlaten om ‘iets nieuws te beginnen’, terwijl ze het bedrijf prezen om zijn talent en sterke cultuur. Dylan Scandinaro, voormalig AI-veiligheidsonderzoeker bij Anthropic, onlangs sloot zich aan bij OpenAI als hoofd paraatheid.
Anthropic heeft ondertussen andere recente aanwervingen aangekondigd, waaronder CTO Rahul Patil, die eerder in oktober dezelfde rol vervulde bij Skype.
Het AI-bedrijf is in gesprek om een nieuwe financieringsronde binnen te halen waardeert Anthropic op $350 miljard.
Donderdag rolde Anthropic uit Sluit werk 4.6een geüpgraded model dat is ontworpen om de kantoorproductiviteit en codeerprestaties te verbeteren, met een groter contextvenster om langere documenten en complexer werk in één sessie te verwerken.
Lees de volledige brief van Sharma hieronder.
Beste collega’s, Ik heb besloten Anthropic te verlaten. Mijn laatste dag is 9 februari. Bedankt. Er is hier zoveel dat mij inspireert en heeft geïnspireerd. Om een paar van die dingen te noemen: een oprecht verlangen en de drive om in zo’n uitdagende situatie te verschijnen en ernaar te streven op een impactvolle en integere manier bij te dragen; de bereidheid om moeilijke beslissingen te nemen en te staan voor het goede; een onredelijke hoeveelheid intellectuele genialiteit en vastberadenheid; en natuurlijk de aanzienlijke vriendelijkheid die onze cultuur doordringt. Ik heb hier bereikt wat ik wilde. Ik ben twee jaar geleden in San Francisco aangekomen, nadat ik mijn doctoraat had afgerond en een bijdrage wilde leveren aan de Al-veiligheid. Ik voel me gelukkig dat ik heb kunnen bijdragen aan wat ik hier heb: het begrijpen van Al-sycophancy en de oorzaken ervan; het ontwikkelen van verdedigingsmiddelen om de risico’s van door Al ondersteund bioterrorisme te verminderen; het feitelijk in productie nemen van deze verdedigingsmechanismen; en het schrijven van een van de eerste Al-veiligheidszaken. Ik ben vooral trots op mijn recente inspanningen om ons te helpen onze waarden na te leven via interne transparantiemechanismen; en ook mijn afstudeerproject over hoe Al-assistenten ons minder menselijk kunnen maken of onze menselijkheid kunnen vervormen. Bedankt voor uw vertrouwen. Toch is het voor mij duidelijk dat het tijd is om verder te gaan. Ik merk dat ik voortdurend rekening houd met onze situatie. De wereld is in gevaar. En niet alleen door Al, of door biowapens, maar door een hele reeks onderling verbonden crises die zich op dit moment afspelen.’ Het lijkt erop dat we een drempel naderen waarop onze wijsheid in gelijke mate moet groeien als ons vermogen om de wereld te beïnvloeden, anders worden we geconfronteerd met de gevolgen. Bovendien heb ik gedurende mijn tijd hier herhaaldelijk gezien hoe moeilijk het is om onze daden echt door onze waarden te laten bepalen. Ik heb dit bij mezelf gezien, binnen de organisatie, waar we voortdurend onder druk staan om opzij te zetten wat het belangrijkst is, en ook in de bredere samenleving. Door deze situatie vast te houden en zo goed mogelijk te luisteren, wordt duidelijk wat ik moet doen.’ Ik wil een bijdrage leveren op een manier die volledig aansluit bij mijn integriteit en die mij in staat stelt meer van mijn bijzonderheden naar voren te brengen. Ik wil de vragen onderzoeken die voor mij echt essentieel zijn, de vragen waarvan David Whyte zou zeggen dat ze ‘niet het recht hebben om weg te gaan’, de vragen die Rilke ons smeekt om te ‘leven’. Voor mij betekent dit vertrekken. Wat er daarna komt, weet ik niet. Ik denk met veel plezier aan het beroemde Zen-citaat “niet weten is het meest intiem”. Het is mijn bedoeling om ruimte te creëren om de structuren die mij de afgelopen jaren hebben vastgehouden opzij te zetten, en te kijken wat er zou kunnen ontstaan als ze er niet meer zouden zijn. Ik voel me geroepen om te schrijven dat zich volledig richt op en zich bezighoudt met de plek waar we ons bevinden, en dat poëtische waarheid naast wetenschappelijke waarheid plaatst als even geldige manieren om te weten, die beide iets essentieels hebben bij te dragen bij het ontwikkelen van nieuwe technologie. * Ik hoop een graad in poëzie te verkennen en mezelf te wijden aan de praktijk van moedig spreken. Ik kijk er ook naar uit om mijn praktijk van faciliteren, coachen, gemeenschapsopbouw en groepswerk te verdiepen. We zullen zien wat zich ontvouwt. Bedankt, en tot ziens. Ik heb zoveel geleerd door hier te zijn en ik wens je het beste. Ik laat je achter met een van mijn favoriete gedichten, The Way It Is van William Stafford. Succes, Mrinank Zoals het is Er is een draad die je volgt. Het gaat tussen dingen die veranderen. Maar het verandert niet. Mensen vragen zich af wat je nastreeft. Je moet uitleg geven over de draad. Maar voor anderen is het moeilijk om te zien. Zolang je hem vasthoudt, kun je niet verdwalen. Er gebeuren tragedies; mensen raken gewond of sterf; en je lijdt en wordt oud. Niets wat je doet kan het zich ontvouwen van de tijd tegenhouden. Je laat de draad nooit meer los. Willem Stafford
