AI zou een verbazingwekkend nieuw tijdperk voor de mensheid kunnen inluiden.
Er kunnen ook enkele potentiële nadelen zijn. Zoals een bedrijf het verwoordde:
“Banen en hele industrieën worden ontwricht; slechte actoren misbruiken de technologie; slecht op elkaar afgestemde systemen die de menselijke controle ontwijken; regeringen of instellingen die AI inzetten op manieren die de democratische waarden ondermijnen; en macht en rijkdom worden steeds geconcentreerder in plaats van breder gedeeld.”
Als je verrast bent om te horen dat deze risicobeoordeling afkomstig is van OpenAI, het bedrijf dat voorop loopt op het gebied van AI, zou dat niet zo moeten zijn: bezorgdheid over het gebruik en de effecten van de technologie was de kern van de oprichting van OpenAI in 2015, toen Sam Altman en anderen een non-profitorganisatie oprichtten die specifiek was bedoeld om deze risico’s te helpen beheersen.
OpenAI heeft sindsdien een vreemde en ingewikkelde geschiedenis gehad, en heeft nu een heel vreemde geschiedenis structuur met winstoogmerk/non-profitorganisatie. Eén constante is dat Sam Altman het nog steeds leidt, en dat veel mensen die Sam Altman kennen hem niet vertrouwen.
Dat is de conclusie van een lang nieuw Altman-profiel in de New Yorkergeschreven door Ronan Farrow En Andreas Marantz. In het stuk wordt Altman door vroegere en huidige medewerkers en collega’s vaak omschreven als… op zijn best glad. “Hij laat zich niet beperken door de waarheid”, zegt een voormalig bestuurslid van OpenAI.
Dit is geen nieuwe aanklacht: in het najaar van 2023 Het bestuur van OpenAI heeft Altman ontslagen en zei dat hij “niet consequent openhartig was in zijn communicatie.” Altman pleegde vervolgens in wezen een omgekeerde staatsgreep, waarbij hij werd hersteld als CEO en de meeste van zijn tegenstanders het bedrijf verlieten.
Dat veel mensen die bij Altman hebben gewerkt dat niet meer willen, is ook geen nieuws. Er zijn verschillende bedrijven opgericht door voormalige Altman-collega’s die tegenstanders zijn geworden – het meest opvallend bij Anthropic, geleid door voormalig OpenAI-directeur Dario Amodei, wiens afkeer van Altman uitgebreid is gedocumenteerd. (Denk aan deze foto van februari, waar Amodei en Altman wilden elkaars hand niet vasthouden?)
En als u op zoek bent naar meer bewijs dat samenwerken met Sam Altman een moeilijk vooruitzicht kan zijn, raadpleeg dan De informatiewaarin wordt gemeld dat hij niet goed overweg lijkt te kunnen gaan met CFO Sarah Friar, wat een probleem zou moeten zijn voor een bedrijf dat zich voorbereidt op een enorme beursintroductie dit jaar. Een van de voor de hand liggende problemen: Friar zou eerder dit jaar “aan een aantal collega’s hebben verteld dat ze niet geloofde dat het bedrijf in 2026 klaar zou zijn om naar de beurs te gaan.”
Ik heb OpenAI om commentaar over beide verhalen gevraagd.
Dit alles brengt ons terug bij de nieuwe whitepaper van OpenAI, getiteld “Industrieel beleid voor het inlichtingentijdperk: ideeën om mensen op de eerste plaats te houden“, waarin staat dat AI geweldig zal zijn, maar er zullen enkele nadelen zijn, dus we moeten “een gesprek beginnen over het besturen van geavanceerde AI.”
Eén van de voorstellen: Het veranderen van de belastingwet om meer geld te onttrekken aan grote bedrijven en rijke mensen, om de daling van de loonbelasting te compenseren die zou kunnen ontstaan als veel mensen door AI werkloos zouden worden. Nog een idee: extra belastingen voor bedrijven die AI-mensen werkloos maken. Dat is: Als AI zijn belofte waarmaakt, kan het ingrijpende, destabiliserende veranderingen teweegbrengen.
Dit alles betekent dat we ons in een positie bevinden waarin we enorm veel vertrouwen moeten stellen in de mensen die AI-bedrijven runnen. Verhalen zoals die van de New Yorker zullen het moeilijker maken om Altman te vertrouwen.
