CEO van Anthropic geeft ernstige AI-waarschuwing. Dit is wat hij fout doet.

In een nieuw essay van 38 pagina’s dat op zijn persoonlijke website is gepubliceerd, pleit CEO en medeoprichter van Anthropic Dario Amodei voor dringende actie om de risico’s van superintelligente AI aan te pakken.

Amodei schrijft dat dit soort zelfverbeterende AI slechts één tot twee jaar kan duren – en waarschuwt dat de risico’s onder meer de slavernij en ‘massavernietiging’ van de mensheid omvatten.

Het essay, “De adolescentie van technologie”, gaat over zowel bekende als onbekende AI-risico’s. De CEO spreekt uitvoerig over het potentieel van AI-aangedreven bioterrorisme, drone-legers bestuurd door kwaadwillende AI, en AI die menselijke werknemers overbodig maakt op een samenlevingsbrede schaal.

Om deze risico’s aan te pakken, stelt Amodei een verscheidenheid aan interventies voor – van zelfregulering binnen de AI-industrie tot aan het wijzigen van de Amerikaanse grondwet.

Amodei’s essay is doordacht en goed onderbouwd. Maar het begaat ook de hoofdzonde van het schrijven over AI: hij kan het niet laten om AI te antropomorfiseren.

En door zijn product te behandelen als een bewust, levend wezen, trapt Amodei in de val waarvoor hij waarschuwt.

Veelzeggend is tegelijkertijd dat de New York Times publiceerde een groot onderzoek naar ‘AI-psychose’. Dit is een overkoepelende term zonder een precieze medische definitie, en verwijst naar een breed scala aan geestelijke gezondheidsproblemen die worden verergerd door AI-chatbots zoals ChatGPT of Claude. Het kan wanen, paranoia of een totale breuk met de realiteit omvatten.

“Als een AI-verkoper je echter vertelt dat AI een onstuitbare, wereldveranderende technologie is in de orde van de landbouwrevolutie … moet je deze voorspelling nemen voor wat het is: een verkooppraatje.”

Deze gevallen hebben vaak één ding gemeen: een kwetsbare persoon praat zo lang met een AI-chatbot dat hij begint te geloven dat de chatbot leeft. De Large Language Models (LLM’s) die platforms als ChatGPT aandrijven, kunnen een zeer levensechte facsimile van menselijke gesprekken produceren, en na verloop van tijd kunnen gebruikers een emotionele afhankelijkheid van de chatbot ontwikkelen.

Wanneer u te lang praat tegen een machine die daarvoor is geprogrammeerd geluid empathisch – en als die machine altijd aanwezig is en geoptimaliseerd voor betrokkenheid – is het maar al te gemakkelijk om te vergeten dat er geen geest aan het werk is achter het scherm.

LLM’s zijn krachtige motoren voor woordvoorspelling, maar ze hebben geen bewustzijnof gevoelens, of empathie. Toen ik ‘The Adolescentie of Technology’ las, begon ik me af te vragen of Amodei een te grote emotionele band met zijn eigen machine heeft opgebouwd.

Amodei is verantwoordelijk voor het creëren van een van de krachtigste chatbots ter wereld. Hij heeft ongetwijfeld talloze uren besteed aan het gebruiken van Claude, ermee praten, het testen en verbeteren. Is hij ook een god in de machine gaan zien?

Het essay beschrijft AI-chatbots als ‘psychologisch complex’. Hij praat over AI alsof het zijn eigen motieven en doelen heeft. Hij beschrijft de bestaande modellen van Anthropic als een robuust gevoel van ‘zelfidentiteit’ als een ‘goed mens’.

Kortom, hij antropomorfiseert generatieve AI – en niet slechts een toekomstige, superintelligente vorm van AI, maar de op LLM gebaseerde AI van vandaag.

Waarom AI-doom altijd om de hoek ligt

Een groot deel van het gesprek over de gevaren van AI komt rechtstreeks uit science fiction, wat Amodei toegeeft – en toch maakt ook hij zich schuldig aan hetzelfde bereik.

Het essay begint met een sectie met de titel ‘Doomerisme vermijden’, waarin Amodei kritiek levert op de ‘minst verstandige’ en meest ‘sensationele’ stemmen die AI-risico’s bespreken. “Deze stemmen gebruikten onaangename taal die deed denken aan religie of sciencefiction”, schrijft hij.

Toch roept Amodei’s essay ook herhaaldelijk sciencefiction op. En wat religie betreft, lijkt hij een geloofsachtige overtuiging te koesteren dat AI-superintelligentie nabij is.

Houd me tegen als je dit al eerder hebt gehoord: “Het kan onmogelijk langer dan een paar jaar duren voordat AI in vrijwel alles beter is dan mensen. In feite onderschat dat beeld waarschijnlijk de waarschijnlijke snelheid van vooruitgang.”

Voor AI-doomers is superintelligentie dat wel altijd net om de hoek. In een eerder essay met een meer utopische inslag: “Machines van liefdevolle genade‘, schreef Amodei dat super AI slechts een of twee jaar verwijderd zou kunnen zijn. (Dat essay werd gepubliceerd in oktober 2024, wat een tot twee jaar geleden was.)

Nu maakt hij hier dezelfde schatting: superintelligentie duurt nog een tot twee jaar. Nogmaals, dat is het zojuist om de hoek. Binnenkort, zeer binnenkort, zullen generatieve AI-tools zoals Claude leren hoe ze zichzelf kunnen verbeteren, waardoor een explosie van intelligentie wordt bereikt zoals niets wat de planeet ooit eerder heeft gezien. De singulariteit komt eraan, zeggen de AI-boosters. Vertrouw ons maar, zeggen ze.

Maar iets kan niet voortdurend op handen zijn. Moeten we verwachten dat generatieve AI exponentieel blijft evolueren, ook al lijkt de AI-industrie met zijn kop tegen de muur van afnemende opbrengsten te botsen?

Zeker, elke AI-CEO zou een sterke prikkel hebben om dat te denken. Een ongekend veel geld is al geweest geïnvesteerd in de ontwikkeling van AI-infrastructuur. De AI-industrie heeft die geldkraan nodig om koste wat het kost open te blijven.

Vorige week in Davos, Jensen Huang van NVIDIA stelde voor dat de investeringen in AI-infrastructuur zo groot zijn dat het geen zeepbel kan zijn. Van de mensen die je ’too big to fail’ brachten, komt een nieuwe hit: ’too big to pop’.

Ik heb de voordelen van AI-technologie gezien en ik geloof echt dat het een krachtig hulpmiddel is. Wanneer een AI-verkoper je echter vertelt dat AI een onstuitbare, wereldveranderende technologie is in de zin van de landbouwrevolutie, of een wereldveranderende bedreiging in de zin van de atoombom, en dat AI-hulpmiddelen binnenkort “alles zullen kunnen doen” wat je kunt, moet je deze voorspelling nemen voor wat ze is: een verkooppraatje.

AI-doomerisme is altijd een vorm van zelfvleierij geweest. Het kent mensen goddelijke krachten toe om nieuwe levensvormen te creëren, en zet de oligarchen uit Silicon Valley neer als titanen met de macht om de fundamenten van de wereld vorm te geven.

Ik vermoed dat de waarheid veel eenvoudiger is. AI is een krachtig hulpmiddel. En alle krachtige hulpmiddelen kunnen in de verkeerde handen gevaarlijk zijn. Er zijn wetten nodig om de ongecontroleerde groei van AI-bedrijven te beperken effect op het milieuen over de groeiende ongelijkheid in rijkdom.

Het is zijn verdienste dat Amodei in zijn essay oproept tot regulering van de sector, waarbij hij het r-woord tien keer vermeldt. Maar daarbij verwart hij sciencefiction ook met wetenschappelijk feit.

Er zijn steeds meer aanwijzingen dat LLM’s dat wel zullen doen nooit tot het soort superintelligentie leiden waar Amodei met zoveel ijver in gelooft. Als één onderzoeksartikel van Apple Om het zo te zeggen: LLM’s lijken alleen ‘de illusie van denken’ te bieden. De langverwachte GPT-5 grotendeels stelde de grootste fans van ChatGPT teleur. En veel grootschalige AI-ondernemingsprojecten lijken te crashen en in brand te staan. mogelijk zelfs 95 procent.

In plaats van ons zorgen te maken over de boeman van een Skynet-achtige apocalyps, moeten we ons in plaats daarvan concentreren op de concrete schade van AI – onnodige ontslagen geïnspireerd door overmoedige AI-projecties en niet-consensuele deepfake-pornografie, om er maar twee te noemen.

Het goede nieuws voor mensen is dat dit oplosbare problemen zijn als we onze menselijke geest samenbrengen – er is geen sciencefiction-gedachte-experiment voor nodig.