David Zilver gaf de wereld zijn allereerste glimp van superintelligentie.
In 2016 ontwikkelde hij een AI-programma bij Google DeepMind, AlphaGoleerde zichzelf het beroemde moeilijke spel Go spelen met een soort meesterschap dat ging veel verder dan nabootsing.
Silver heeft sindsdien zijn eigen bedrijf opgericht, Ineffable Intelligence, dat tot doel heeft meer algemene vormen van AI-superintelligentie te bouwen. Het bedrijf zal dit doen, zegt Silver, door zich te concentreren op versterkend leren, waarbij AI-modellen met vallen en opstaan nieuwe mogelijkheden leren. De visie is om ‘superleerlingen’ te creëren die op veel gebieden verder gaan dan de menselijke intelligentie.
Deze aanpak staat in contrast met de manier waarop de meeste AI-bedrijven superintelligentie willen opbouwen, door gebruik te maken van de codeer- en onderzoeksmogelijkheden van grote taalmodellen.
Silver zegt vanuit zijn kantoor in Londen tegen WIRED dat hij denkt dat deze aanpak zal mislukken. Hoe geweldig LLM’s ook zijn, ze leren van menselijke intelligentie – in plaats van hun eigen intelligentie te bouwen.
“Menselijke data zijn als een soort fossiele brandstof die voor een verbazingwekkende kortere weg heeft gezorgd”, zegt Silver. “Je kunt systemen zien die voor zichzelf leren als een hernieuwbare brandstof – iets dat voor altijd kan leren en leren en leren, zonder grenzen”, zegt hij.
Ik heb Silver een paar keer ontmoet en ondanks deze uitspraak heb ik altijd de indruk gekregen dat hij een van de bescheidener mensen binnen de AI is. Soms, als hij praat over ideeën die hij onnozel vindt, laat hij een spottende grijns zien. Maar op dit moment is hij bloedserieus.
“Ik beschouw onze missie als het maken van het eerste contact met de superintelligentie”, zegt hij. “Met superintelligentie bedoel ik echt iets ongelooflijks. Het zou zelf nieuwe vormen van wetenschap of technologie of bestuur of economie moeten ontdekken.”
Vijf jaar geleden leek zo’n missie misschien belachelijk. Maar technologie-CEO’s praten nu routinematig over machines die de menselijke intelligentie overtreffen en hele categorieën werknemers vervangen. Het idee dat een nieuwe technische wending bovenmenselijke AI-mogelijkheden zou kunnen ontsluiten, heeft onlangs een reeks miljardenstartups voortgebracht.
Ineffable Intelligence heeft tot nu toe 1,1 miljard dollar aan startfinanciering opgehaald tegen een waardering van 5,1 miljard dollar – een enorm bedrag naar Europese AI-normen. Silver heeft ook top AI-onderzoekers van Google DeepMind en andere grenslaboratoria gerekruteerd om zich bij zijn onderneming aan te sluiten.
Silver zegt dat hij al het geld dat hij verdient met aandelen in Effable Intelligence – een bedrag dat miljarden kan bedragen als hij succesvol is – zal weggeven aan een goed doel.
“Het is een enorme verantwoordelijkheid om een bedrijf op te bouwen dat zich richt op superintelligentie”, vertelt hij. “Ik denk dat dit iets is dat gedaan moet worden ten behoeve van de mensheid, en al het geld dat ik verdien met Ineffable zal naar liefdadigheidsinstellingen met een grote impact gaan die zoveel mogelijk levens redden.”
Totale focus
Silver ontmoette Demis Hassabis, de CEO van Google DeepMind, tijdens een schaaktoernooi toen ze nog kinderen waren, en het paar werd later vrienden voor het leven en medewerkers.
Ze bleven dichtbij nadat Silver Google DeepMind verliet, wat hij alleen deed omdat hij een compleet nieuw pad wilde uitstippelen. “Ik vind het heel belangrijk dat er een elitair AI-lab komt dat zich honderd procent op deze aanpak richt”, zegt hij. “Dat het niet zomaar een hoekje is van een andere plek gewijd aan LLM’s.”
De grenzen van de op LLM gebaseerde aanpak zijn volgens Silver te zien met een eenvoudig gedachte-experiment. Stel je voor dat je teruggaat in de tijd en een groot taalmodel vrijgeeft in een wereld die geloofde dat de wereld plat was. Zonder de mogelijkheid om te communiceren met de echte wereld zou het systeem, zegt hij, een fervent flat-earther blijven, zelfs als het zijn eigen code zou blijven verbeteren.
Een AI-systeem dat zelf over de wereld kan leren, zou echter zijn eigen wetenschappelijke ontdekkingen kunnen doen.
