Terwijl een groot deel van Silicon Valley racet om goddelijke AI te bouwen, probeert de AI-chef van Microsoft op de rem te trappen.
Mustafa Suleyman zei in een aflevering van de zaterdag gepubliceerde “Silicon Valley Girl Podcast” dat het idee van kunstmatige superintelligentie niet zomaar moet worden vermeden. Het moet worden beschouwd als een ‘antidoel’.
Kunstmatige superintelligentie – AI die veel verder kan redeneren dan de menselijke capaciteiten – ‘voelt niet als een positieve visie op de toekomst’, zegt Suleyman.
“Het zou heel moeilijk zijn om zoiets in bedwang te houden of het in overeenstemming te brengen met onze waarden”, voegde hij eraan toe.
Suleyman, mede-oprichter van DeepMind voordat hij naar Microsoft verhuisde, zei dat zijn team “probeert een humanistische superintelligentie op te bouwen” – een die de menselijke belangen ondersteunt.
Suleyman zei ook dat het een vergissing is om AI iets toe te kennen dat lijkt op bewustzijn of morele status.
“Deze dingen lijden niet. Ze voelen geen pijn”, zei Suleyman. “Ze simuleren alleen maar gesprekken van hoge kwaliteit.”
Het debat over superintelligentie
De opmerkingen van Suleyman komen op het moment dat sommige marktleiders spreken over het bouwen van kunstmatige superintelligentie. Sommigen zeggen dat het dit decennium zou kunnen gebeuren.
OpenAI-CEO Sam Altman heeft kunstmatige algemene intelligentie – AI die kan redeneren als een mens – herhaaldelijk beschreven als de kernmissie van het bedrijf. Altman zei eerder dit jaar dat OpenAI al verder kijkt dan AGI naar superintelligentie.
“Superintelligente instrumenten zouden de wetenschappelijke ontdekkingen en innovatie enorm kunnen versnellen, veel verder dan wat we op eigen kracht kunnen doen, en op hun beurt de overvloed en welvaart enorm kunnen vergroten”, zei Altman in januari.
Altman zei ook in een interview in september dat hij zeer verrast zou zijn als dat zo zou zijn superintelligentie komt niet naar voren tegen 2030.
De medeoprichter van Google DeepMind, Demis Hassabis, bood een soortgelijke tijdlijn aan. Hij zei in april dat AGI “in de komende vijf tot tien jaar” gerealiseerd zou kunnen worden.
“We zullen een systeem hebben dat echt alles om je heen begrijpt, op zeer genuanceerde en diepgaande manieren, en een beetje ingebed in je dagelijks leven”, zei hij.
Andere leiders hebben aangedrongen op scepticisme. Meta’s hoofd AI-wetenschapper, Yann LeCunzei dat we misschien nog “decennia” verwijderd zijn van het bereiken van AGI.
“De meest interessante problemen schalen extreem slecht”, zei LeCun in april aan de Nationale Universiteit van Singapore. “Je kunt er niet zomaar van uitgaan dat meer data en meer rekenkracht slimmere AI betekent.”
