“Heel verdrietig.”
Dat is hoe Geoffrey Hinton, de computerwetenschapper die algemeen bekend staat als de ‘Godfather of AI’, beschrijft hoe hij denkt over de technologie die hij heeft helpen creëren en wat volgens hem het onvermogen van de wereld is om haar verantwoordelijkheid te nemen. groeiende risico’s ernstig.
“Het maakt me heel verdrietig dat ik mijn leven heb gestoken in de ontwikkeling van dit spul en dat het nu extreem gevaarlijk is en dat mensen de gevaren niet serieus genoeg nemen”, vertelde Hinton aan BBC Newsnight in een interview dat dinsdag werd vrijgegeven en eerder deze maand werd opgenomen.
Hinton, die hielp bij het pionieren van de neurale netwerken die ten grondslag liggen aan de moderne kunstmatige intelligentie, is een van de meest uitgesproken critici op dit gebied geworden naarmate AI-systemen krachtiger en wijdverbreider worden.
Hij heeft voorspeld dat AI zou kunnen triggeren wijdverbreid banenverliesbrandstof sociale onrusten uiteindelijk mensen te slim af zijn – en heeft gezegd dat onderzoekers zich meer moeten concentreren op de manier waarop geavanceerde systemen worden getraind, en er onder meer voor moeten zorgen dat ze zijn ontworpen om menselijke belangen beschermen.
Op BBC Newsnight zei Hinton dat de mensheid een cruciaal moment nadert nu onderzoekers dichter bij het bouwen van machines komen die intelligenter zijn dan mensen.
“We zijn nog nooit in deze situatie geweest waarin we dingen konden produceren die intelligenter zijn dan wijzelf,” zei Hinton, eraan toevoegend dat veel experts geloven dat AI de menselijke intelligentie binnen de komende twintig jaar zal overtreffen – en dat op veel gebieden al is gebeurd. Als dat eenmaal gebeurt, zegt hij, kan het controleren van dergelijke systemen veel moeilijker worden dan velen denken.
“Het idee dat je het gewoon zou kunnen uitschakelen, zal niet werken”, zei Hinton, en voegde daar voldoende aan toe geavanceerde AI zou mensen ervan kunnen overtuigen het niet te sluiten.
Hinton zei dat de grootste fout die de mensheid nu zou kunnen maken, zou zijn dat ze niet zou investeren in onderzoek naar hoe mensen kunnen samenleven met de intelligente systemen die ze hebben gecreëerd.
‘Als we ze zo creëren dat ze zich niets van ons aantrekken,’ waarschuwde hij, ‘zullen ze ons waarschijnlijk wegvagen.’
Hij suggereerde dat catastrofale gevolgen niet onvermijdelijk zijn, en zei dat de risico’s afhangen van hoe geavanceerde systemen worden ontworpen en bestuurd en dat mensen nog steeds “veel opties hebben om deze te creëren”, terwijl AI nog in ontwikkeling is.
Waarom het reguleren van AI moeilijker dan ooit kan zijn
Toch uitte Hinton ook zijn bezorgdheid over het feit dat AI wordt ontketend in een tijd waarin de mondiale samenwerking verzwakt en autoritaire politiek in opkomst is. regelgeving moeilijker te realiseren.
Hij vergeleek de behoefte aan AI-governance met internationale overeenkomsten over chemische en kernwapens.
Ondanks zijn zorgen zei Hinton dat hij zijn werk op het gebied van AI niet ongedaan zou maken.
“Zonder mij zou het ontwikkeld zijn”, zei hij. “Ik denk niet dat ik beslissingen heb genomen die ik niet op dezelfde manier zou nemen als ik dezelfde kennis had.”
Hij blijft hoopvol over het potentieel van AI om het onderwijs en de geneeskunde te verbeteren, waarbij hij AI-docenten en de vooruitgang op het gebied van medische beeldvorming als voorbeelden van de belofte ervan noemt. Maar voorlopig, zegt Hinton, is urgentie van het allergrootste belang.
‘We bevinden ons op een heel cruciaal punt in de geschiedenis waarop we vrij snel dingen gaan ontwikkelen die intelligenter zijn dan wijzelf’, zei hij. “We hebben nog geen onderzoek gedaan om erachter te komen of we vreedzaam met hen kunnen samenleven. Het is van cruciaal belang dat we dat onderzoek doen.”
