Ik denk dat het product een diepgaand democratiserend effect heeft. In theorie zou een kind dat in een provinciestad op het platteland van Brazilië zit, dezelfde responsieve interactie met de Efekta AI-leraar moeten kunnen krijgen als iemand die in Mayfair woont.
Gaat er iets verloren door de introductie van AI in het klaslokaal? Zullen we eindigen met een generatie studenten die chatbots als kruk gebruiken – om essays op te stellen, problemen op te lossen, enzovoort?
Dat zullen ze toch doen. Het is zinloos om AI uit scholen te weren. Het gaat erom hoe je AI in het onderwijs integreert. Slechte leraren zullen het slecht gebruiken, en goede leraren zullen het heel goed gebruiken, net zoals ze dat deden met whiteboards en rekenmachines.
Maar we hebben het over een meer fundamentele verandering. Ik vraag wat het zou kunnen betekenen als studenten geen fundamentele vaardigheden ontwikkelen.
Als je teruggaat naar de tijd waarin rekenmachines werden uitgevonden, (dachten mensen dat) kinderen nooit hoofdrekenen zouden kunnen doen. Maar dat bleek niet het geval te zijn. Het zal uiteraard effect hebben. Maar ik denk dat het netto-effect positief moet zijn in termen van onderwijsprestaties.
Kinderen zijn waarschijnlijk bijzonder kwetsbaar voor de gevaren die aan chatbots verbonden zijn. Hoe denkt u over die risico’s?
Natuurlijk zijn er gevaren – vooral kwetsbare volwassenen en kinderen die emotioneel afhankelijk worden en investeren in een relatie met iets dat een avatar, mensachtige aanwezigheid in hun leven heeft.
Op maatschappelijk niveau moeten we een zeer voorzorgsaanpak hanteren. Ik denk dat je een duidelijke leeftijdsgrens moet hebben over hoe agentische AI’s beschikbaar worden gesteld aan jongeren.
Zoals het Australische verbod op sociale media voor jongeren onder de 16 jaar?
Het heeft geen zin om een verbod in te stellen als je de leeftijd van mensen niet kunt meten. Dat is waar beleidsmakers zich haasten om de krantenkoppen over verboden te lezen en niet goed nadenken over de behoorlijk moeilijke dingen. Tenzij je wilt dat al deze platforms de paspoortgegevens van iedereen bewaren? Mijn mening is al lange tijd dat de enige manier om dat te doen is via de knelpunten van iOS en Android, op (app store) niveau.
Maar in principe denk ik dat je een vergelijkbare voorzorgsaanpak moet volgen. De gevoeligheid om zeer emotioneel geïnvesteerd te raken in en misschien overmatig beïnvloed te worden door uw relatie met een vriendelijke, geduldige, 24-uurs stem die de hele tijd naar u luistert, is zeer reëel.
Ik denk echter dat het helemaal geen risico is met het soort producten dat Efekta produceert.
Ook al neemt de AI letterlijk de rol van leraar op zich?
Nou nee, want dat is het niet. Deze agentische AI’s geproduceerd door bedrijven als Efekta zullen geen soort van heimelijke middernachtrelatie hebben waarin ze allerlei gruwelijke dingen tegen een leerling zeggen. Het is een door de leraar gecontroleerde ervaring.
Je hebt bijna zeven jaar bij Meta doorgebracht. In die tijd werd AI de grensverleggende technologie. Ik ben benieuwd hoe jouw ervaring bij Meta jouw kijk op de kansen, de risico’s en de grenzen van AI – en de zoektocht naar superintelligentie – heeft gekleurd.
Als je aan drie mensen bij dezelfde organisatie vraagt wat superintelligentie is, krijg je drie verschillende antwoorden. Ik krijg de indruk dat iedereen in Silicon Valley moet zeggen dat ze binnen handbereik zijn van kunstmatige algemene intelligentie of superintelligentie, omdat dat de manier is om de beste datawetenschappers aan te trekken. Ik vind het moeilijk om met zo’n vaag concept te worstelen.
