Op 23 januari, buiten een basisschool in Santa Monica, Californië, een Waymo-voertuig raakte een kind.
Dat is wat wij zeker weten.
Het klinkt schokkend, angstaanjagend zelfs. En het geeft al genoeg groepen dekking om dat Californië te eisen Waymo’s licentie intrekken om zijn auto’s te besturen.
Maar de details zijn belangrijk. En als je eenmaal een beetje begint te graven, is de enge kop over een kind dat wordt neergeslagen door een harteloze robot duidelijk niet het hele verhaal.
In feite bieden dit soort ongelukken een lens waardoor het rijgedrag van zowel mensen als robots kan worden verbeterd en zelfs levens kunnen worden gered.
Hard remmen
De details van het incident in Santa Monica komen nog steeds naar buiten. Zoals bij elk mogelijk veiligheidsincident waarbij een zelfrijdende auto betrokken is, de National Highway Transportation Safety Administration doet actief onderzoek.
Dat onderzoek – en ook een vrijwillige verklaring van Waymo– onthult al heel wat nuance.
Het lijkt erop dat het incident plaatsvond tijdens het afleveren van de SoCal-school. Een Waymo-voertuig lijkt te hebben gereden tussen voertuigen van ouders die hun kinderen afleverden.
Zoals vaak gebeurt tijdens stressvolle schooluitval (ik heb drie kinderen, dus geloof me, ik weet het!), stond er een grote SUV dubbel geparkeerd en blokkeerde een deel van de rijbaan.
Toen de Waymo de dubbel geparkeerde SUV naderde, rende een kind van achter de SUV de rijbaan op, direct voor de Waymo.
Het volgende stukje is cruciaal. Waymo zegt dat zijn voertuig “… hard remde, waardoor de snelheid werd verlaagd van ongeveer 27 km/uur naar minder dan 10 km/uur voordat er contact werd gemaakt.”
Waymo specificeert niet om welke exacte afstanden het gaat. Maar als je in een fractie van een seconde 18 km/u afrijdt, betekent dit dat je op de rem moet trappen, en niet dat je zachtjes moet vertragen. Het is een agressieve zet. En het kan heel goed een leven hebben gered.
Waymo zegt dat – omdat het voertuig slechts 10 km/uur reed toen het contact maakte met het kind – “de voetganger onmiddellijk opstond” en “op eigen kracht naar het trottoir liep”.
Waymo belde 911 en meldde het incident bij de autoriteiten. Het bedrijf zei aanvankelijk dat het kind “lichte verwondingen” opliep, maar het is niet duidelijk welke verwondingen daadwerkelijk zijn opgetreden.
Het probleem met mensen
Voor alle duidelijkheid: elke keer dat een kind wordt aangereden door een auto, is het een vreselijk incident. Het is goed dat de NHTSA onderzoek doet. Als ouder leef ik mee met de betrokken ouders: het moet angstaanjagend zijn om te zien dat je kind door een voertuig wordt aangereden.
Maar voordat er bredere conclusies worden getrokken over de veiligheid van zelfrijdende auto’s, is het belangrijk om na te denken over de vraag: “Zou een menselijke bestuurder deze situatie beter hebben aangepakt?”
SafeKids, een belangenorganisatie, meldt dat tussen 2013 en 2022 bijna 200 schoolgaande kinderen kwamen om bij ongevallen in schoolzones.
En dat zijn alleen maar kinderen. Slechts enkele dagen voor het Waymo-incident, twee ouders kwamen om op een zebrapad nadat ze hun kind hadden afgezet bij een andere school in Californië.
Waarom sterven zoveel mensen op weg naar school? Snelheid en afleiding zijn de twee grootste factoren.
Dat meldt SafeKids Maar liefst 10% van de automobilisten wordt afgeleid tijdens het rijden in schoolzones, meestal via telefoons en andere apparaten.
3% van de door de groep geobserveerde automobilisten werd zelfs gezien tegelijkertijd twee apparaten gebruiken– misschien aan het prutsen met een Bluetooth-headset terwijl ze ook proberen hun kind via hun mobiele telefoon aan te melden voor school.
En de meeste schoolzones, zo meldt de groep, hebben snelheidslimieten die veel te hoog zijn; onder de 32 km/uur is ideaal, maar de meeste zijn 40 km/uur+
In ieder geval niet dat automobilisten deze volgen; andere gegevens tonen dat aan Wanneer automobilisten kinderen in schoolzones aanrijden, rijden ze gemiddeld 44 kilometer per uur.
Menselijke bestuurders maken met andere woorden talloze fouten. Vooral met de stress van het verkeer en de druk om de gevreesde ‘late pass’ te vermijden, is het voor ouders maar al te gemakkelijk om te hard te rijden en hun ogen van de weg te halen tijdens het afzetten.
Helaas, als er kinderen bij betrokken zijn – met hun neiging om de weg op te rennen, zoals gebeurde in Santa Monica – betekent die combinatie van snelheid en afleiding dat mensen sterven.
Erger met een persoon?
Opnieuw roept dat, in de context van Waymo’s incident, de vraag op of een persoon het beter zou hebben gedaan dan een AI-aangedreven robot.
Laten we even aannemen dat er een mens achter het stuur van het voertuig zat in Santa Monica. Wat zou er anders kunnen zijn gegaan?
De gemiddelde menselijke reactietijd tijdens het autorijden is ongeveer ¾ van een seconde. Toen het kind de weg op schoot, betekent dit dat hun auto – met een snelheid van 27 km/uur – ongeveer 6 meter zou hebben afgelegd voordat de bestuurder zelfs maar de aanwezigheid van een voetganger zou hebben opgemerkt.
Misschien hadden ze meteen op de rem getrapt. Maar dat zegt de NHTSA zelf de meeste mensen niet. Of het nu door een verrassing komt of simpelweg door een vertraging in de verwerking, chauffeurs remmen voortdurend te weinig, zelfs bij potentieel dodelijke ongelukken.
Met een persoon achter het stuur is het dus waarschijnlijk dat het kind in Santa Monica met een veel hogere snelheid zou zijn aangereden.
Waymo zegt dat zijn eigen onafhankelijke modellen laten zien dat “een volledig oplettende menselijke bestuurder in dezelfde situatie contact zou hebben gemaakt met de voetganger met een snelheid van ongeveer 22 kilometer per uur.”
En nogmaals: de meeste chauffeurs in schoolzones zijn niet “volledig oplettend”. Zoals SafeKids opmerkt, zijn ze afgeleid, haasten ze zich en rijden ze te hard.
Waymos zijn op geen enkele manier perfect. Maar zij volg consequent de snelheidslimieten, soms tot een fout.
En omdat ze voortdurend de weg scannen, reageren ze sneller dan mensen en trappen ze hard op de rem als ze iets zien zelfs op afstand zorgwekkend. Ze controleren nooit hun telefoons of probeer te scheren terwijl hij passagiers rondvoert.
Wanneer 5.000 robots een kind uitrusten, bestaat er een natuurlijke menselijke neiging om de robot te belasteren. Maar in dit specifieke geval is de vraag of iemand het beter had kunnen doen verre van duidelijk.
Optimaliseren voor veiligheid
Dat betekent niet dat we autonome voertuigen moeten kruisigen, en ook niet dat we ze vrij moeten laten.
Het onderzoek van de NHTSA zal waarschijnlijk niet neerkomen op de vraag of Waymo bij dit incident beter presteerde dan een mens, maar eerder op de vraag of zelfrijdende auto’s meer zouden kunnen doen om kinderen veilig te houden in de buurt van scholen.
NHTSA zegt dat het specifiek onderzoekt “of de Waymo AV de nodige voorzichtigheid heeft betracht, onder meer gezien de nabijheid van de basisschool tijdens de drop-off uren, en de aanwezigheid van jonge voetgangers en andere potentieel kwetsbare weggebruikers.”
Gegeven het feit dat Waymos kan worden geprogrammeerd om zich onder specifieke omstandigheden op een bepaalde manier te gedragen – en dat ook consequent zal doen zodra de parameters zijn ingesteld – bieden ze een unieke kans om nog hogere veiligheidsnormen te stellen dan we voor mensen hanteren.
Nogmaals, SafeKids zegt dat de meeste schoolzones snelheidslimieten hebben boven het ideaal van 32 km/uur. Er is echter geen reden dat Waymo hun auto’s niet zou kunnen programmeren om consequent met een lagere snelheid te rijden wanneer ze zich in een schoolzone bevinden tijdens de ophaal- of afzettijden.
Misschien zou Waymos altijd 25 km/uur kunnen rijden als hij door een actieve schoolzone rijdt.
Dat zou de ouders die langs de ophaallijn moeten navigeren, kunnen irriteren, maar het zou kinderen veiliger houden in het geval van een ongeluk. Waymos nabij scholen zouden zelfs als verhuis kunnen dienen “verkeersremmend” apparaten, waardoor afgeleide, ongeduldige menselijke bestuurders achter hen ook langzamer moeten gaan rijden!
Op dezelfde manier zou Waymo parameters kunnen instellen die hun voertuigen instrueren om te vertragen tot een kruipsnelheid wanneer ze een dubbel geparkeerde auto nabij een school naderen. SafeKids noemt dubbel parkeren specifiek als grote risicofactor voor ongevallen nabij scholen.
Gelukkig – of het nu door het ingenieuze rijgedrag van Waymo (volgens het bedrijf) of door dom geluk – eindigde dit incident toen een kind levend wegliep. Maar dat is geen reden om te ontkennen wat er is gebeurd.
In plaats daarvan bieden incidenten als deze een unieke kans om maatschappelijke regels te definiëren voor uitdagende omstandigheden, zoals het rijden in de buurt van kinderen – en deze vervolgens te programmeren in een machine die (in tegenstelling tot mensen) deze daadwerkelijk zal volgen.
Het stellen van de lastige vragen die nodig zijn om die richtlijnen vast te stellen – en de realiteit vast te houden dat enge incidenten ook leerervaringen zijn – is een stuk moeilijker dan eenvoudigweg de robots de schuld geven en terugkeren naar de door mensen aangedreven status quo.
Maar omdat er elk jaar kinderen sterven in schoolgebieden, is het leren van de juiste lessen uit dit soort ongelukken absoluut cruciaal – zelfs levensreddend.
