Zijn zelfrijdende voertuigen Eigenlijk alleen maar grote, op afstand bestuurbare auto’s, met naamloze en gezichtsloze mensen in afgelegen callcenters die de dingen van achter consoles besturen? Zoals de voertuigen en hun sciencefictionachtige software zich naar meer steden uitbreidt, is de complottheorie rond groepschats en TikToks omhooggeschoten. Het wordt gedeeltelijk aangedreven door de onwil van zelfrijdende autobedrijven om in details te praten over de mensen die helpen hun robots te laten rijden.
Maar deze maand blijkt uit overheidsdocumenten die zijn ingediend door dochteronderneming van Alphabet Waymo en fabrikant van elektrische auto’s Teslahebben de bedrijven meer details onthuld over de mensen en programma’s die de voertuigen helpen wanneer hun software in de war raakt.
De details van de ‘hulp op afstand’-programma’s van deze bedrijven zijn belangrijk omdat de mensen die de robots ondersteunen van cruciaal belang zijn om ervoor te zorgen dat de auto’s veilig op de openbare weg rijden, zeggen experts uit de sector. Zelfs robotaxis die meestal soepel werken, komen in situaties terecht die hun zelfrijdende systemen verwarrend vinden. Zie bijvoorbeeld a Stroomstoring in december in San Francisco waarbij de stoplichten rond de stad omkwamen, waardoor de verwarde Waymos op verschillende kruispunten strandde. Of de lopende regering sondes in verschillende gevallen waarin deze auto’s illegaal langs gestopte schoolbussen waaiden die studenten uitlaadden in Austin, Texas. (Dit laatste bracht Waymo ertoe een terugroepen van software.) Wanneer dit gebeurt, halen mensen de auto’s uit de file door ze van een afstand te sturen of te ‘adviseren’.
Deze banen zijn belangrijk omdat als mensen ze verkeerd doen, ze het verschil kunnen zijn tussen bijvoorbeeld een auto die voor rood licht stopt of doorrijdt. “In de nabije toekomst zullen er mensen zijn die een rol spelen in het gedrag van de voertuigen, en daarom een veiligheidsrol te spelen hebben”, zegt Philip Koopman, software- en veiligheidsonderzoeker voor autonome voertuigen aan de Carnegie Mellon University. Een van de grootste veiligheidsproblemen die gepaard gaan met zelfrijden, zegt hij, is het bouwen van software die weet wanneer hij om menselijke hulp moet vragen.
Met andere woorden: als je om de veiligheid van robots geeft, let dan op de mensen.
De mensen van Waymo
Waymo exploiteert een betaalde robotaxidienst in zes metropolen (Atlanta, Austin, Los Angeles, Phoenix en de San Francisco Bay Area) en heeft plannen om in minstens tien andere metropolen te lanceren. inclusief Londendit jaar. Nu, bij een blogpost En brief ingediend Aan de Amerikaanse senator Ed Markey heeft het bedrijf deze week meer aspecten openbaar gemaakt van wat het zijn programma voor ‘hulp op afstand’ (RA) noemt, waarbij externe medewerkers worden gebruikt om te reageren op verzoeken van Waymo’s voertuigsoftware wanneer het vaststelt dat het hulp nodig heeft. Deze mensen geven gegevens of advies aan de systemen, schrijft Ryan McNamara, Waymo’s vice-president en mondiaal hoofd operaties. Het systeem kan de informatie die mensen verstrekken, gebruiken of afwijzen.
“Waymo’s RA-agenten geven advies en ondersteuning aan de Waymo-chauffeur, maar besturen, besturen of besturen het voertuig niet rechtstreeks”, schrijft McNamara, waarmee hij impliciet de beschuldiging ontkent dat Waymos eenvoudigweg op afstand bestuurbare auto’s zijn. Er zijn op elk moment ongeveer 70 assistenten aanwezig om zo’n 3.000 robotaxis te monitoren, zegt het bedrijf. De lage verhouding geeft aan dat de auto’s een groot deel van het zware werk doen.
Waymo bevestigde in zijn brief ook wat een directeur eerder deze maand tijdens een hoorzitting aan het Congres vertelde: de helft van deze hulpverleners op afstand zijn contractanten in het buitenland, op de Filippijnen. (Het bedrijf zegt dat het nog twee andere kantoren voor hulp op afstand heeft in Arizona en Michigan.) Deze werknemers hebben een vergunning om in de Filippijnen te rijden, schrijft McNamara, maar zijn getraind in de Amerikaanse verkeersregels. Alle hulpverleners op afstand worden getest op drugs en alcohol wanneer ze worden aangenomen, zegt het bedrijf, en 45 procent wordt elke drie maanden op drugs getest als onderdeel van Waymo’s willekeurige testprogramma.
