Een nieuw onderzoek van senator Ed Markey heeft zich gericht op de menselijke stafmedewerkers die achter de schermen opereren bij zelfrijdende autobedrijven zoals Waymo, Tesla en Zoox. Hoewel veel van deze bedrijven benadrukken dat ze de meeste aspecten van het autorijden willen automatiseren, zijn ze nog steeds afhankelijk van mensen om deze auto’s te helpen wanneer hun software in verwarrende situaties terechtkomt of faalt.
Het onderzoek begon begin februari en werd geleid door Markey, die bijzondere belangstelling heeft getoond voor de zelfrijdende auto-industrie. Het onderzoek omvatte het sturen van brieven naar zeven bedrijven die aan autonome voertuigen werken – Aurora, May Mobility, Motional, Nuro, Tesla, Waymo en Zoox – en het stellen van gedetailleerde vragen over wanneer en hoe zij menselijke afstandsbedieningen of assistenten inzetten.
Geen van de zeven bedrijven waarmee Markey’s kantoor contact opnam, was bereid te vertellen hoe vaak menselijke stafmedewerkers hun autonome voertuigen moeten helpen zichzelf te heroriënteren, zo bleek uit het onderzoek van Markey. Uit het onderzoek van het bureau bleek ook dat Waymo het enige autonome voertuigbedrijf is dat afhankelijk is van medewerkers van buiten de VS om het rijsysteem te ondersteunen, en dat het het enige bedrijf is dat een groot deel van de werknemers in dienst heeft die deze rol vervullen zonder in het bezit te zijn van een Amerikaans rijbewijs.
“Mijn onderzoek bracht een breed scala aan zorgwekkende praktijken aan het licht,” zei Markey in een verklaring, “van werknemers die voertuigen uit het buitenland assisteren tot grote verschillen in de vertragingstijden van de communicatie tussen voertuigen en menselijke operators.”
Het gebruik van voertuigassistenten op afstand roept verschillende zorgen op, waaronder vragen over de latentie en het gebrek aan consistente normen in de opkomende zelfrijdende industrie. Een ander punt van zorg is de vermoeidheid van operators op afstand en het risico dat zij een robotaxi kunnen misleiden of gevaarlijk gedrag kunnen laten vertonen. Stadsbestuurders in steden als San Francisco maken zich ook zorgen over ongeplande stops en de impact daarvan op het lokale verkeer en noodoperaties.
Een recente Snel bedrijf onderzoekwaarin tientallen rapporten van openbaarvervoerbedrijven in San Francisco werden geanalyseerd, benadrukte ook de bezorgdheid over de kwaliteit van de callcenters die door overheidsfunctionarissen worden gebruikt om deze bedrijven te bereiken, inclusief externe teams die geacht worden te reageren op noodsituaties, wanneer hun technologie een probleem heeft. De Snel bedrijf Onderzoek bracht ook het probleem van ongeplande stops aan het licht, waarvoor een Waymo-afstandsbediening, iemand van het evenementenresponsteam van het bedrijf of zelfs een eerstehulpverlener van de stad nodig kan zijn om in te grijpen.
Belangrijk is dat deze bedrijven vaak benadrukken dat hun software niet is ontworpen voor bediening van voertuigen op afstand. In plaats daarvan beweren bedrijven dat teams voor hulp op afstand eenvoudigweg software adviseren, en ze benadrukken dat dit voor voertuigen mogelijk is negeren context of suggesties van externe teams. In hun brieven aan het kantoor van Markey, die de basis vormden van het onderzoek, verdedigden velen hun benadering van operaties op afstand, of gingen zij terug op Markey’s karakterisering van de risico’s.
Toch schreef Markey dinsdag aan de National Highway Traffic Safety Administration (NHTSA) waarin hij er bij de dienst op aandrong een verder onderzoek in te stellen. In zijn brief erkende Markey dat operators op afstand inderdaad AV’s kunnen helpen veilig te werken, maar dat ze onvoldoende toezicht en waarborgen ontberen. “Deze resultaten laten een industrie zien die zeer ondoorzichtig is over haar afhankelijkheid van menselijke operators, die resistent is tegen zinvolle verantwoordelijkheid en die dringend behoefte heeft aan federaal toezicht”, schreef hij, verwijzend naar zijn onderzoek.
Hij is van plan binnenkort wetgeving voor te stellen die zich richt op de menselijke operators die betrokken zijn bij de zelfrijdende auto-industrie. Markey was eerder mede-sponsor van wetsvoorstellen die zouden beperken waar zelfrijdende auto’s kunnen opereren, en bekritiseerde deze bedrijven tijdens een recente hoorzitting over autonome voertuigen.
