Afgelopen weekend viel door een ernstige stroomstoring in San Francisco een aantal verkeerslichten uit, waardoor een aantal zelfrijdende Waymo-robotaxis in een soort fuga-toestand terechtkwam. In plaats van te rijden, reageerden sommige Waymo’s op deze nu analoge kruispunten door hun alarmlichten aan te zetten, het verkeer te blokkeren en, nou ja, niets te doen. Er waren meerdere voorbeelden van Waymo-auto’s die de wegen verstopten, waardoor futuristische technologie in verheerlijkte verkeerspalen veranderde. De stad vroeg het bedrijf snel om dat te doen uitschakelen de dienst.
Het directe probleem is opgelost: de stroom is weer ingeschakeld en de Waymo-dienst is sinds zondag in San Francisco hervat. Maar er blijven vragen hangen over de vraag of Waymo, of de stad, een plan had voor een relatief voorspelbaar soort gemeentelijke noodsituatie – een stroomstoring die communicatienetwerken overspoelt – of hoe ze zich nu aanpassen.
Eén van de grote oplossingen voor AI mislukkingen is het veelbesproken onderwerp mens in de lus. Het idee: op een bepaald punt in een geautomatiseerd proces – of het nu gaat om een screeningsysteem voor sollicitaties of krachtige algoritmen voor zelfrijdende auto’s – hebben mensen de mogelijkheid om in te grijpen en de moeilijke dingen op te lossen die kunstmatige intelligentie niet aankan. AI begrijpt niet elke complexe situatie, zo luidt de logica. Er zijn dus waarborgen ingebouwd in een systeem om ervoor te zorgen dat op een gegeven moment een echt levend persoon een geautomatiseerd systeem weer op het goede pad kan zetten.
Het probleem, zo recent Wat de gebeurtenissen hebben aangetoond, is dat deze mens-in-de-lus soms niet altijd de telefoon opneemt. Of kan niet.
Dit weekend moest een team voor assistentie op afstand de auto’s helpen navigeren wanneer ze in een verwarrende verkeerssituatie terechtkwamen, legt een woordvoerder van Waymo uit. Maar de netwerken waren overweldigd – vanwege de stroomstoring – waardoor het voor de Waymo Driver-software in sommige auto’s moeilijk was om verbinding te maken met dat team en bevestigingen te ontvangen.
Waymo-woordvoerder Ethan Teicher vertelt Snel bedrijf dat het bedrijf prioriteit geeft aan veiligheid en tests en zijn protocollen voor paraatheid bij noodsituaties en respons op regelmatige basis verfijnt. Hij verdedigt ook de reactie van het bedrijf op andere noodsituaties, waaronder orkaan Helene in Atlanta en eerdere tsunami-waarschuwingen in San Francisco.
“We streven naar voortdurende verbetering en we zullen de lessen van het weekend gebruiken om onze veerkracht te versterken, zelfs onder de meest uitdagende omstandigheden”, zegt Teicher. “Voordat we een stad binnenkomen, proberen we inzicht te krijgen in de soorten problemen die van invloed zijn op de regio.”
Waymo werkt samen met lokale functionarissen en eerstehulpverleners om de communicatielijnen open te houden, voegt hij eraan toe. “In het geval van een noodsituatie hebben we operationele controles die variëren van actieve routebepaling van voertuigen om bepaalde locaties te vermijden (bijvoorbeeld in het geval van overstromingen), tot vlootverminderingen of beperkingen zoals we dit weekend hebben ingevoerd als reactie op de wijdverbreide PG&E-stroomstoringen in de Bay Area”, zegt hij.
Het California Department of Motor Vehicles zegt dat het contact heeft gehad met de stad San Francisco over het incident, en dat haar functionarissen maandagochtend ook een ontmoeting hadden met Waymo. “De DMV zal de communicatie met Waymo voortzetten om bredere operationele plannen te bespreken, inclusief acties met betrekking tot noodhulp”, voegde een woordvoerder van het agentschap eraan toe.
Het incident herinnert ons eraan dat de auto’s weliswaar zelfrijdend zijn, maar niet altijd volledig onafhankelijk van de openbare infrastructuur, zoals communicatienetwerken, opereren.
Een belangrijke stelling van zelfrijdende autobedrijven is dat ze in het algemeen veel veiliger zullen opereren dan menselijke bestuurders. Autonome voertuigen maken ernstige fouten, maar dat geldt ook voor menselijke bestuurders. Belangrijk is dat er ook procedures zijn voor eerstehulpverleners die Waymo-robottaxi’s tegenkomen, inclusief manieren waarop de auto’s een team op afstand kunnen bellen wanneer het een interactie met de politie waarneemt, omdat Snel bedrijf eerder heeft gehad gemeld.
In dit geval lijkt het back-upplan voor een complexe rijsituatie echter daadwerkelijk te bestaan verergerd problemen. In ten minste één gemeld geval waren het blijkbaar de auto’s hulpvoertuigen geblokkeerd.
Cruise, het inmiddels gesloten zelfrijdende autobedrijf dat eigendom was van General Motors, bijvoorbeeld ook problemen gehad waarbij de auto’s in de war raken en het verkeer blokkeren vanwege problemen met draadloze verbindingen. Waymo heeft benadrukt dat zijn auto’s daar niet op vertrouwen continue draadloze verbinding opereren. Het bedrijf wil dat zijn auto’s kunnen werken met “de computer die aan boord is en zodat het beslissingen kan nemen, zonder afhankelijk te hoeven zijn van mobiele signalen en externe operators”, vertelde het eerder. Licht lezen.
Toch herinnert de stroomstoring eraan dat de auto’s, onder bepaalde omstandigheden, soms afhankelijk zijn van deze netwerken als ze extra hulp nodig hebben. Nu komt de vraag wat er gebeurt in de volgende stroomuitval, en of de stad – of Waymo – een plan had voor dit soort situaties.
De San Francisco Metropolitan Transportation Authority heeft niet gereageerd op een verzoek om commentaar. Terrie Prosper, die de externe communicatie verzorgt bij de California Public Utilities Commission, zegt dat het bureau op de hoogte was van de Waymo-storing en onderzoek deed naar ‘details’.
Zoals anderen al hebben opgemerkt, gaat dit niet alleen over San Francisco. Waymo is nu op verschillende plaatsen actief, waaronder misschien wel de grootste uitdaging tot nu toe: New York City, waar het zich in de eerste testfase bevindt.
Dat meldt het New York City Department of Transportation Snel bedrijf de stad had regelmatig contact met Waymo over de tests in sommige wijken en was op de hoogte van de storing in San Francisco. Een woordvoerder benadrukt dat de staatswet de aanwezigheid van een veiligheidschauffeur achter het stuur verplicht stelt, die bereid is het stuur over te nemen in geval van een black-out.
Waymos is ook in Austin verschenen en zal naar verwachting volledig in Dallas worden gelanceerd. Een woordvoerder van de stad Austin en een woordvoerder van de stad Dallas zeiden beiden dat hun regeringen niet in staat zijn om zelfrijdende auto’s te reguleren, volgens de staatswet. De staat Texas heeft niet gereageerd op een verzoek om commentaar.
“Terwijl de wet van Texas steden verbiedt om AV’s te reguleren, ook tijdens noodsituaties, werkt de stad Austin samen met alle AV-bedrijven aan de verwachtingen rond het weer en andere noodscenario’s”, zegt Jack Flager, een woordvoerder van de stad Austin. “Wanneer onze medewerkers met AV-bedrijven samenwerken aan de verwachtingen rond het weer en andere noodscenario’s, omvatten die verwachtingen onder meer dat AV’s begrijpen hoe ze op de juiste manier moeten reageren op barricades, overstromingswater en donkere of flitsende signalen.”
Wat New York betreft, vertelt Oren Barzilay, de president van de FDNY EMS Local 2507 Snel bedrijfzou een storing zoals die in San Francisco de responstijden voor noodgevallen vertragen. “We hebben al grote vertragingen door de huidige verkeersomstandigheden, dit zal het probleem alleen maar vergroten”, zegt Barzilay. “Het is een probleem voor de openbare veiligheid als onze bemanningen er niet in slagen om de slachtoffers tijdig te bereiken.”
