Waarom bedrijven geen AV-ongevalgegevens delen – en hoe ze dat wel zouden kunnen doen

Anton Grabolle / Autonoom rijden / Onder licentie van CC-BY 4.0

Door Susan Kelley

Autonome voertuigen (AV’s) worden al tientallen jaren getest als taxi’s in San Francisco, Pittsburgh en de rest van de wereld, en vrachtwagenbedrijven hebben enorme prikkels om ze te adopteren.

Maar AV-bedrijven delen zelden de crash- en veiligheidsgerelateerde gegevens die cruciaal zijn voor het verbeteren van de veiligheid van hun voertuigen – vooral omdat ze daar weinig prikkels voor hebben.

Zijn AV-veiligheidsgegevens het intellectuele bezit van een autobedrijf of een publiek goed? Het kan beide zijn – met een beetje aanpassingen, aldus een team van Cornell-onderzoekers.

Het team heeft een routekaart opgesteld waarin de barrières en kansen worden geschetst om AV-bedrijven aan te moedigen de gegevens te delen om AV’s veiliger te maken, van het ontwarren van publieke versus private datakennis tot regelgeving en het creëren van stimuleringsprogramma’s.

“De kern van de concurrentie op de AV-markt is wie die crashgegevens heeft, want zodra je die gegevens hebt, is het veel gemakkelijker voor je om je AI te trainen om die fout niet te maken. De hoop is om deze gegevens eerst transparant te maken en ze vervolgens te gebruiken voor het algemeen belang, en niet alleen voor winst”, zegt Hauke Sandhaus, MS ’24, een promovendus bij Cornell Tech en co-auteur van “My Precious Crash Data”, gepubliceerd op 16 oktober in ACM over Human-Computer Interaction en gepresenteerd op de ACM SIGCHI-conferentie over computerondersteund coöperatief werk en sociaal computergebruik.

Zijn co-auteurs zijn Qian Yang, assistent-professor aan het Cornell Ann S. Bowers College of Computing and Information Science; Wendy Ju, universitair hoofddocent informatica en ontwerptechnologie bij Cornell Tech, het Cornell Ann S. Bowers College of Computing and Information Science en het Jacobs Technion-Cornell Institute; en Angel Hsing-Chi Hwang, een voormalig postdoctoraal medewerker bij Cornell en nu assistent-professor communicatie aan de University of Southern California, Annenberg.

Het team interviewde twaalf medewerkers van AV-bedrijven die zich bezighouden met veiligheid bij AV-ontwerp en -implementatie, om inzicht te krijgen in de manier waarop zij momenteel veiligheidsgegevens beheren en delen, met welke uitdagingen en zorgen ze worden geconfronteerd bij het delen van gegevens, en wat hun ideale praktijken voor het delen van gegevens zijn.

Uit de interviews bleek dat de AV-bedrijven een verrassende diversiteit aan benaderingen hebben, zei Sandhaus. “Iedereen beschikt echt over een niche-dataset van eigen bodem, en er is niet echt veel gedeelde kennis tussen deze bedrijven”, zei hij. “Ik had verwacht dat er veel meer gemeenschappelijkheid zou zijn.”

Het onderzoeksteam ontdekte twee belangrijke belemmeringen voor het delen van gegevens – die beide een gebrek aan prikkels onderstrepen. Ten eerste bevatten de crash- en veiligheidsgegevens informatie over de machine learning-modellen en infrastructuur die het bedrijf gebruikt om de veiligheid te verbeteren. “Het delen van gegevens, zelfs binnen een bedrijf, is politiek en beladen”, schreef het team in de krant. Ten tweede waren de geïnterviewden van mening dat AV-veiligheidskennis privé is en hun bedrijf een concurrentievoordeel oplevert. “Dit perspectief brengt hen ertoe veiligheidskennis, ingebed in data, te zien als een omstreden ruimte in plaats van publieke kennis voor sociaal welzijn”, schreef het team.

En Amerikaanse en Europese regelgeving helpen niet. Ze hebben alleen informatie nodig, zoals de maand waarin het ongeval plaatsvond, de fabrikant en of er gewonden waren. Dat houdt geen rekening met de onderliggende onverwachte factoren die vaak ongelukken veroorzaken, zoals een persoon die plotseling de straat op rent, bestuurders die de verkeersregels overtreden, extreme weersomstandigheden of verloren vracht die de weg blokkeert.

Om meer gegevensuitwisseling aan te moedigen, is het van cruciaal belang om veiligheidskennis te ontwarren van bedrijfseigen gegevens, aldus de onderzoekers. AV-bedrijven zouden bijvoorbeeld informatie over het ongeval kunnen delen, maar geen onbewerkte videobeelden die de technische infrastructuur van het bedrijf zouden onthullen.

Bedrijven zouden ook met ‘examenvragen’ kunnen komen waar AV’s aan moeten voldoen om de weg op te gaan. “Als je voetgangers van de ene kant hebt en voertuigen van de andere kant, dan kun je dat gebruiken als testcase waar andere AV’s ook langs moeten”, aldus Sandhaus.

Academische instellingen zouden kunnen optreden als data-intermediairs waarmee AV-bedrijven strategische samenwerkingen kunnen aangaan. Onafhankelijke onderzoeksinstellingen en andere maatschappelijke organisaties hebben precedenten geschapen door gebruik te maken van de publieke kennis van industriële partners. “Er zijn regelingen, samenwerkingen en patronen voor het hoger onderwijs om hieraan bij te dragen zonder noodzakelijkerwijs de hele dataset openbaar te maken,” zei Qian.

Het team stelt ook voor om de AV-veiligheidsbeoordeling te standaardiseren via effectievere overheidsregels. Een federaal beleidsagentschap zou bijvoorbeeld een virtuele stad kunnen creëren als proeftuin, met drukke verkeerskruispunten en wegen waar veel voetgangers komen waar elk AV-algoritme doorheen zou moeten kunnen navigeren, zei ze.

Federale toezichthouders zouden autobedrijven kunnen aanmoedigen om scenario’s aan de testomgeving bij te dragen. “De AV-bedrijven zouden kunnen zeggen: ‘Ik wil mijn testcases daar neerzetten, omdat mijn auto die tests waarschijnlijk heeft doorstaan.’ Dat kan een mechanisme zijn om de ontwikkeling van veiligere voertuigen aan te moedigen,’ zei Yang. “Het voorstellen van beleidsveranderingen voelt altijd een beetje afstandelijk, maar ik denk wel dat er op dit gebied beleidsoplossingen voor de nabije toekomst bestaan.”

Het onderzoek werd gefinancierd door de National Science Foundation en Schmidt Sciences.