TNO: ‘Betere zwarte doos nodig voor zelfrijdende auto’
TNO komt met een aantal aanbevelingen aan de Europese Commissie over welke aanvullende relevante informatie zou moeten worden opgeslagen in de Event Data Recorder (EDR) van zelfrijdende voertuigen. Dat meldt de onderzoeksorganisatie. In de meeste gevallen wordt namelijk alleen sensorische observatie-data opgeslagen in de zwarte doos, zoals de snelheid en richting van het voertuig. Volgens TNO zegt de informatie in de huidige EDR’s nog niets over hoe de observaties door het voertuig zijn gebruikt om een beslissing te nemen. Ook is van belang om te weten of de besloten actie ook daadwerkelijk en correct is uitgevoerd. Zelfrijdende auto’s moeten ook achteraf hun rijgedrag kunnen uitleggen.
Voorkomen van ongevallen
De organisatie stelt dat zelfrijdende voertuigen veiliger zijn dan voertuigen met bestuurders, maar dat ongevallen desondanks niet kunnen worden uitgesloten. Om de oorzaak en aansprakelijkheid van zulke ongevallen te kunnen vaststellen, is meer informatie nodig uit de zwarte doos over de omstandigheden, de gevolgde procedures en keuzes die de AI-systemen hebben gemaakt. Volgens TNO moet aan de hand van de data uit de recorder alle relevante gebeurtenissen kunnen worden beoordeeld, inclusief observatie, verwerking, prestaties en context.
Ook zou achterhaald moeten kunnen worden of de systemen juist en naar behoren zijn gebruikt. Hier is bijvoorbeeld informatie nodig, zoals het versienummer van software en de gebruikte datasets voor het trainen en testen van AI-componenten, zodat ook duidelijk is of de systemen op de juiste manier zijn getest. Het instituut zegt dat de data niet alleen belangrijk is om vragen te kunnen beantwoorden rondom aansprakelijkheid, maar vooral ook om ongevallen te voorkomen.Dariu Gavrila, expert op het gebied van zelfrijdende auto’s, geeft zijn visie op dit onderwerp tijdens de Automotive Collision Experience.
In het advies zegt TNO ook dat rekening moet worden gehouden met de kosteneffectiviteit van de implementatie van de EDR’s. Volgens het instituut is ook betere regelgeving nodig, omdat veel aspecten rondom data-eigendom en privacy nog onduidelijk zijn. Het Verbond van Verzekeraars drong vorig jaar nog aan op een verplichte zwarte doos in elke auto zodat de oorzaak van ongevallen beter is vast te stellen.
