Elke zelf rijdende auto zou een zwarte doos moeten krijgen. Dat adviseert onderzoeksbureau TNO. Bij ongelukken kan een zwarte doos duidelijk maken wat de omstandigheden waren, welke informatie de auto kreeg en welke keuzes de computers aan boord vervolgens hebben gemaakt. Zulke gegevens kunnen helpen om ongevallen in de toekomst te voorkomen.
TNO wil dat er regels komen voor de zwarte dozen, officieel ‘Event Data Recorders’ genaamd (EDR’s), voordat zelf rijdende auto’s overal gaan rondrijden. Die regels moeten ook de privacy van autobezitters en passagiers beschermen. TNO heeft het advies uitgebracht aan de Europese Commissie. Het onderzoek is uitgevoerd samen met collega-instellingen VVA en SSSA uit Italië.
Hoewel zelf rijdende auto’s veel veiliger kunnen zijn dan voertuigen met menselijke bestuurders, kunnen verkeersongevallen door zelf rijdende exemplaren niet volledig worden uitgesloten. In de nasleep van een ongeval moeten veel vragen worden beantwoord om aansprakelijkheidskwesties te kunnen beantwoorden. Maar het is waarschijnlijk nog belangrijker om van deze situatie te leren om ongevallen in de toekomst te voorkomen. Hiervoor is veel informatie nodig over de omstandigheden en zowel de gevolgde procedures als de ‘keuzes’ van het voertuig. Dat alles kan worden vastgelegd in EDR’s, in de volksmond bekend als zwarte dozen.
Om zeker te stellen dat de benodigde feiten beschikbaar zijn voor alle relevante partijen, moeten het gebruik en de exacte specificatie van een EDR in wet & regelgeving worden vastgelegd; bij voorkeur nog voordat zelf rijdende auto’s de weg op gaan. Zwarte dozen worden al veel gebruikt in voertuigen. In de meeste gevallen wordt echter alleen basale (sensorische) observatie-informatie opgeslagen zoals de snelheid en richting van het voertuig.
TNO heeft voor de Europese Commissie zoals gezegd aanbevelingen geformuleerd omtrent welke aanvullende informatie moet worden opgeslagen in een EDR. Dit met als doel om de volledige keten van gebeurtenissen te kunnen beoordelen, inclusief observatie, verwerking, prestaties en context. Daarnaast moet aanvullende informatie helpen om te achterhalen of het systeem naar behoren is getest en in de juiste omstandigheden is gebruikt. Hierbij kan gedacht worden aan informatie als het versienummer van de software en de gebruikte datasets voor het trainen en testen van de op kunstmatige intelligentie (Artificial Intelligence; AI) gebaseerde componenten.
Zelf rijdende auto’s kunnen met AI razend goed patronen herkennen uit de waargenomen informatie en die aan acties koppelen. Ze moeten daarnaast ook afwegingen kunnen maken over de wereld om hen heen, inclusief onder andere wettelijke en ethische kaders. Ze moeten dus, ook achteraf, over zichzelf kunnen redeneren en hun gedrag kunnen uitleggen. Dit vereist denkvermogen. De informatie in de huidige generatieversie van de EDR vertelt ons nog niets over hoe de observaties door het voertuig zijn gebruikt om een beslissing te nemen. Daarnaast is het ook van belang om te weten of de actie waartoe besloten is ook daadwerkelijk en correct is uitgevoerd.
In het advies van TNO komt ook naar voren dat in toekomstige wetgeving voor de EDR rekening moet worden gehouden met de kosteneffectiviteit van de implementatie van dergelijke zwarte dozen. Buitengewoon hoge eisen stellen aan de hoeveelheid en het type gegevens dat moet worden verzameld, kan een toekomstige ontwikkeling belemmeren. Ook zijn veel aspecten rond data-eigendom en privacy nog steeds onduidelijk. Betere regelgeving is daarom vereist, waarbij niet alleen de privacy van de eigenaar, maar met name ook die van de gebruiker en de inzittenden van het voertuig centraal moeten staan.