Ontwerp systemen houdt te weinig rekening met falen technologie

Ongelukken ontstaan als mensen te weinig tijd hebben om een fout te corrigeren. De Hogeschool van Amsterdam doet onderzoek naar menselijk handelen in onverwachte situaties. Daaruit blijkt dat de meeste mensen minder snel handelen dan verwacht. “Mensen gaan er vanuit dat technologie werkt en negeren lang tekenen dat er iets fout zit.”

Fouten in systemen kunnen leiden tot ernstige ongelukken. Neem bijvoorbeeld de Stint die in september in botsing kwam met de trein of de zelfrijdende auto van Uber die begin dit jaar een voetganger doodreed in de Verenigde Staten. De voedingsbodem voor dit soort fouten ligt in de ontwerpfase van een product, meent Robert Jan de Boer, die onlangs afscheid nam als lector Aviation Engineering aan de Hogeschool van Amsterdam. “Er wordt aangenomen dat mensen ingrijpen als het fout gaat. Maar mensen gaan er vanuit dat technologie werkt en negeren lang tekenen dat er iets fout zit.”

Reactietijd

De Aviation Academy van de Hogeschool van Amsterdam doet sinds 2012 doorlopend onderzoek met piloten in een vliegsimulator. Het onderzoek laat zien dat de meeste piloten langer nodig hebben dan verwacht om te herkennen dat een systeem zijn werk niet doet. Doorgaans wordt er vanuit gegaan dat er binnen een minuut signalen worden opgepikt dat er iets mis is. Maar in werkelijkheid doet meer dan de helft er ruim vijf minuten over.

Schuld

En als iets fout gaat, krijgen mensen meestal de schuld. “Maar door het bestempelen van ongewenste uitkomsten als ‘menselijke fouten’ verbergen we de complexe, systematische factoren die daaraan ten grondslag liggen,” stelt De Boer. Eén daarvan is het ontwerp van de systemen zelf, zoals blijkt uit veldonderzoek in 2017.

Bij het ontwerp van systemen moet rekening worden houden met de context van de gebruikers. “We kunnen fouten beperken door meer tijd in te calculeren en opvallende foutmeldingen in systemen in te bouwen,” zegt De Boer. “Mensen hebben tijd nodig om in te grijpen als technologie faalt.”