Wanneer is een DEDA-workshop een goed idee?
De directe aanleiding voor een DEDA-workshop is vaak een “onbestemd gevoel”. Van een bestuurder, een projectleider, een functionaris gegevensbescherming of een andere betrokkene. Bijvoorbeeld over de kwaliteit of de noodzaak van bepaalde databronnen, de betrouwbaarheid van de gebruikte technieken of de reactie van het grote publiek op een nieuwe werkwijze. Een DEDA-workshop is dan een goede manier om de vinger op de zere plek te leggen.
Maar er zijn meer goede redenen om een DEDA te doen:
- Je bent verantwoordelijk voor een project waarvan je weet dat het politiek gevoelig ligt. Je voert een DEDA uit om te kunnen aantonen dat je zorgvuldig te werk bent gegaan.
- Je wil een project zelf graag uitvoeren, maar je omgeving twijfelt. Je organiseert een DEDA om te achterhalen waar de pijn zit en de risico’s bespreekbaar te maken.
- Je zit in een organisatie waar weinig contact is tussen de verschillende afdelingen, terwijl dat voor jou project wel hard nodig is. In een DEDA breng je de mensen bij elkaar.
- De organisatie wil een ethische code opstellen en is op zoek naar een methode om de eigen normen en waarden te inventariseren. In een serie DEDA’s breng je deze in kaart.
Vuistregel
Samenvattend kun je zeggen dat het verstandig is om voor een dataproject een DEDA uit te voeren als je het risico loopt dat je achteraf vragen moet gaan beantwoorden, waarover je graag vooraf had willen nadenken. Zoals:
- Heb je goed in beeld welke groepen je project allemaal raakt en wat voor hen de gevolgen kunnen zijn? Houd je met al deze groepen voldoende rekening?
- Wie is verantwoordelijk als er dingen misgaan? En kunnen de gemaakte keuzes en de consequenties daarvan worden verantwoord aan de stakeholders (media, opdrachtgevers)?
- Weet je zeker dat de databronnen die gebuikt worden allemaal nodig zijn en kun je instaan voor de kwaliteit ervan?
- Wat betekent de manier waarop de uitkomsten gevisualiseerd worden voor de interpretatie ervan door de doelgroep? Zijn er ook andere mogelijkheden?
- Hoe ga je het project uitleggen aan de buitenwereld? Welke kritische vragen kun je verwachten en wat ga je dan antwoorden?
- Kunnen de uitkomsten van de analyse ook voor andere doelen gebruikt gaan worden? En hoe houd je hier controle op?
Dilemma’s
Door dit soort vragen expliciet aan de orde te stellen maak je de dilemma’s zichtbaar, die tot dan toe alleen als onbestemd gevoel bestonden. Maar waarin wel een keuze moet worden gemaakt. Voorbeelden van dilemma’s zijn het afwegen van veiligheidsrisico’s tegen bescherming van privacy, de noodzaak om hulp bieden tegenover het risico op stigmatisering , of de afweging tussen het voordeel van velen ten opzichte van het nadeel van een kleinere groep.
De ervaring leert dat het expliciet benoemen van dit soort dilemma’s de enige verstandige manier is om ermee om te gaan. Ook als de druk vanuit de omgeving om door te gaan groot is, juist dan zelfs. In het boekje “Dringende dataverhalen” van de Utrecht Data School is een aantal aansprekende voorbeelden verzameld van cases waarin de ethische risico’s niet goed zijn ingeschat, wat in vrijwel alle gevallen tot grote schade heeft geleid. Een andere verzameling praktijkcases waarin het mis ging is te vinden Data Harm Record van het Data Justice Lab van de Universiteit van Cardiff.