Ondanks dat de mens de neiging heeft menselijke eigenschappen aan algoritmes toe te dichten zijn het niet meer dan de wiskundige formules die we gebruiken om complexe berekeningen te maken. Algoritmes kunnen niet “uit zichzelf” discrimineren, of ethisch zijn wat dat betreft. Het zijn de data en de schrijvers of trainers van het algoritme die hier verantwoordelijk voor zijn.
Vrijwel dagelijks is er een nieuwsitem over het gebruik van Artificial Intelligence (AI) of algoritmes binnen de overheid, waarin vaak het gevaar van deze ontwikkelingen wordt benadrukt. Zo zouden racisme en vooroordelen op de loer liggen en is iedereen bij voorbaat verdacht door profiling. De waarheid is iets genuanceerder: het zijn niet de algoritmes die dit bepalen, het zijn de data en de mens. Algoritmes zijn dan ook niet eng en ze hebben ook niet altijd gelijk.
Slimme algoritmes voor een slimme overheid
Algoritmes komen tot stand door ze te laten leren van de patronen en verbanden in grote datasets, waarna ze toegepast kunnen worden op nieuwe onbekende gevallen om bijvoorbeeld de risico’s in te schatten of toekomstig gedrag te voorspellen. Dit begint bij het stellen van de vraag welk probleem het algoritme moet oplossen en welke data daarvoor gebruikt kan worden. De kwaliteit en de uitkomsten van het algoritme zijn afhankelijk van de gebruikte data en de keuzes van de modelleur.
Overheden verkennen en masse de mogelijkheden van het toepassen van deze algoritmes om de dienstverlening aan burgers te verbeteren, beter beleid te ontwikkelen of effectiever en efficiënter op te sporen en te inspecteren. Ontwikkelingen die velen toejuichen – we willen immers graag een slimme overheid – maar tegelijkertijd vinden we het ook eng. Hoe borgen we dat overheden op een deugdelijke wijze omgaan met ‘onze’ data en met de inzichten die daaruit gehaald worden?
Data-ethiek wordt steeds belangrijker
Het gebruik van data en algoritmes is geen nieuw fenomeen. De complexiteit en de mogelijkheden van dit gebruik zijn echter exponentieel toegenomen als gevolg van de stijging van de beschikbare data en de steeds krachtigere mogelijkheden voor analyse zoals Artificial Intelligence. Dit vraagt dan ook om kaders of richtlijnen over hoe hier mee om te gaan. De inwerkingtreding van de AVG nu bijna een jaar geleden heeft veel bijgedragen aan de discussie over privacy en de vraag wat er mag bij het gebruik van data. Deze vraag gaat echter hand in hand met de vraag wat we willen met de inzet van AI en algoritmes.
Data-ethiek gaat over wat we als maatschappij wenselijk vinden bij de inzet van data, waar de grenzen liggen, en hoe we de waarden die wij belangrijk vinden borgen in dataprojecten. Naarmate de mogelijkheden van datatoepassingen toenemen en de ambitie van overheden om hier gebruik van te maken stijgt, wordt data-ethiek steeds belangrijker. Het gerenommeerde IT-onderzoeksbureau Gartner noemt dit dan ook als één van de tech trends voor 2019. Steeds meer organisaties zijn zich hier gelukkig ook van bewust. Handvatten zoals De Ethische Data Assistent (DEDA) van de Universiteit Utrecht helpen met het richten van het ethisch kompas bij dataprojecten. De komende jaren zal data-ethiek alleen maar belangrijker worden en een plaats moeten krijgen binnen alle overheidsorganisaties. Dit is geen sinecure en vraagt om een open en soms kritische blik op de eigen organisatie.
Bent u ook bezig met data-analyses binnen uw organisatie, en wilt u grip houden op de ethische vraagstukken die daarmee samenhangen? Wij zijn benieuwd naar uw ervaringen en gaan graag met u in gesprek hierover.