Eind vorig jaar voorspelde analysebureau Gartner, bekend van grafieken over de aandeelhouderswaarde van disruptieve technologieën, dat digital ethics en privacy één van de top tien strategische technologietrends voor 2019 wordt. Dat digital ethics een belangrijk thema is, blijkt ook wel uit de aandacht die China daar nu voor heeft. Zo verscheen recent een bericht op NOS met de titel ‘China investeert in AI en maakt van bouwvakkers computertechnici’. China gaat zwaar inzetten op AI. Dit doen zij echter vanuit een heel ander moreel perspectief dan het onze en zal zonder twijfel ethische dilemma’s gaan opleveren als toepassingen die zij ontwikkelen in Europa worden gebruikt. Maar ethische vraagstukken spelen ook veel dichter bij huis. Hoe houd je als organisatie eigenlijk grip op digital ethics?
Het wordt de komende jaren steeds belangrijker om ethische dilemma’s inzichtelijk te maken bij de toepassing van nieuwe technologieën, zoals artificial intelligence, blockchain, big data, machine learning en algoritmes. Organisaties maken gebruik van deze innovatieve technologieën om slimmer, sneller en effectiever te werken. De discussie over privacy moet volgens Gartner zijn gebaseerd op ethiek en vertrouwen. De kernvraag is dan ook bij het gebruik van data (en met name persoonsgegevens) niet: ‘mogen we dit?’, maar ‘willen we dit?’
Afgelopen jaren hebben diverse dataprojecten negatieve publiciteit gekregen. Een bekende is natuurlijk de zogenaamde Broedkamer bij de Belastingdienst. De Broedkamer zou een algoritme hebben ontwikkeld om fraude op te sporen. Hoewel dit algoritme grote invloed kon hebben op het leven van de belastingbetaler, werd dit niet extern gecontroleerd en wist niemand buiten de Broedkamer hoe de output tot stand kwam. Kortom, één grote ‘black box’. Maar ook de Nationale Politie liep tegen de ethische grenzen aan met de toepassing van predictive policing. Het Criminaliteit Anticipatie Systeem voorspelt waar de kans het grootst is dat daar een misdaad (straatroof, inbraak of overval) plaats zal vinden. Eén van de ethische uitdagingen in deze situatie was de onbekendheid met de aannames en vooroordelen die in de dataset besloten lagen, terwijl deze de basis vormde voor de besluitvorming. Was de dataset wel een waarheidsgetrouwe representatie?
Deze voorbeelden laten zien dat vooraf goed moet worden nagedacht over de mogelijke ethische dilemma’s die het gebruik van data met zich mee kan brengen. Daarnaast illustreren deze voorbeelden de zoektocht van organisaties naar vernieuwing en innovatie. Nieuwe technologieën, zoals artificial intelligence, big data en algoritmes, spelen daarbij een steeds grotere rol. En de potentie van deze technologieën is indrukwekkend: als organisatie ga je steeds meer weten van je klanten, je maakt gerichtere keuzes om hen te helpen en de gebruikerservaring voor klanten wordt beter. Maar wat zijn de keerzijdes van deze nieuwe technologie? Heb ik als organisatie nog wel grip op de keuzes die de technologie voor mij maakt. En wat vinden mijn gebruikers ervan?
Nieuwe technologieën hebben impact op ethische normen en waarden. Hoe moeten organisaties hiermee omgaan, oftewel: wat is hun ‘digitale ethiek’? Het is belangrijk om zorgvuldig met nieuwe technologieën om te gaan en rekening te houden met de ethische consequenties. Want de technologie mag dan in potentie heel veel werk uit handen nemen, de menselijk maat is wel nog steeds nodig. Bijvoorbeeld: willen we dat een algoritme keuzes voor ons maakt? En zo ja, hoe leggen we dit uit aan gewone mensen als het hun leven beïnvloedt?
De manier waarop nieuwe technologieën worden ingezet moet niet alleen in lijn zijn met wetgeving, maar moet ook ethisch verantwoord gebeuren. Een goede dialoog is nodig om recht te doen aan alle ethische overwegingen en te helpen bij de acceptatie van de uiteindelijke keuze. Je moet je als organisatie immers kunnen verantwoorden over de ‘black box’ die nieuwe technologie voor veel bestuurders is. Door zorgvuldig met deze nieuwe technologieën om te gaan bescherm je als organisatie je reputatie en behoud je het vertrouwen van je klanten of de burger.
Praktisch gezien betekent dit dat binnen de organisatie, op het moment dat een nieuw ‘dataproject’ wordt gestart, er tevens een gestructureerde ethische dialoog op gang moet worden gebracht. Bewust moet gekozen worden voor de ‘dialoog’, in plaats van een ‘discussie’. In een discussie gaat het om tegenstellingen en elkaar overtuigen. In een dialoog gaat het er om, om constructief afwegingen te objectiveren en te komen tot een gezamenlijk standpunt. Erg belangrijk hierbij is ook de multidisciplinariteit. Het zijn niet alléén de Functionaris voor Gegevensbescherming, de afdeling compliance en de directie die de (ethische) afweging maken. Maar ook andere disciplines, zoals bijvoorbeeld ICT, beleidsmakers, communicatie en datamanagers, zullen betrokken moeten worden in het morele besluitvormingsproces.
Het ontwikkelen van een moreel kompas, specifiek op het gebied van data, zal de komende jaren een essentieel onderdeel worden van de “digitale volwassenheid”. Alleen dan kunnen organisaties nieuwe technologieën inzetten op een manier die bij hen past. Door vooraf de juiste ethische vragen te stellen, zodat je achteraf het antwoord niet schuldig hoeft te blijven.