In de Netflix serie Black Mirror worden we op een duistere manier geconfronteerd met de impact die technologische ontwikkelingen kunnen hebben op ons dagelijks leven. In de aflevering ‘Nosedive’ krijgen burgers een persoonlijke score, gebaseerd op beoordelingen via social media. Een absurd idee totdat je je realiseert dat de Chinese overheid in 2020 een ‘sociaal kredietsysteem’ ofwel het Social Credit System zal invoeren. Burgers krijgen punten, worden dan beoordeeld op basis van hun gedrag en vervolgens beloond of gestraft. De overheid gebruikt daarvoor big data, waaronder gerechtelijke en belastinggegevens, creditcardafschriften en sociale netwerkaccounts.
Het moge duidelijk zijn dat er nogal wat weerstand is tegen het plan van de Chinese overheid. Toch gebruiken bedrijven als Youtube, maar ook de Nederlandse overheid data-analyse om personen te classificeren, ofwel te profilen. Uiteraard op aanzienlijk kleinere schaal maar ook u en ik worden op basis van ‘onze’ data beoordeeld. De overheid kan daardoor bijvoorbeeld het risico inschatten dat u fraude pleegt met uitkeringen, of de kans dat u in de schuldhulpverlening terecht zult komen. Het beleid van de overheid kan vervolgens hierop worden ingericht waardoor de effectiviteit van het beleid wordt vergroot.
Maar wat bepaalt nu hoe u op basis van data wordt geclassificeerd? Hier zitten rekenregels, of algoritmes achter. Een algoritme bestaat uit een vaste rij rekenstappen. Simpel gezegd: als aan x wordt voldaan dan is y het gevolg. Met voldoende data en verbanden kun je vervolgens van alles: inbraken voorspellen, gepersonaliseerd muziek luisteren of een zoekmachine beginnen. Data kan niet zonder algoritmes. Wanneer het algoritme in staat is om zelfstandig zich aan te passen op basis van de input, en dus te leren, spreken we van machine learning, een subgebied van kunstmatige intelligentie. Het algoritme verbetert zichzelf, zonder menselijke tussenkomst, wat als risico met zich meebrengt dat de rekenregels niet meer transparant zijn en dus niet meer goed uitlegbaar. Bij profiling betekent dit dat zonder maatregelen de onschuldpresumptie van burgers kan worden aangetast zonder dat het onderliggende algoritme te verklaren is. Hier tart de technologie ook wet- en regelgeving, met name op het gebied van privacy.
Het is goed om ons bewust te zijn van deze donkere kant van het gebruik van big data en algoritmen, maar tegelijkertijd ook het potentieel hiervan te onderkennen voor het verbeteren van overheidsbeleid. Data kunnen ons helpen om tot nieuwe inzichten te komen en zelfs om maatschappelijke vraagstukken als veiligheid effectiever aan te pakken. Zolang we ons maar realiseren dat de techniek het middel tot een doel is, en techniek en algoritmes lang niet altijd neutraal zijn. Het zal niet zo’n vaart lopen als in Black Mirror maar het gebruik van big data stelt ons wél voor de ethische vraag hoever profiling van burgers mag gaan.