Op 21 december 2022 heeft het ministerie van BZK het startschot gegeven voor een centraal algoritmeregister voor de overheid. Alle overheidsorganisaties kunnen hierin registreren welke algoritmes ze gebruiken en hoe deze in grote lijnen worden toegepast. Deelname aan het register is nog niet verplicht, maar de verwachting is dat dit op termijn anders wordt. Met het register dat nu beschikbaar is kunnen organisaties een eerste stap maken op weg naar transparantie.
Waar staan we nu?
Op het moment van schrijven staat het register een maand open en hebben 12 overheidsorganisaties hierin één of meer algoritmes ingevoerd. Meer dan helft hiervan is afkomstig van de gemeenten Utrecht en Den Haag. De kopgroep en de directe achtervolgers hebben we dus in zicht. De vraag is nu op welke afstand het peloton volgt.
De algoritmes die beschreven zijn, zijn zeer divers. Een aantal typen algoritmen komt meerdere keren voor. Zo staan er diverse toepassingen in die analyses uitvoeren op camerabeelden, o.a. voor crowd management, voor het herkennen van bijplaatsingen bij vuilcontainers en het innen van een gemeentelijke belasting op beeldreclames. Andere veel voorkomende toepassingen zijn het beoordelen van het recht op uitkeringen of toeslagen, het voorspellen van verkeersstromen en het beoordelen en routeren van ontvangen berichten. Wat opvalt is dat de ene registratie aanmerkelijk informatiever is dan de ander. Soms gaat er een wereld voor je open en krijg je echt een kijkje in de keuken. Bij andere blijft het bij een schielijke blik achter de voordeur, met daarachter een nog nauwelijks ingerichte ruimte. Maar altijd wel met de belofte dat de deur later verder open zal gaan. Alle reden dus om het register over een tijdje nog eens te bekijken.
Een goede start!
Na een eerste rondgang is mijn conclusie dat het goed is dat het register er is. Ten eerste omdat het inzicht geeft in welke algoritmen er zoal gebruikt worden. Maar vooral ook omdat het duidelijk maakt hoe belangrijk het is om het register goed te vullen. Het geeft namelijk een bijzonder unheimisch gevoel als je wel leest dat er bij een beslissing die jou aangaat algoritmes gebruikt worden, maar uit de beschrijving niet duidelijk wordt hoe deze werken en hoe ze gebruikt worden. Is deze informatie niet in het register terug te vinden, dan werkt dat dus eerder alarmerend dan geruststellend. In de beginfase van het register zal hiervoor echter nog alle begrip zijn. Bovendien staat in de toelichting duidelijk vermeld dat het register nog werk-in-uitvoering is. Laten we deze eerste fase dus vooral benutten om ervoor te zorgen dat de informatie die in het register staat volledig wordt.
Waar mikken we op?
Doel van het register is om te komen tot transparante en verantwoorde inzet van algoritmes. “Zodat de informatie over de algoritmes die de overheid gebruikt voor iedereen beschikbaar is: burgers, hun belangenbehartigers, de media en toezichthouders”, aldus de toelichting op de website. Een interessante vraag is dus welke doelgroep behoefte heeft aan welke informatie.
Als eerste wordt genoemd de burger. Wat ikzelf als burger graag wil weten is wanneer ik met een algoritme te maken heb. Zodat ik een beslissing die met behulp van een algoritme genomen is ook in die context kan zien. En duidelijk is dat ik voor een beroep op persoonlijke omstandigheden zelf aan de bel moet trekken. Vervolgens zou ik graag weten welke gegevens het algoritme gebruikt, hoe deze van invloed zijn op de beslissing en in hoeverre de ambtenaar die het resultaat te zien krijgt hieraan gebonden is. Of zich hieraan gebonden voelt. Ook zou ik graag iets lezen over de manier waarop de kwaliteit van het model getest is en hoe dit wordt gemonitord. Voor zover ik in het register heb kunnen zien zijn juist deze onderdelen van het register nog maar zeer te dele gevuld. Wat ook nog veel voorkomt is dat een veld wel tekst bevat, maar niet de informatie die je verwacht. Zo komt het regelmatig voor dat het veld “risico’s” alleen de mededeling bevat dat naar de risico’s gekeken is, maar niet wat daar uit is gekomen. Ook staat er een algoritme in het register waarbij als enige risico genoteerd is dat “de resultaten van het model altijd geanalyseerd worden door specialisten”.
Naast burgers staan ook toezichthouders en media als doelgroep van het register vermeld. Daaraan zou je ook nog leden van gemeenteraden of Kamerleden kunnen toevoegen. Relevante onderwerpen zijn dan de wettelijke basis van een algoritme, de proportionaliteit van een toepassing en de vraag of aan alle (toekomstige) wettelijke eisen is voldaan, zoals de uitvoering van een DPIA, een IAMA en (op iets langere termijn) de eisen die de AI-verordening aan hoog-risico algoritmes stelt. Ook op deze punten voorziet het register nog slechts beperkt in informatie. Deels omdat betreffende velden nog niet gevuld zijn, maar ook omdat het aantal velden nog beperkt is.
En nu door!
De verdienste van het register nu is dus niet alleen wat er nu in staat, maar vooral ook dat het zichtbaar maakt wat nog ontbreekt. Duidelijk is in ieder geval dat op heel veel plekken binnen de overheid al algoritmes gebruikt worden en dat er veel over te zeggen valt. En dat maakt nieuwgierig. Welke doelgroep aan welke informatie behoefte heeft moet de komende periode duidelijk worden. De beste manier om dit voor elkaar te krijgen is gewoon te starten met het register en iedereen op te roepen van zich te laten horen. Precies dus wat BZK nu in gang heeft gezet.
Ben je als overheidsorganisatie bezig met het in kaart brengen van algoritmes, maar heb je behoefte aan ondersteuning bij de uitvoering? Of wil je graag eens sparren over de aanpak? Neem dan gerust contact met ons op.