“Algoritmes zijn het nieuwe internet. Wie terugkijkt op wat de afgelopen 30 jaar door internet is gebeurd, snapt de kansen die algoritmes ons bieden”. De toon is na 10 minuten van het eerste Nationale Algoritme Debat al gezet. Zes vooraanstaande kennishebbers van Algoritmes (vertegenwoordigers van wetenschap, bedrijfsleven, onderzoeksjournalist, ethiek en politiek) zijn het snel eens over het belang van algoritmes.
Op initiatief van Totta Data lab en Verdonck, Klooster & Associates (VKA) kwamen op 21 november deze specialisten samen om te debatteren over algoritmes, met als doel de ‘demistification’ van algoritmes.
De eerste vraag is of algoritmes nuttig zijn. Jesse Luk van Totta Data lab laat allereerst zien dat algoritmes geen onbeheersbare monsters zijn. Algoritmes kunnen sommige dingen die mensen kunnen snel leren, maar sommige dingen ook niet. Aan de andere kant kunnen machines data sneller interpreteren dan mensen. De combinatie mens en machine is daarom altijd krachtiger dan alleen de machine (of de mens). Of zoals Kasparov eerder al zei: “A Human and a Machine are the best combination” Debatleider Andre Hendriks, partner bij VKA, stelt vervolgens de deelnemers aan het debat voor:
Kees Verhoeven (D66), Tijmen Blankevoort (Qualcomm), Jeroen van den Hoven (TU Delft) ), Marc Hijink (NRC), Nicky Hekster (IBM Watson) & Frans Feldberg (VU).
Het debat begint met een ludieke steek onder water: of we met een panel met zes mannen in donkere pakken niet beducht moeten zijn op ‘bias’, maar op de eerste vraag aan de panelleden of Nederland vol moet inzetten op de kansen die algoritmes bieden is men eensgezind ‘ja’. Ook het kabinetsbeleid is er op gericht om ‘vol in te zetten’ op algoritmes. De term AI valt intussen ook regelmatig en soms lopen de begrippen wat door elkaar.
Maar daar waar landen om ons heen (Frankrijk, Duitsland en verder weg: US en China) miljarden investeren roept D66 in haar nationale AI-actieplan op, om 25 miljoen te investeren. Is dat dan echt onze definitie van vol inzetten?
Nederland moet vooral ‘vol inzetten’ vertalen in ‘slim inzetten’. Voor Nederland liggen er kansen als we ons concentreren op de sectoren waar we traditioneel goed in zijn (denk aan de foodindustrie, de bouw). Verder wordt betoogd dat de inzet van AI en algoritmes vooral ten goede moet komen voor doelen die we maatschappelijk relevant vinden, zoal energietransitie, voedselschaarste, onderbouwing van het financiële systeem, et cetera.
Sleutelfactor tot succes is kennis en kennisontwikkeling. Universiteiten en bedrijfsleven strijden om schaars talent, maar zouden het talent ook voor elkaar kunnen ontsluiten. Naast het delen van mensen moeten ook middelen worden gedeeld: AI draait immers ook over (grote hoeveelheden) data en grote verwerkingscapaciteit. Hoe meer wordt gedeeld, hoe beter van de bestaande middelen gebruik wordt gemaakt. Daarnaast is kennisontwikkeling nodig op alle niveaus, niet alleen academisch niveau. Bij de investering in kennis moet een technology push worden voorkomen en moet ook aandacht worden besteed aan de toepassing ervan. De aanwezigen merken wel op dat het aan interesse van studenten niet ontbreekt: het is wel schrijnend dat onvoldoende gekwalificeerde docenten kunnen worden gevonden. Wellicht ook een kwestie van geld?
Men is eensgezind in de mening in dat AI de toekomst is, het nieuwe ‘internet’. Je kan als land niet besluiten om hier niet in investeren. Sterker nog: AI is Chefsache. In landen om ons heen zie je ook dat Merkel en Macron zich krachtig achter het landelijke AI beleid scharen. Dat ontbreekt in Nederland nog wel. Tweede Kamerlid D66’er Kees Verhoeven zou graag veel collega’s in het debat betrekken. Hij is al om!
De discussie gaat al snel niet meer over de vraag óf moet worden ingezet. Panelleden wijzen daarbij ook op de geopolitieke verhoudingen: andere landen zijn ook bezig en al zo ver dat je niet kunt achterblijven als je als land je bestaansrecht of autonomie wilt behouden. Nederland kan gewoon niet achterblijven. En ook wachten op Europa is geen optie: op het moment waait er in Europa een wind waarbij de landsbelangen steeds vaker boven de Europese belangen worden verkozen.
Het tweede deel van het debat draait om de vraag wat de rol van de burger en de overheid hierin is. Is het voor de gemiddelde burger nog wel te volgen? Moet de overheid niet ingrijpen?
In de tweede kamer loopt een discussie over de rol van de overheid rondom transparantie van algoritmes. Maar deze discussie wordt erg algemeen gevoerd. Hier prediken de panelleden voor nuance, op verschillende manieren:
- Het ene algoritme is het andere niet – de maatschappelijke onrust richt zich vooral op algoritmes die voor burgers en consumenten keuzes maken, die hun leven nadelig kunnen beïnvloeden.
- Veel algoritmes kennen al een vorm van toezicht, bijvoorbeeld in de financiële wereld bestaat al toezicht op algoritmes die door banken en verzekeraars worden gebruikt.
- Regulering kan heel veel gedoe geven, als je (ongereguleerde) AI loslaat in een gereguleerde omgeving (bijvoorbeeld het verkeer) dan kost dat veel tijd en moeite.
- Regulering van algoritmes is zinloos, als daarbinnen ook niet wordt gekeken naar de kwaliteit van de data. Data en algoritmes zijn wat dat betreft te veel met elkaar verbonden.
Voldoende zaken komen daarmee naar voren om kritisch te kijken naar overheidsregulering. Of toch … “De overheid moet iets terugpakken wat kwijt is gespeeld. AI is iets wat het publieke belang raakt en dat is des overheids.”
Kortom: het is gewenst als de overheid wel (afhankelijk van de context) meer op regulering gaat sturen, maar moet het niet zelf willen doen…
Verder geeft het panel nog wat tips mee: soms zal regulering per land kunnen, maar soms ook beter per sector. Het panel wordt hier zelfs creatief: jolig wordt zelfs gesproken over ‘het a-nummer’, in plaats van het ‘e-nummer’ dat op de etiketten van voedingsmiddelen wordt geplaats. Ook de term ‘AIPK’ valt. Men is unaniem te spreken over de nieuwe, meer op zelfregulering gerichte, initiatieven op dit punt, zoals het algoritmekeurmerk van Totta en VKA, maar ook de AI Impact Assessment van ECP.
Ten slotte wordt nog opgemerkt dat het niet alleen de overheid is, die moet nadenken over wat wel of niet de bedoeling is. Ook de ontwerpers van algoritmes hebben hier een verantwoordelijkheid. De term ‘Ethics by Design’ valt.
Het debat is intussen al een uur onderweg en debatleider Hendriks hoeft nauwelijks te prikkelen of te modereren: de panelleden luisteren goed, vullen elkaar aan. Het valt zelfs op dat ze in hun enthousiasme en passie steeds sneller beginnen te praten. Kees Verhoeven verwoordt de sfeer als volgt: “wat leuk en wat goed om dit debat op deze manier te voeren, waarom is dit niet eerder gebeurd”, om zich daarna direct te excuseren voor het gebruik van zijn telefoon op het podium om er notities op te maken.
De derde stelling in het debat is de vraag of de transparantie van het algoritme niet een rem zal zetten op de innovatie. Hier maken de panelleden korte metten mee en noemen dit een drogreden. Het niet transparant maken van een algoritme is naar hun mening geen bewijs van innovatiekracht, maar een poging om een monopolie of marktpositie te behouden. Het algoritme bepaalt niet zozeer de innovatiekracht, maar wel de data. Conclusie is dan ook dat transparantie over de algoritmes niet zo ingewikkeld zou moeten zijn, maar dat de crux veel meer ligt in de openheid van de data die wordt gebruikt.
Tot slot de laatste stelling: mens en machine zijn de beste combinatie.
De meestemmende zaal en de panelleden zijn het hier snel over eens. Beide hebben sterke kanten, maar de mens zal uiteindelijk toch de beslissingen moeten nemen. Een mens kan de context van specifieke gevallen veel beter interpreteren dan een machine zal kunnen (en misschien zelfs ooit zal kunnen). Of zoals Tijmen Blankevoort het verwoordt: liever een subjectieve rechter dan een objectieve machine”.
Het eerste Nationale Algoritme Debat van Totta en VKA is geslaagd. Er zijn veel inzichten en goede gesprekken gevoerd en ook de borrel achteraf laat zien dat het onderwerp tot veel gespreksstof leidt. Het debat heeft geroerd en geïnspireerd. Wordt vervolgd!