een ethische analyse van het Chinese schrikbeeld
Aangezien deze dagen iedereen het nieuws volgt, is het niemand ontgaan; overal in de wereld overwegen overheden om gedetailleerd in kaart te brengen wie dicht in de buurt is geweest van een drager van het Corona virus. Zo ook de Nederlandse. Aangezien de contactonderzoeken van de GGD te arbeidsintensief en daardoor te langzaam zijn, is de blik gericht op de smartphone. Nog voordat de persconferentie van minister de Jonge klaar was waren de eerste reacties al binnen. Ook de Autoriteit Persoonsgegevens had zijn oordeel al snel gegeven: niet toegestaan zonder wettelijke basis.
Maar waarom zijn we eigenlijk bang voor zo’n app? Weten we eigenlijk wel welk doel de app precies heeft? En dat schrikbeeld uit China dan, hoe ziet die app eruit, welke gegevens worden verzameld en hoe vind het misbruik dan plaats?
Wij hebben de proef op de som genomen en hebben zo’n Chinese app (van de Suzhou regio) geanalyseerd vanuit een ethisch perspectief. Niet om een oordeel te geven of dit goed of fout is, maar om iets bij te dragen aan de discussie.
Allereerst is er in China niet één ‘Corona-app’ maar meerdere. Elke decentrale overheid heeft zijn eigen app. De app’s zijn veelal ontwikkeld door of Tencent of Alibaba (Alipay platform) en geïntegreerd in WeChat of Alipay. Twee bedrijven die een veelheid van diensten leveren, variërend van chat-apps, betaaldiensten tot e-commerce.
De functie van de app is om te bepalen of je wel of niet mag reizen of dat je verplicht in quarantaine moet. Op basis een vragenlijst met basale medische vragen én je reishistorie krijg je een groene, gele of rode ‘health score’ in de vorm van een QR-code. Groen is ok. Oranje krijg je als familieleden een rode health score hebben of als je zelf lichte klachten hebt. De consequentie is verplicht 7 dagen in quarantaine. Rood betekent verplichte medische observatie en 14 dagen quarantaine. Met oranje of rood mag je niet reizen.
Zie de afbeeldingen voor het soort vragen. Interessant is ook dat bij het ondertekenen je belooft alles naar waarheid ingevuld te hebben en dat je er mee akkoord gaat dat als de informatie niet correct of volledig is je juridisch aansprakelijk bent.
 |
 |
Klik hier als de afbeelding niet goed te zien is.
De QR-code mag ook als ID bewijs worden gebruikt bij controleposten op straat. Afhankelijk van je score mag je doorlopen en wordt je temperatuur gemeten. Doordat de apps in het ecosysteem van de genoemde partijen hangen is de gezondheidsinformatie gekoppeld aan de van jou bekende persoonlijke informatie. Overigens zijn het niet alleen overheden die zo controleren, ook winkels, werkgevers en verhuurders voeren controles uit. Op een site van de overheid binnen WeChat kan je een kaart vinden met alle locaties van recente besmettingen. Hoe precies de kleurcodering wordt bepaald is niet transparant. In de media zijn berichten verschenen van gebruikers waar de healthcode zonder aanleiding meerdere keren van kleur wisselde.
Als je de opzet en het functioneren van de app zo leest dan vinden wij Nederlanders hier wel iets van, en dat is meestal niet enthousiasme. Maar wat maakt dit dan tot een schrikbeeld voor ons?
Dat komt onder meer doordat wij andere keuzes maken in een aantal ethische dilemma’s. Voor een deel maken we die afweging niet op basis van feiten, maar op basis van subjectieve beweringen; aannames, onderbuikgevoel en emotie. Juist het niet weten van de precieze werking, in combinatie met achterdocht (gevoed door ervaringen uit het verleden) heeft een negatief effect.
Ter illustratie een viertal ethische dilemma’s:
Overheid of bedrijfsleven?
Voor de gemiddelde Nederlander voelt de intensieve rol van partijen als Tencent en Alibaba ongemakkelijk. Terwijl iedereen een rol heeft in het voorkomen van verdere verspreiding zou je zeggen (de slogan is immers ‘Alleen samen krijgen we Corona onder controle’). En als zoveel mogelijk publieke en private partijen hieraan meedoen, is een fijnmaziger controle mogelijk. Het probleem is natuurlijk dat we private partijen snel associëren met de waarde winst maken. In Nederland zien we gezondheidszorg en rampenbestrijding toch vooral als een overheidstaak.
Huidig nut versus toekomstig misbruik
Worden de verzamelde gegevens alleen gebruikt om de verdere verspreiding van Corona te voorkomen, of wordt de informatie in de toekomst ook voor een ander doel gebruikt? Feiten ontbreken hier, het zijn zorgen vanuit de redenatie ‘de data hebben is de data houden’. In de toekomst dient zich vast een situatie aan waarin het redelijk lijkt om die data weer in te zetten. Bijvoorbeeld om een beter wetenschappelijk inzicht te krijgen in de ziekte en hoe deze zich verspreid. Maar het zou ook gebruikt kunnen worden om de ziektekostenpremie te differentiëren, of om je strafrechtelijk te vervolgen. (nu al is dreigen met corona goed voor weken gevangenisstraf). Relevant is hier vooral de context waarin de data in de toekomst gebruikt worden.
Snel handelen versus doordacht ontwerp
De snelheid waarmee het virus zich verspreidt vergt snel handelen. Het stoplicht mechanisme is nogal grof en een oranje of rode kleur heeft vergaande sociale en persoonlijke consequenties. Klopt het wel allemaal? En hoe werkt dat algoritme nu precies? Goede vragen, maar nu geen tijd voor. Nederland kiest normaliter voor tijdrovende polderdiscussies waar met ieders belang rekening wordt gehouden om zo consensus en draagvlak te bereiken. Maar eigenlijk zijn we ook wel blij dat de normaal toch veel bediscussieerde en bekritiseerde overheid nu de leiding neemt en vertelt wat we moeten doen. Het doortastende optreden waarmee de overheid ongekende economische maatregelen heeft genomen heeft veel lof opgeleverd. Waar we voorheen jaren parlementair discussiëren over punten en komma’s, zijn nu in recordtempo de meest verstrekkende noodwetten geaccepteerd. Waarom? Omdat iedereen op dit punt vanuit dezelfde waarden redeneert: snelheid is geboden om grootschalig lijden te voorkomen
Controle of vertrouwen
Het Chinese app systeem is er op gericht snel en effectief controles op straat te kunnen uitvoeren om te bepalen wie binnen moet blijven en wie niet. Voor het individu heeft de app zelf weinig nut. In Zweden wordt een heel ander beleid toegepast, dat ervan uitgaat dat iedereen zelf in staat is verstandige keuzes te nemen en zichzelf te redden. Waar staat Nederland eigenlijk in dit spectrum? De precieze werking van het soort apps waar nu in Nederland de discussie over gaat (digitaal traceren of je in de nabijheid bent geweest van een persoon die positief heeft getest) moet passen bij onze waarden. Een schot voor de boeg: de app moet je wel vertellen dat je in de buurt bent geweest, maar niet bij wie. Met dat ‘dichtbijheidsbewijs’ zou je voorrang moeten krijgen in de schaarse testcapaciteit.
Interessant genoeg lijkt de discussie in Nederland nu nog vooral te gaan over de technische kanten van een Corona-app en privacy. Maar het is nadrukkelijk ook een ethische discussie. Ons pleidooi is om die eerst te voeren, dan wordt vanzelf scherp welke functie een eventuele app moet hebben. En dan vervolgens zorgen voor duidelijke (liefst democratische) controle van de werking (lees: het algoritme) om ervoor te zorgen dat er geen misbruik van gemaakt wordt.
Hoe voer je een ethische discussie? VKA is participant in de Utrecht Data School, een initiatief van de Universiteit Utrecht. Met behulp van onder andere de Ethische Data Assistent wordt een structurele inventarisatie en afweging geboden voor ethische vraagstukken bij de inzet van big data en artificial intelligence.