Ethiek in de snelkookpan

Alsof het nieuwe Covid-19-vaccin net was ontwikkeld, presenteerde minister De Jonge met veel elan het plan voor de corona-app. Hij mompelde iets over bluetooth en het waarborgen van privacy, maar ook dat we nu eenmaal een groot probleem hadden en dat privacy daar misschien wel voor moest wijken.

Het deed me denken aan het moment dat Wim Kok ICT-les kreeg en de muis als afstandsbediening richtte op het beeldscherm. Goedbedoeld en welwillend, maar de klepel was nog even ver te zoeken.

Als ‘deze heilige graal’ relevante en accurate informatie geeft aan het individu, over mogelijke brandhaardjes en kansen op besmettingen, dan kan de app van nut zijn en de lockdown eerder opheffen. Mits er aan bepaalde randvoorwaarden wordt voldaan.

Want, hoe kunnen deze data accuraat en actueel zijn zonder dat we testkits tot onze beschikking hebben? Hangen we conclusies aan verkeerde aannames, zoals ‘ik ben grieperig geweest, dus ik denk dat ik het al gehad heb’. Bij data-invoer geldt ‘garbage in, garbage out’, en een database is slechts accuraat als de informatie die ingevoerd is klopt.

En dan nog de andere ‘alsen’. Als de voorwaarden voor gebruikers helder zijn. Als de data niet worden gedeeld met derden. Als de data goed beschermd zouden zijn tegen aanvallen. Als, als, als.

In eerdere columns gaf ik al aan hoe belangrijk het is om ethische aspecten bij ontwikkeling van tech-producten (apps, websites, digitale services) al in het begin in te bouwen. Een aspect dat door big (maar ook door small tech) nog wel eens vergeten of ondergeschoven wordt, omdat de focus ligt op een zo snel mogelijke eerste versie.

In de vijftien jaar dat ik in tech werk, is zes maanden de kortste uitrol-periode geweest van een app, dus petje af voor degenen die deze olympische tender aangaan

Kun je van een 25-jarige productmanager verwachten dat hij de consequenties op alle assen en op de lange termijn overziet? Nee, hij is immers verantwoordelijk voor een technisch werkend product. Juist daarom is het belangrijk dat ethici en filosofen meekijken over hun schouder en betrokken zijn vanaf het begin van het ontwerp.

In de vijftien jaar dat ik in tech werk, is zes maanden de kortste uitrol-periode geweest van een app, dus petje af voor degenen die deze olympische tender aangaan. Het ontwikkelproces gaat in de snelkookpan en de ethiek hiermee ook.

Juist nu moet de data-invoer kloppen en aan mogelijke morele bezwaren evenredig meer tijd worden besteed bij het uitdenken van alle mogelijke scenario’s en consequenties. Krijgen zorgverzekeraars inzicht in de data? Werkgevers? Wordt je aangemerkt als risico als je langs een volle huisartsenpraktijk loopt? Worden we geacht om de app-status te tonen als straks de restaurants of sportscholen weer open gaan? Staan daar straks bordjes met ‘Corona niet welkom’?

De app kan zeker een hulpmiddel zijn om opkomende brandhaarden op te sporen en veilige plekken aan te geven. Maar voordat programmeurs als een dolle gaan coderen, moeten ethici en filosofen aanschuiven bij het ontwerp, zodat morele aspecten worden benoemd en afgewogen.

Verschenen op 18 april 2020 in Het Financieele Dagblad