Van algoritme naar tunnelvisie

DE DIGITALISERING ZOU het leven makkelijker moeten maken: meer doen met minder inspanningen of met minder arbeidskrachten. Zo is de digitalisering meteen ook een synoniem voor efficiëntie. Daar zijn alleen winnaars, zou je denken. Het werk wordt beter gedaan en er is meer ruimte om de work-lifebalance te verbeteren.

Ook de overheid ontsnapt al geruime tijd niet meer aan de noodzaak om efficiënter te werken. Dus zoeken ook overheden hun heil in digitale optimalisatie. Het zou verkeerd zijn te denken dat de Belgische overheid dat meer doet dan buitenlandse mogendheden. De Nederlanders maken veelvuldig gebruik van algoritmes in het overheidsbestuur. Nederland is op dat gebied zelfs een interessant laboratorium en een voortrekker.

IN DAT LABORATORIUM broeit wel wat. Zo staat het democratische gehalte van sommige algoritmes ter discussie. Algoritmes worden gebouwd op basis van parameters die met elkaar in verband worden gebracht. Daarbij moeten keuzes worden gemaakt. In Nederland ontspint zich een debat over twee zaken. Ten eerste over de vraag of het niet aan de politiek toekomt de parameters te kiezen, terwijl ambtenaren en technici dat nu doen. En ten tweede over de transparantie: behoort de burger niet te weten op welke wijze hij digitaal geschaduwd wordt?

Algoritmes zijn overal, maar het digitale schaduwen om fraude op te sporen is wellicht het paradepaardje. Toch heeft een Nederlandse rechtbank het ministerie van Sociale Zaken onlangs het verbod opgelegd zich verder te bedienen van een digitaal fraudedetectiesysteem. De motivatie is dat het voor de burger niet duidelijk is welke gegevens geanalyseerd worden, en dat de transparantie van het systeem niet gewaarborgd kan worden. Miroko Schäfer, een mediawetenschapper aan de universiteit van Utrecht, uitte in Het Financieele Dagblad de kritiek dat zo’n model steunt op stereotypen van fraude die oude vooroordelen bevestigen. Verdachtmakingen zijn daardoor niet sluitend, wat leidt tot bewijslastomkering. Burgers worden dan gedwongen hun onschuld te bewijzen, terwijl het democratische uitgangspunt hoort te zijn dat de overheid de schuld van de burger moet aantonen. Dat raakt de essentie van de verhouding tussen de overheid en de burger.

Het democratische gehalte van de werking van algoritmes staat ter discussie

OOK BELASTINGdiensten maken gebruik van algoritmes om belastingplichtigen te schaduwen. Onze belastingadministratie propageert dat IT’ers bij Financiën de digitale Sherlock Holmes zullen worden. Ze capteren digitale gegevens en combineren informatie uit verschillende bronnen. Ze gebruiken gespecialiseerde applicaties of zelfgeschreven scripts om risico’s op belastingontduiking te identificeren en daarvoor dossiers te selecteren.

Die digitale Sherlock Holmes analyseren en leggen logische verbanden op basis van open-sourcegegevens over mogelijke belastingontduiking. De IT’ers bij Financiën verbeteren zo de procedures en de software. En ze helpen nieuwe scripts te ontwikkelen, om complexere analyses mogelijk te maken of te automatiseren.

HET optreden VAN onze noorderburen moeten we dan ook zien als een experiment waaruit ook wij kunnen leren. De bezwaren die de Nederlandse rechtbank uitte, spelen ook in ons rechtsbestel. Dat iedereen bezorgd moet zijn over de toepassing van algoritmes, vatte mijn Nederlandse collega, belastingadvocaat Roel Kerkhoffs, treffend samen op LinkedIn: “Ook de Belastingdienst maakt gebruik van algoritmen. Nadeel is dat een uitworp bij de inspecteur gemakkelijk vooringenomenheid kan veroorzaken. Als de computer deze kwestie selecteert, moet er wel wat mis zijn, zal de gedachte zijn. Het is belangrijk hier inzicht in te krijgen.”

Deze discussie staat nog in haar kinderschoenen, al blijft het uitgangspunt dat iedereen gekant moet blijven tegen fraude.

 

Published under