Overheid zet op grote schaal voorspellende algoritmes in

De overheid maakt op grote schaal gebruik van voorspellende algoritmes. De algoritmes worden onder meer ingezet om fraude en criminaliteit op te sporen, en om in te schatten welke zorg iemand nodig heeft.

Dit meldt de NOS op basis van een vertrouwelijke inventarisatie onder 54 overheidsinstanties die de omroep op basis van de Wet Openbaarheid Bestuur heeft verkregen. Onder meer politie, de Belastingdienst en het Centrum Indicatiestelling Zorg maken gebruik van voorspellende algoritmes. Ook gemeenten zoals Rotterdam, Tilburg en Groningen zetten de algoritmes in.

Risico op discriminatie

Onderzoeker Marlies van Eck van de Universiteit Leiden wijst op het grote risico op discriminatie dat het gebruik van voorspellende algoritmes oplevert. Van Eck doet onderzoek naar het gebruik van algoritmes en stelt dat discriminatie inherent is aan deze technologie. Hoogleraar ICT-recht Lokke Moerel onderschrijft dit. "Het probleem is dat je gegevens uit het verleden in het algoritme stopt", zegt Moerel tegen de NOS. "Maar vaak zit er in die data al een vooringenomenheid."

Van Eck zegt verbaasd te zijn over de omvang waarop de overheid gebruik maakt van algoritmes. Ook stelt zij dat burgers burgers hierover beter geïnformeerd zouden moeten worden. "Het vindt buiten ons gezichtsveld plaats, en dat druist in tegen hoe we tot nu toe omgingen met de macht van de overheid", aldus Van Eck.

Een uitgebreide analyse van de inventarisatie is te vinden bij de NOS.