VN waarschuwen voor impact AI op mensenrechten

16-09-2021 | door: Wouter Hoeffnagel

VN waarschuwen voor impact AI op mensenrechten

De Verenigde Naties waarschuwen voor de impact die kunstmatige intelligentie (AI) kan hebben op mensenrechten en de noodzaak mensenrechten te waarborgen. Michelle Bachelet, commissaris voor mensenrechten bij de VN, roept op tot een ban op AI-toepassingen die niet in lijn zijn met internationale wetgeving op het gebied van mensenrechten.

Bachelet roept op tot een stop op het gebruik van AI-technologie die serieuze risico's met zich meebrengt voor mensenrechten. Denk hierbij aan gezichtscansystemen die mensen in openbare ruimtes volgen. Het gebruik en de gevaren van AI zijn volgens de VN-commissaris een groeiend probleem. Zij waarschuwt voor 'negatieve, catastrofale effecten' indien zij worden gebruikt zonder voldoende acht voor de impact op mensenrechten.

AI-toepassingen die verboden zouden moeten worden zijn onder meer sociale scoresystemen die mensen beoordelen op basis van gedrag. Het gaat daarnaast om AI-gebaseerde tools die mensen op basis van etniciteit of geslacht in groepen indelen. 

Gezichtsherkenning

Bachelet pleit niet voor een verbod op gezichtsherkenningstechnologie. Wel roept zij overheden op het in real-time scannen van mensen op te schorten totdat zij kunnen aantonen dat de technologie nauwkeurig is, niet discrimineert en aan bepaalde privacy- en databeschermingstandaarden voldoet.

Meer informatie is hier beschikbaar.

 

Terug naar nieuws overzicht