UNICRI: samen tegen crimineel gebruik van AI

AI en robotics hebben ingrijpende gevolgen voor de maatschappij. In positieve, maar ook negatieve zin, omdat ook criminelen AI hebben ontdekt. Daarom is in Den Haag het United Nations Interregional Crime and Justice Research Institute (UNICRI), waar strategieën worden bedacht en gedeeld met regeringen om crimineel gebruik van AI tegen te gaan, in te zetten voor het bestrijden van criminaliteit

“Onze maatschappij is ingrijpend veranderd door de snelle ontwikkelingen in technologie”, zegt Irakli Beridze, directeur van het United Nations Interregional Crime and Justice Research Institute (UNICRI) in Den Haag. “Technologie groeit al jaren exponentieel, maar de laatste jaren gaat het bij sommige technologieën nog sneller, zoals Artificial Intelligence (AI) en robotics.”
Om AI effectief in te zetten zijn een aantal ingrediënten nodig: data, rekenkracht en algoritmen. Vooral met die data gaat het snel; “De afgelopen paar jaar hebben we in de wereld meer data verzameld dan in de hele voorgaande geschiedenis van de mensheid bij elkaar. En dat wordt alleen maar meer, in een steeds hoger tempo.”

Problemen oplossen
Rekenkracht groeit eveneens fors, door de Wet van Moore is de beschikbare rekenkracht in systemen groter dan ooit. En tegelijkertijd werken meer mensen aan de algoritmen om die rekenkracht in te zetten voor het analyseren van data. Dát is wat onze maatschappij ingrijpend verandert.”
In een breed scala aan sectoren, van de gezondheidszorg en de financiële sector tot transport en logistiek, is die verandering merkbaar. Ook in security en het politiewerk speelt AI een rol. De Verenigde Naties hebben die ingrijpende verandering, en het potentieel, van AI onderkend. “De VN kijkt dus hoe AI op een goede manier kan worden ingezet, om problemen in de wereld op te lossen.”

Bedreiging
“Maar tegelijkertijd kan deze technologie een bedreiging vormen. Bij UNICRI, een onderdeel van de VN, kijken we naar zaken als misdaadpreventie en wet- en regelgeving. We helpen lidstaten om met deze zaken om te gaan.”
In 2014 initieerde Irakli bij de VN deze activiteiten rond AI en robotics. In samenwerking met onder andere de Gemeente Den Haag heeft hij nu een speciaal expertisecentrum opgezet, dat kijkt naar drie aspecten van AI: hoe gebruiken criminelen AI? Hoe kan de politie AI gebruiken? Hoe doe je dit in een ethisch kader?
Een aantal onderwerpen staan binnen dit brede spectrum hoog op de agenda, zoals bestrijding van mensenhandel en kindermisbruik met AI. Ook de opkomst van deep fakes is een actueel onderwerp, naast natuurlijk bestrijden van terrorisme.
Criminelen maken al volop gebruik van AI. “Een van de meest actuele bedreigingen is het criminele gebruik van AI op zich. Dat speelt op diverse gebieden, want de technologie is er geschikt voor. Zo kan AI worden ingezet hackers te helpen. Er bestaan AI-driven tools om cyberattacks uit te voeren. Het systeem kan 24 uur per dag onafgebroken werken, leert van eigen fouten en kan zo gaten in beveiliging vinden. De enige manier om dit te bestrijden is door zelf ook gebruik te maken van AI.

Drones
Daarnaast spelen fysieke bedreigingen. Dat kan door AI en robotics te verbinden, bijvoorbeeld door een drone uit te rusten met gezichtsherkenningssoftware. Naarmate de tijd vordert wordt gezichtsherkenning steeds beter. We hebben al 80 tot 90 procent accuratesse, en er wordt steeds meer aan gewerkt. Als dat aan een drone of een swarm wordt gekoppeld kan dat gevaarlijk zijn.
“En tenslotte hebben we te maken met de politieke dreiging van AI, dus iedere manier waarop AI politiek kan beïnvloeden. Zoals met de eerder genoemde deep fakes om schade toe te brengen aan politieke tegenstanders. Die technologie ontwikkelt zich ook steeds meer. Je hoeft alleen maar een realistische video te maken van je politieke tegenstander en je kunt al schade toebrengen. Ik verwacht dat we de komende tijd veel gevallen gaan zien waarop deep fakes op die manier gebruikt gaan worden.”

Optreden
“Misdaad bestaat al sinds de mensheid bestaat, dus we kunnen dat niet volledig uitroeien. We kunnen wel de nieuwe manieren van criminele activiteiten bestrijden. Daarvoor is het nodig om wetshandhavers goed op de hoogte te brengen van de dreigingen die er zijn, èn de manier waarop ze daartegen kunnen optreden. Want de criminelen gebruiken het, en worden daar beter in. Gelukkig zien we dat steeds meer landen aandacht besteden aan de bestrijding van AI-gerelateerde misdaad.”
Er zijn verschillende uitdagingen. “Landen zijn pas vanaf 2017 plannen aan het maken van plannen rond AI. Er wordt nu geïnvesteerd, maar dat gaat niet alleen over misdaadbestrijding. We staan dus aan het begin. Er ontstaan wel goede initiatieven, zoals de AI Coalitie in Nederland.”

Digitale kloof
“We moeten wel oppassen dat alleen bepaalde landen de benodigde technologie en kennis in huis hebben, waarbij andere landen achterblijven. Dat zou ten eerste leiden tot een digitale kloof, en ten tweede zouden dat safe havens worden voor criminelen die misbruik maken van de achterstand in die landen.”
De enorme hoeveelheid data die beschikbaar is kan de politie helpen. “Maar je moet wel weten hoe die data tot zinnige conclusies leidt. En mensen zijn niet in staat om al die data te verwerken. Daar is AI voor nodig. Het zal onvermijdelijk zijn om AI in te zetten om resultaten te boeken.”

Politiek
“Daarvoor is het natuurlijk nodig op een goede manier om te gaan met privacy. Gebieden waar de politie AI zal gaan inzetten zijn beeldherkenning en spraakherkenning. Ook predictive policing zal belangrijker worden, om de schaarse middelen van de politie zo efficiënt mogelijk in te zetten.”
Steun voor de activiteiten van UNICRI is er op hoog politiek niveau. De secretaris-generaal van de VN heeft de maatschappelijke impact van technologie op gelijke hoogte gesteld met klimaatverandering. Ook politici van steeds meer landen hebben aandacht voor de effecten van AI, en laten zich daarover informeren door de VN. Het staat steeds hoger op de agenda van politici.”