AI wordt een partner voor menselijke beslissers

AI wordt een partner voor menselijke beslissers

Pieter den Hamer, Research Director, Gartner

01-06-2020 | door: Marco van der Hoeven

AI wordt een partner voor menselijke beslissers

De impact van de coronacrisis is zo groot op alle geledingen van het leven dat alle middelen worden aangegrepen om het effect ervan zoveel mogelijk te verzachten. Technologie speelt daar een belangrijke rol in, en zeker artificial intelligence wordt veelvuldig genoemd als hulpmiddel. Bij Gartner volgt analist Pieter den Hamer deze ontwikkelingen.

Pieter den Hamer heeft als Research Director bij Gartner onder meer artificial Intelligence in zijn portefeuille. De huidige coronacrisis maakt het thema artificial intelligence zo mogelijk nog actueler. “Het is duidelijk dat een crisis altijd op allerlei manieren effect heeft op de inzet van technologie, niet alleen in de eerste golf, maar ook in het vervolg erop. Wij hebben een overzicht gemaakt van wat we allemaal aan ideeën hebben gezien die zijn ontstaan om de kracht van AI op een verantwoordelijke manier te gebruiken, met respect voor privacy en andere ethische vraagstukken, om de enorme impact van de coronacrisis te beperken.”
“Want die impact is zo groot dat je als maatschappij en als bedrijf elk middel wilt aangrijpen om dat effect te verkleinen. Het is, ondanks dat het een tragische situatie is, mooi om te zien dat er heel veel creativiteit ontstaat om op een slimme manier data en AI te gebruiken. Bij onze inventarisatie is het zoveel gebleken, dat we bijna door de bomen het bos niet meer zagen. Daarom hebben we eerst een verdeling gemaakt in soorten toepassingen.”

Analyse

Gartner onderscheidt daarin vijf gebieden. De eerste is ‘Vroege detectie en epidemische analyse’, waarbij AI-technieken worden gebruikt om te begrijpen, analyseren en voorspellen hoe en waar het virus zich verspreidt of vertraagt. Geautomatiseerde contacttracering wordt bijvoorbeeld gebruikt om gedetailleerde grafieken van sociale interactie op te bouwen door een groot aantal burgergegevens te analyseren, zoals locaties van mobiele telefoons en openbare gezichtsherkenning, en door de bewegingen van mensen te volgen om de waarschijnlijke virusbron te identificeren. Personen die de bron zijn tegengekomen, kunnen vervolgens worden aangemeld, getest of in quarantaine worden geplaatst.
De tweede toepassing is ‘Inperking’. Gezien de enorme maatschappelijke en economische impact van ‘one-size-fits-all’-maatregelen zoals lockdowns, is samenwerking met niet-IT-experts van het grootste belang bij het toepassen van AI op beheersingsinspanningen. Nummer drie is ‘Triage en diagnose’. Het gebruik van AI-gebaseerde zelftriage is al populair geworden omdat tele-gezondheidspraktijken, waaronder virtuele gezondheidsassistenten, beschikbaar zijn gesteld om mensen te helpen identificeren of ze mogelijk besmet zijn en wat de juiste vervolgstappen zijn.

Prognose

De vierde toepassing is die van de ‘Gezondheidszorgoperaties’, omdat AI een belangrijke rol speelt bij het stroomlijnen van de zorgactiviteiten en het optimaliseren van schaarse ziekenhuismiddelen tijdens een pandemie. CIO’s en CDO’s in de gezondheidszorg kunnen voorspellend personeel gebruiken om de personeelstoewijzing te verbeteren door de verwachte patiëntaantallen en hun individuele prognose te analyseren en deze te vergelijken met de beschikbaarheid van gekwalificeerd medisch personeel, materiaal en apparatuur.
De laatste tenslotte is ‘Vaccin onderzoek en ontwikkeling (R&D).’ AI-grafieken en natuurlijke taalverwerking (NLP) kunnen medische onderzoekers in staat stellen duizenden relevante rapporten te doorzoeken om in ongekend tempo verbanden te leggen tussen gegevens. Augmented vaccin R&D identificeert ook coronavirus-tegenmaatregelen, waaronder maatregelen die al op mensen zijn getest.

Relevant

Het is volgens Den Hamer wel zaak om realistisch te kijken naar de mogelijkheden van AI. “Soms is er spraken van techno-optimisme. Het gezegde ‘als je een hamer hebt lijkt alles op een spijker’ geldt ook hier. Het is een risico als technische experts op het gebied van AI dingen gaan roepen die geen relevantie hebben, en daar aandacht en energie voor gaan vragen.”
Wat Gartner dan aanraadt is om AI-experts niet op de stoel te zetten van medische experts en epidemiologen. “Ze kunnen natuurlijk wel pro-actief ideeën aanraden. Want dat is hun vak, en zij weten wel wat er mogelijk is. Maar ga niet op de stoel van de domein-expert zitten. Zoek samenwerking.” Dat advies geldt eigenlijk voor alle AI-toepassingen. “Want uiteindelijk is AI een tool, geen wondermiddel, Wees er dus zeker van dat wat je doet met de technologie praktisch, relevant en haalbaar is.”
“Waar je ook op moet letten is dat sommige problemen vragen om de juiste data. Want zonder data is AI blind. En dat geldt ook voor medische toepassingen. De data die we hebben is beperkt. Voor machine learning heb je heel veel data nodig, en je moet er goed mee uitkijken, is die data betrouwbaar? Is het ook in andere landen bruikbaar? De beschikbaarheid van data is een niet te onderschatten bouwblok voor AI.”

Valkuilen

Gartner heeft recent een wereldwijde survey gedaan waarin gevraagd is aan bedrijven wat voor hen de valkuilen zijn bij het inzetten van AI. Bovenaan staan de zorgen die mensen hebben over privacy en compliance. En dan niet alleen consumenten en burgers, maar ook bedrijven en overheden zijn zich hier enorm bewust van, en weten dat mensen terecht zorgen hebben over de omgang met data. Of worden er geen onterechte beslissingen genomen omdat er bias in de AI zit? Daar blind voor zijn is zeker een valkuil.”
Het tweede aspect is de moeite die mensen hebben met het vinden van toepassingen die echt nuttig en haalbaar zijn. “Dat heeft deels te maken met enthousiasme en soms een hype rond AI. De stap zetten naar toepassingen die echt waarde creëren is een moedige en lastige stap. Het is één ding om een kleinschalige innovatie te starten met prototypen, maar het is wat anders als je het breed gaat inzetten in de echte wereld. Dat vraagt om verandermanagement, cultuur en bewustzijn. En er moet mogelijk weerstand overwonnen worden.”

Bedreiging

Want soms zien mensen AI als een bedreiging, maar dat is in praktijk zelden of nooit het geval. “AI kan wel effect hebben op de werkgelegenheid, maar wat er gebeurt is dat dit gecompenseerd wordt door de vraag naar nieuwe banen. Niettemin is het zaak om de sentimenten die bestaan niet te onderschatten.”

Bias

Een discussie die al enige tijd loopt rond AI is die over bias, wat betekent dat een bepaald AI systeem beslissingen neemt waardoor discriminatie plaatsvindt. “Die bias is zeer moeilijk te voorkomen, omdat AI gebaseerd is op historische data waar menselijke oordelen een rol in spelen. En mensen zijn per definitie bevooroordeeld. Dat wil echter niet zeggen dat we het dan maar moeten accepteren, maar we moeten het wel zoveel mogelijk terugdringen.”
Belangrijk is in ieder geval transparantie, waarbij duidelijk is op basis van welke modellen keuzes worden gemaakt door de algoritmen. “Dat maakt de keuzes begrijpelijk voor mensen. Een ander middel is zorgen voor diversiteit, dus zorgen dat die data voldoende divers en representatief is voor het domein. Een andere vorm van diversiteit zit in de mensen die je gebruikt om je AI systeem te trainen. Zorg voor verschillen in leeftijd, geslacht en etnische achtergrond.”

Succes

In een ander onderzoek dat Gartner heeft gedaan is gekeken naar de vraag welke organisaties succesvol zijn op het gebied van AI. “Succesvolle bedrijven hebben altijd een eigenaar vanuit de business, niet alleen vanuit de technologie. Dat is een opvallende uitkomst. Het vraagt in een organisatie om data-literacy, waarbij mensen zich ervan doordrongen zijn hoe belangrijk data is.”
Data levert inzichten op, en het is belangrijk te weten wat je ermee gaat doen. “Dat vraagt om het anders inrichten van processen, zodat de mensen en middelen op de juiste manier op veranderende inzichten kunnen reageren. In de systemen heb je meer intelligentie nodig om de juiste aanbevelingen te doen. Dat maakt de wereld complexer, en een complexere wereld vraagt om meer ondersteuning door AI. Daarmee wordt AI een partner voor menselijke beslissers.”

 

Terug naar nieuws overzicht