Ethical Bias Check voorkomt discriminatie door AI bij klantinteractie

22-05-2020 | door: Wouter Hoeffnagel

Ethical Bias Check voorkomt discriminatie door AI bij klantinteractie

Softwareleverancier Pegasystems lanceert een nieuwe functionaliteit van de Pega Customer Decision Hub. Met Ethical Bias Check kunnen organisaties eventuele vooroordelen en discriminatie (‘bias’) in AI-gestuurde customer engagement activiteiten eruit filteren. De tool wijst op alle kanalen op mogelijk discriminerende aanbiedingen en berichten gegenereerd door AI, voordat ze klant bereiken.

Indien op de juiste wijze toegepast helpt AI organisaties meer waarde aan iedere klantinteractie toe te voegen. Klanten blijven zo loyaal aan een merk en dat leidt uiteindelijk tot hogere winstgevendheid. Toch kunnen AI-modellen onbewust vooroordelen aanleren op basis van bijvoorbeeld leeftijd, etniciteit of geslacht. Wordt dit niet opgemerkt, dan kan het leiden tot pijnlijke, discriminerende praktijken zoals het verstrekken van minder leningen, verzekeringspolissen of productkortingen. In de huidige onvoorspelbare economie, kunnen bedrijven het niet riskeren om het vertrouwen van hun klanten te verliezen omdat ze door de pandemie al kwetsbaarder zijn.

Ethical Bias Check helpt organisaties AI verantwoord toe te passen bij het gebruik ervan in klantinteractie. Het spoort ongewenste discriminatie op door voorspellende analyses te gebruiken en zo de waarschijnlijke resultaten van een bepaalde strategie te simuleren. Na het instellen van testdrempels, ontvangen klanten waarschuwingen wanneer de bias risico’s een onaanvaardbaar niveau bereiken, zoals wanneer de doelgroep voor een bepaald aanbod scheeftrekt naar of juist weg van specifieke demografische gegevens. Operationele teams kunnen dan het aanstootgevende algoritme opsporen en de strategie aanpassen voor een evenwichtiger en eerlijk resultaat voor iedereen.

Volledige engagement-strategie in één keer simuleren

De meeste andere AI-bias-tools moeten bij elke individuele aanbieding separate bias tests uitvoeren. Dit is tijdrovend en foutgevoelig. Pega stroomlijnt het testen op vooroordelen door in één keer een complete engagement-strategie te simuleren, op alle verbonden kanalen. Met Pega’s centrale ‘AI-brein’ worden alle AI-beslissingen automatisch gescreend op vooroordelen – bijvoorbeeld ook welke marketingaanbieding via het web wordt gedaan, welke speciale actie via e-mail wordt verstuurd of welke aanbeveling de klantenservice aan de klant doet. De gedetailleerde bias rapportages van Pega helpen de klant te begrijpen waar en waarom er een kwestie zou kunnen ontstaan. Deze kan dan worden gecorrigeerd, voordat het daadwerkelijk een probleem wordt.

Ook kunnen organisaties acceptabele drempels instellen voor elk element dat bias kan veroorzaken, zoals leeftijd, geslacht of etniciteit. Deze drempels kunnen ook worden aangepast voor scenario's waarin vertekende uitkomsten gerechtvaardigd kunnen zijn - zoals wanneer een gezondheidsorganisatie zich voornamelijk richt op senioren met informatie over relevante gezondheidsdiensten. Gebruikers hebben de flexibiliteit om die drempelwaarden te verruimen of te beperken om rekening te houden met de gewenste resultaten van hun klantgerichte strategieën.

Bescherming tegen bias

Klanten kunnen bias-testen opnemen als standaardprocedure voor alle strategieën. Zelfs wanneer deze strategieën worden aangepast en nieuwe aanbiedingen of acties worden toegevoegd, worden hun customer engagement programma's automatisch gescreend op bias door de software.

Naast Ethical Bias Check introduceerde Pega eerder andere functies in Pega Customer Decision Hub, die erop gericht zijn klanten te helpen verantwoord met AI om te gaan. Dit omvat de T-Switch, die organisaties controle geeft over de transparantie van hun AI-modellen voor klantbetrokkenheid.

'Always-on’ brein

Pega Customer Decision Hub fungeert als een ‘always-on’ brein. Het biedt gecentraliseerde AI op alle klantcontactmomenten om de interactie te optimaliseren en er meer waarde aan toe te voegen. Dankzij de mogelijkheden van voorspellende analyses en customer decision management kunnen organisaties inzichten opdoen en in real-time aanbevelingen doen voor de beste actie op elk moment van de klantreis, van marketing tot verkoop tot klantenservice.

“AI wordt inmiddels in bijna elk aspect van klantbetrokkenheid ingezet. Verschillende spraakmakende incidenten hebben organisaties bewuster gemaakt van het risico op onbedoelde discriminatie en het pijnlijke effect ervan op klanten", aldus Dr. Rob Walker, vice president decisioning & analytics, Pegasystems. "Met de Ethical Bias Check geven we organisaties meer mogelijkheden om de kans op bias in AI-strategieën te verminderen voor betere interactie tussen bedrijven en klanten en hogere customer lifetime value."

Terug naar nieuws overzicht