AI in de EU: De balans tussen voordelen en controle

Toen de voorzitter van de Europese Commissie in december 2019 haar eerste toespraak hield voor het Europees Parlement, erkende ze 'Artificial Intelligence' officieel als een gebied van strategisch belang voor de Europese Unie. Negen maanden later richtte ze zich opnieuw tot het Europees Parlement in haar eerste 'State of the Union'-toespraak en was ze van het spellen van 'Artifical Intelligence' overgegaan op praten in termen van 'AI'. Zo bekend is de technologie binnen de EU inmiddels. Dit is niet zo verwonderlijk als bedacht wordt dat AI wordt ingezet in de meeste (zo niet alle) sectoren van de economie, van de diagnose van ziekten tot minimalisering van de milieu-impact van de landbouw.

Het is waar dat er veel werk is verzet door de Europese Commissie sinds president Ursula Von der Leyen en haar team aantraden. In december 2019 werd al een 'wetsvoorstel' over AI beloofd, wat in februari ook daadwerkelijk werd geleverd als AI-witboek. Hoewel dit geen wetsvoorstel is, is het wel een document dat het debat op gang heeft gebracht over menselijke en ethische AI, het gebruik van Big Data en hoe deze technologieën kunnen worden gebruikt om welvaart te creëren voor de samenleving en het bedrijfsleven.

Het Witboek van de Commissie benadrukt het belang van een uniforme benadering van AI in de 27 lidstaten van de EU, waar verschillende landen hun eigen benadering van regelgeving zijn gaan volgen, en dus mogelijk belemmeringen opwerpen voor de interne markt van de EU. Het Witboek spreekt ook over plannen om een risicogebaseerde benadering te volgen bij het reguleren van AI. Dit is van belang voor Huawei.

Bij Huawei hebben we het Witboek met interesse bestudeerd en hebben we samen met (meer dan 1250!) andere belanghebbenden bijgedragen aan de openbare consultatie van de Commissie, die op 14 juni werd afgesloten. Daarbij hebben we onze input en ideeën gegeven als experts die op dit gebied werkzaam zijn.

De balans vinden

Het belangrijkste punt dat we bij de Commissie hebben benadrukt, is de noodzaak om de juiste balans te vinden tussen het toestaan van innovatie en het waarborgen van voldoende bescherming van de burger.

We hebben ons in het bijzonder gericht op de noodzaak dat toepassingen met een hoog risico worden gereguleerd binnen een duidelijk wettelijk kader, en hebben ideeën voorgesteld over wat de definitie van AI zou moeten inhouden. Huawei is van mening dat de definitie van AI moet neerkomen op de toepassing ervan, met risicobeoordelingen gericht op het beoogde gebruik van de applicatie en het type impact dat voortvloeit uit de AI-functie. Als er gedetailleerde beoordelingslijsten en procedures zijn voor bedrijven om hun eigen zelfevaluaties te maken, zal dit de kosten van een initiële risicobeoordeling verlagen, die moet voldoen aan sectorspecifieke vereisten.

We hebben de Commissie aanbevolen om consumentenorganisaties, de academische wereld, lidstaten en bedrijven samen te brengen om te beoordelen of een AI-systeem kan worden aangemerkt als risicovol. Er is al een gevestigde instantie opgericht om met dit soort zaken om te gaan, het Technical Committee High Risk Systems (TCRAI). Wij zijn van mening dat deze instantie AI-systemen zowel juridisch als technisch kan beoordelen en evalueren op basis van risicovolle criteria. Als dit orgaan enige controle zou krijgen, gecombineerd met een vrijwillig etiketteringssysteem, zou het aanbod een governancemodel zijn dat

• rekening houdt met de gehele toeleveringsketen
• de juiste criteria opstelt en zich richt op het beoogde doel van transparantie voor consumenten/bedrijven
• de verantwoorde ontwikkeling en inzet van AI  stimuleert, en
• een ecosysteem van vertrouwen creëert.

Afgezien van de risicovolle toepassingen van AI, hebben we tegenover de Commissie verklaard dat het bestaande wettelijke kader op basis van contractuele en schuldaansprakelijkheid voldoende is, zelfs voor de modernste technologieën als AI, waarvoor mogelijk een angst bestaat dat nieuwe technologie nieuwe regels vereist Extra regelgeving is echter niet nodig; het zou te veel rompslomp geven en de invoering van AI ontmoedigen.

Uit wat we weten van de huidige manier van denken binnen de Commissie, blijkt dat ook de Commissie van plan is om een risicogebaseerde benadering te volgen bij het reguleren van AI. In het bijzonder stelt de Commissie voor om op korte termijn te focussen op AI-toepassingen met een hoog risico, dat wil zeggen hoog-risico-sectoren (zoals de gezondheidszorg) of risicovol gebruik (bijvoorbeeld of dit juridische of vergelijkbare significante gevolgen heeft voor de rechten van een individu).

Wat nu?

De Commissie heeft veel werk te verzetten om alle reacties op de consultatie door te nemen, rekening houdend met de wensen van het bedrijfsleven, het maatschappelijk middenveld, handelsverenigingen, ngo's en overige partijen. De extra last om door de coronacrisis heen te werken, heeft de zaken niet geholpen, en de formele reactie van de Commissie wordt nu pas in het eerste kwartaal van 2021 verwacht.

Het coronavirus is natuurlijk een gamechanger geweest voor het gebruik van technologie in de gezondheidszorg en zal ongetwijfeld een impact hebben op het denken van de Commissie op dit gebied. Er wordt al jaren over termen als 'telegeneeskunde' gesproken, maar door de crisis zijn virtuele consulten werkelijkheid geworden, bijna van de ene op de andere dag.

Naast de gezondheidszorg zien we dat AI-implementatie voortdurend wordt uitgerold in gebieden als de landbouw en bij de inspanningen van de EU om klimaatverandering te bestrijden. We zijn er trots op dat Huawei deel uitmaakt van deze voortdurende digitale ontwikkeling in Europa, een regio waarin en waarvoor we al 20 jaar werkzaam zijn. De ontwikkeling van digitale vaardigheden staat hierbij centraal, waardoor toekomstige generaties niet alleen de tools krijgen om het potentieel van AI te benutten, maar ook het huidige personeelsbestand in staat zal stellen actief en wendbaar te zijn in een steeds veranderende wereld: er is een behoefte aan een inclusieve, op levenslang leren gebaseerde en innovatiegedreven benadering van AI-onderwijs en -training, om zo mensen te helpen naadloos van baan te wisselen. De arbeidsmarkt is zwaar getroffen door de crisis en er zijn snelle oplossingen nodig.

Wat valt er, terwijl we wachten op het formele antwoord van de Commissie op het Witboek, nog meer te zeggen over AI in Europa? Betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productie, slimme landbouw en goedkopere en duurzamere energiebronnen: dit zijn slechts enkele van de voordelen die AI kan opleveren voor onze samenlevingen en voor de EU als geheel. Huawei zal samenwerken met EU-beleidsmakers en zal ernaar streven dat de regio de balans juist krijgt: innovatie gecombineerd met consumentenbescherming.

Door: Angeliki Dedopoulou, Senior Manager, EU Public Affairs, Huawei Technologies