Wie is verantwoordelijk voor de bijwerkingen van innovatie

Frits Bussemaker, initiatiefnemer van iPoort in Den Haag

22-04-2019 | door: Marco van der Hoeven

Wie is verantwoordelijk voor de bijwerkingen van innovatie

 

De ontwikkeling van technologie, en de innovatie die daaruit voortkomt, gaat sneller dan de wet- en regelgeving kan bijhouden. Dat kan leiden tot ongewenste gevolgen, hoe goed de aanvankelijke intenties ook waren. Daarom is accountability een thema dat steeds meer aandacht krijgt, zowel bij de overheid als bij ondernemingen.

Frits Bussemaker is al jaren actief op het snijvlak van overheid en ICT, onder meer als initiatiefnemer van iPoort in Den Haag. Momenteel helpt hij de Rijksinnovatie-community, die de verschillende innovaties binnen de Rijksoverheid met elkaar verbindt, met de communityvorming. Daarnaast is hij oprichter en voorzitter van het Institute for Accountability in the Digtial Age (I4ADA).

In die laatste hoedanigheid heeft hij veel te maken met de gevolgen en vooral bijwerkingen van innovatie. "Het vraag stuk van accountability heb ik opgepakt na contacten met Unesco", legt Bussemaker uit, "waar werd nagedacht over de manier waarop je met kennis omgaat. De leden van Unesco worden steeds meer geconfronteerd  met de trend dat de ontwikkeling van nieuwe technologie sneller gaat dan de wet- en regelgeving kan volgen."

Tempo

Hij vervolgt: "Dat is geen volledig nieuwe ontwikkeling, maar het gaat nu wel heel erg snel. Dat hoge tempo leidt weer tot veranderingen die Unesco hebben aangezet om die discussie wereldwijd te gaan voeren. Je ziet nu eenmaal dat technologie, met name informatietechnologie, zo'n grote impact heeft dat wetgeving al heel snel achterhaald is."

Hij noemt als voorbeeld de Amerikaanse Human Decency Act uit 1991. "Die is opgesteld toen internet net bestond, Het doel was onder meer om kinderporno tegen te gaan. Maar één van de bepalingen in die wet is dat de internetprovider niet verantwoordelijk is voor de content die op zijn platform wordt doorgegeven."

Praktijk

"In de loop der tijd is die wetgeving echter steeds meer gaan wringen met de praktijk. Vorig jaar zag je daarvan een voorbeeld in de public hearing van Marc Zuckerberg in het Amerikaanse congres. Want wat daarin volgens mij te weinig aandacht heeft gekregen is dat hij daarin expliciet heeft uitgesproken dat hij wel degelijk verantwoordelijk is voor de content in zijn systeem."

"We zien dus een kentering in verantwoordelijkheid, omdat technologie echt impact heeft. Er wordt niet alleen meer nagedacht over beleid, en wet- en regelgeving, maar er wordt ook nagedacht over de accountability. Want wet- en regelgeving is een instrument om te komen tot die accountability. En er wordt nagedacht over de vraag met welke middelen we die accountability kunnen bereiken."

Botsingen

Om tot eenduidige richtlijnen te komen zijn er nog wel wat hindernissen te overwinnen, zoals internationale verschillen in benadering. "Bijvoorbeeld tussen Europa en de VS. Waar wij uitgaan van government led legislation, is in de VS sprake van industry led regulation. Dat is een fundamenteel ander uitgangspunt. En dan hebben we het nog niet eens over de verschillen tussen met India of China. Maar het komt uiteindelijk bij elkaar, omdat we allemaal gebruik maken van dezelfde infrastructuur."

Een vergelijkbare convergentie constateert hij ook tussen branches. "De ITU bijvoorbeeld, die uit de telecom-omgeving komt, vindt dat er gereguleerd moet worden. Maar de internetwereld vindt van niet. Maar je kunt niet de een reguleren en de ander niet. Dat is niet logisch. Je ziet dus dat werelden die voorheen gescheiden waren nu samenkomen. Dat leidt soms tot botsingen."

Macht

Deze discussie is relatief nieuw. "We praten pas twee of drie jaar over ethiek.  Er ontstaat een toenemend besef van de grote macht die platforms als Google, Apple, Facebook en Microsoft hebben. Het is een opeenstapeling van zaken, waaronder het wegvallen van de traditionele silo's." Dat gebeurt onder meer in de bankwereld. "Vroeger waren traditionele banken verantwoordelijk voor bankieren. Maar nu zijn op die markt ook technologiebedrijven actief."

En soms gaan dingen mis, wat steeds vaker veel publiciteit krijgt. "Heel lang is er een technologiepush geweest, vanuit de technologie. Dat botst ondertussen met onze normen en waarden omdat die technologie steeds meer kan. We moeten dus niet alleen een discussie hebben over accountability, maar ook over de randvoorwaarden. En dat ligt gevoelig. Want men praat er wel over, maar hoe we dat concreet gaan maken blijft nog open. We zitten nu in de fase dat we vooral accountability aan het agenderen zijn."

Silo's doorbreken

Zo ziet hij in de discussie over algoritmen dat mensen zich vaak verschuilen achter het standpunt dat de computer en neutraal element is dat een beslissing neemt. "Maar dat is niet zo. Er zit altijd een mens achter die de software geprogrammeerd heeft. Er is dus een discussie aan het ontstaan over de vraag wie verantwoordelijk is voor de algoritmen. Dat is een goede zaak, want de mensen achter de algoritmen zijn niet  onfeilbaar. Er si nog steeds een menselijke discussie nodig."

Hij pleit er daarom voor om de silo's te doorbreken, en een netwerk te creëren op basis van de vraag wat we gemeenschappelijk hebben. "Nederland is bij uitstek geschikt om die discussie te initiëren, omdat we als klein land voor niemand een bedreiging zijn. Dat gaat niet lukken vanuit de VS of vanuit China."

Politiek

 

Over de politieke component is hij positief. "Je ziet dat IT-ers aan de ene kant en politici aan de andere kant steeds meer met elkaar in gesprek raken. IT is een politiek onderwerp, en wij zijn ook als IT-ers een andere taal gaan spreken. Tegelijkertijd hebben ook Kamerleden het besef gekregen dat IT wel degelijk een maatschappelijk impact heeft, en we zien dat zij over de consequenties nadenken. Ik ben optimistisch, omdat er nu dingen gebeuren die vijf jaar geleden niet konden."

[Kader]

Het Institute for Accountability in the Digtial Age (I4ADA) heeft vorig jaar in het Vredespaleis in Den Haag, de stad van Vrede en Recht, een drukbezochte summit georganiseerd. Op 6 en 7 november zal er een vervolg op komen.

 

De ontwikkeling van technologie, en de innovatie die daaruit voortkomt, gaat sneller dan de wet- en regelgeving kan bijhouden. Dat kan leiden tot ongewenste gevolgen, hoe goed de aanvankelijke intenties ook waren. Daarom is accountability een thema dat steeds meer aandacht krijgt, zowel bij de overheid als bij ondernemingen.

Frits Bussemaker is al jaren actief op het snijvlak van overheid en ICT, onder meer als initiatiefnemer van iPoort in Den Haag. Momenteel helpt hij de Rijksinnovatie-community, die de verschillende innovaties binnen de Rijksoverheid met elkaar verbindt, met de communityvorming. Daarnaast is hij oprichter en voorzitter van het Institute for Accountability in the Digtial Age (I4ADA).

In die laatste hoedanigheid heeft hij veel te maken met de gevolgen en vooral bijwerkingen van innovatie. "Het vraag stuk van accountability heb ik opgepakt na contacten met Unesco", legt Bussemaker uit, "waar werd nagedacht over de manier waarop je met kennis omgaat. De leden van Unesco worden steeds meer geconfronteerd  met de trend dat de ontwikkeling van nieuwe technologie sneller gaat dan de wet- en regelgeving kan volgen."

Tempo

Hij vervolgt: "Dat is geen volledig nieuwe ontwikkeling, maar het gaat nu wel heel erg snel. Dat hoge tempo leidt weer tot veranderingen die Unesco hebben aangezet om die discussie wereldwijd te gaan voeren. Je ziet nu eenmaal dat technologie, met name informatietechnologie, zo'n grote impact heeft dat wetgeving al heel snel achterhaald is."

Hij noemt als voorbeeld de Amerikaanse Human Decency Act uit 1991. "Die is opgesteld toen internet net bestond, Het doel was onder meer om kinderporno tegen te gaan. Maar één van de bepalingen in die wet is dat de internetprovider niet verantwoordelijk is voor de content die op zijn platform wordt doorgegeven."

Praktijk

"In de loop der tijd is die wetgeving echter steeds meer gaan wringen met de praktijk. Vorig jaar zag je daarvan een voorbeeld in de public hearing van Marc Zuckerberg in het Amerikaanse congres. Want wat daarin volgens mij te weinig aandacht heeft gekregen is dat hij daarin expliciet heeft uitgesproken dat hij wel degelijk verantwoordelijk is voor de content in zijn systeem."

"We zien dus een kentering in verantwoordelijkheid, omdat technologie echt impact heeft. Er wordt niet alleen meer nagedacht over beleid, en wet- en regelgeving, maar er wordt ook nagedacht over de accountability. Want wet- en regelgeving is een instrument om te komen tot die accountability. En er wordt nagedacht over de vraag met welke middelen we die accountability kunnen bereiken."

Botsingen

Om tot eenduidige richtlijnen te komen zijn er nog wel wat hindernissen te overwinnen, zoals internationale verschillen in benadering. "Bijvoorbeeld tussen Europa en de VS. Waar wij uitgaan van government led legislation, is in de VS sprake van industry led regulation. Dat is een fundamenteel ander uitgangspunt. En dan hebben we het nog niet eens over de verschillen tussen met India of China. Maar het komt uiteindelijk bij elkaar, omdat we allemaal gebruik maken van dezelfde infrastructuur."

Een vergelijkbare convergentie constateert hij ook tussen branches. "De ITU bijvoorbeeld, die uit de telecom-omgeving komt, vindt dat er gereguleerd moet worden. Maar de internetwereld vindt van niet. Maar je kunt niet de een reguleren en de ander niet. Dat is niet logisch. Je ziet dus dat werelden die voorheen gescheiden waren nu samenkomen. Dat leidt soms tot botsingen."

Macht

Deze discussie is relatief nieuw. "We praten pas twee of drie jaar over ethiek.  Er ontstaat een toenemend besef van de grote macht die platforms als Google, Apple, Facebook en Microsoft hebben. Het is een opeenstapeling van zaken, waaronder het wegvallen van de traditionele silo's." Dat gebeurt onder meer in de bankwereld. "Vroeger waren traditionele banken verantwoordelijk voor bankieren. Maar nu zijn op die markt ook technologiebedrijven actief."

En soms gaan dingen mis, wat steeds vaker veel publiciteit krijgt. "Heel lang is er een technologiepush geweest, vanuit de technologie. Dat botst ondertussen met onze normen en waarden omdat die technologie steeds meer kan. We moeten dus niet alleen een discussie hebben over accountability, maar ook over de randvoorwaarden. En dat ligt gevoelig. Want men praat er wel over, maar hoe we dat concreet gaan maken blijft nog open. We zitten nu in de fase dat we vooral accountability aan het agenderen zijn."

Silo's doorbreken

Zo ziet hij in de discussie over algoritmen dat mensen zich vaak verschuilen achter het standpunt dat de computer en neutraal element is dat een beslissing neemt. "Maar dat is niet zo. Er zit altijd een mens achter die de software geprogrammeerd heeft. Er is dus een discussie aan het ontstaan over de vraag wie verantwoordelijk is voor de algoritmen. Dat is een goede zaak, want de mensen achter de algoritmen zijn niet  onfeilbaar. Er si nog steeds een menselijke discussie nodig."

Hij pleit er daarom voor om de silo's te doorbreken, en een netwerk te creëren op basis van de vraag wat we gemeenschappelijk hebben. "Nederland is bij uitstek geschikt om die discussie te initiëren, omdat we als klein land voor niemand een bedreiging zijn. Dat gaat niet lukken vanuit de VS of vanuit China."

Politiek

Over de politieke component is hij positief. "Je ziet dat IT-ers aan de ene kant en politici aan de andere kant steeds meer met elkaar in gesprek raken. IT is een politiek onderwerp, en wij zijn ook als IT-ers een andere taal gaan spreken. Tegelijkertijd hebben ook Kamerleden het besef gekregen dat IT wel degelijk een maatschappelijk impact heeft, en we zien dat zij over de consequenties nadenken. Ik ben optimistisch, omdat er nu dingen gebeuren die vijf jaar geleden niet konden."

 

Terug naar nieuws overzicht