AI-wetenschapper vertrekt bij Google na rel rond diversiteit en censuur

Samy Bengio, die al veertien jaar als AI-wetenschapper voor Google werkt, verlaat het bedrijf na de recente rel rond diversiteit en censuur. Een aandeelhouder van Alphabet vraagt tegelijker om betere bescherming voor klokkenluiders.

Bengio neemt ontslag enkele weken nadat twee van zijn collega's ontslagen werden. Hij is de hoogst geplaatste AI-medewerker die het bedrijf verlaat, vermoedelijk naar aanleiding van een interne strijd rond de onafhankelijkheid van Google's wetenschappers. Samy Bengio werkt al veertien jaar bij de techgigant, in het Google Brain departement dat zich buigt over deep learning en kunstmatige intelligentie. Google heeft het ontslag bevestigd.

Diversiteit

De man vertrekt te midden van een aanhoudende controverse binnen het AI-departement van Google. Die begon in december, toen het bedrijf Timnit Gebru ontsloeg, een prominente onderzoekster naar ethiek in AI. Volgens Gebru had Google haar gevraagd om niet langer mee te werken aan een paper die het gevaar voor bevooroordeling bloot legde in automatische vertalingen en AI-analyse van taalgebruik. Het soort systemen die Google zelf in zijn zoekmachine gebruikt, dus.

Twee maanden later werd een van de bazen van het Ethical AI team, Margaret Mitchell, ontslagen, omdat ze bedrijfsdata zou hebben misbruikt. Mitchell zegt zelf dat ze een programma had losgelaten op haar oude berichten om te kijken of Gebru gediscrimineerd werd door Google.

Deuk in het imago van Google

De ontslagen hebben een stevige deuk geslagen in het imago van Google, omdat ze de spanning blootleggen tussen Google als bedrijf dat vooral winst moet maken, en Google als onderzoeksinstelling. De techreus heeft zich lang voorgesteld als een goede omgeving is voor onderzoekers. Op zijn website meldt het bedrijf bijvoorbeeld dat wetenschappers er 'wezenlijke vrijheid' krijgen bij hun onderzoeken.

Maar er blijkt dus een stevige limiet aan de onafhankelijkheid en de scope van het onderzoek dat er gevoerd mag worden, als die in het vaarwater kan komen van technologie waar Google winst mee maakt. En het zijn vooral de ethici die rond AI werken, die tegen die limieten aanlopen.

Wantrouwen

Het wantrouwen van onderzoekers is ondertussen van die aard dat enkelen van hen duizenden dollars aan investeringen van Google beginnen weigeren, omdat ze de praktijken van de techreus niet langer kunnen ondersteunen.

De hele situatie heeft natuurlijk ook gevolgen voor de motivatie van werknemers in deze teams. Bengio had zich eerder al uitgesproken als medestander van Gebru. Google heeft het AI-team na het ontslag van Mitchell geherstructureerd en onder leiding gezet van Marian Croak, vicepresident van Engineering bij het bedrijf.

Klokkenluiders

Nog in de nasleep van de hele affaire, beginnen ook de aandeelhouders van Google's moederbedrijf Alphabet zich zorgen te maken. Trillium Asset Management, een van de investeerders in Alphabet, heeft Google ondertussen gevraagd om een betere bescherming uit te rollen voor klokkenluiders. "We lezen dat veel medewerkers van Google die ontslag hebben genomen of ontslagen werden, vergeldingsmaatregelen rapporteren wanneer ze hun bezorgdheid uiten over de mogelijke gevolgen op mensenrechten van bepaalde bedrijfsbeslissingen. Dat gaat dan bijvoorbeeld over systematisch racisme en seksisme op de werkvloer", schrijft de investeerder in een resolutie die bij de aandeelhoudersvergadering is ingediend. Trillium vraagt dat de aandeelhouders de HR-regels van het bedrijf kunnen bekijken en eventueel bijwerken.

In samenwerking met Datanews