ethiek

NWO en de Nederlandse AI Coalitie hebben Mensgerichte AI voor een inclusieve samenleving – naar een ecosysteem van vertrouwen gelanceerd. Na een toetsing door een onafhankelijke NWO beoordelingscommissie zijn vijf projecten gehonoreerd. Onderzoekers uit kennisinstellingen en publieke en private organisaties gaan in ELSA Labs bijdragen aan kennis voor de ontwikkeling en de toepassing van betrouwbare, mensgerichte AI. In totaal hebben de projecten meer dan 10,9 miljoen euro toegewezen gekregen.

Doordat werken op afstand is toegenomen, moeten prestaties en output op andere manieren gemonitord worden – maar niet simpelweg door het aantal toetsaanslagen te tellen of tijd doorgebracht aan het bureau bij te houden. Onderzoek door VMware laat zien dat er wereldwijd en zeker ook in Nederland steeds vaker monitoring-technologie voor werken op afstand gebruikt wordt. Dit kan echter zorgen voor een flinke knauw in het vertrouwen van werknemers in hun werkgever en in het systeem van hybride werken.

Vorige week presenteerde de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) een rapport waarin dit adviesorgaan onder meer waarschuwde dat Nederland onvoldoende is voorbereid op de impact die AI zal hebben op onze maatschappij. Tijdens de presentatie van dit rapport was een van de sprekers Michiel Steltman, directeur van de Stichting Digitale Infrastructuur Nederland (DINL). Hieronder volgt de tekst van zijn bij die gelegenheid gesproken column.

In een rapport dat vandaag verschijnt waarschuwt de WRR dat Nederland onvoldoende is voorbereid op de impact die AI zal hebben op onze maatschappij.  Volgens de WRR gaat AI ons leven fundamenteel veranderen. De raad noemt gebruik van AI in uiteenlopende toepassingen: van gezichtsherkenning tot vertaalapps, van medische diagnoses tot anticiperen op criminaliteit, en van fraudebestrijding tot het beïnvloeden van wat we kopen, lezen en stemmen. En dat is nog maar het begin, zegt de WRR: Als Nederland zich op deze fundamentele verandering niet goed voorbereidt, is er niet alleen het risico dat kansen worden gemist, maar ook dat de samenleving opgescheept wordt met een technologie die onze belangen niet dient.

De Nederlandse regering dreigt discriminatie op basis van ras te verergeren door het voortdurende gebruik van ongereguleerde algoritmen in de publieke sector, zegt Amnesty International in een vernietigende analyse van het kinderopvangschandaal in Nederland.

Ruim de helft van de Nederlanders (53%) vindt dat ze voor een normaal leven hun gegevens wel moeten delen met techreuzen als Google, Amazon, Facebook en Apple. Dit blijkt uit onderzoek van Orange Cyberdefense onder bijna 1100 Nederlanders. Opmerkelijk is echter dat 81 procent van de Nederlanders het wel zorgelijk vindt dat de bovengenoemde bedrijven over veel informatie van mensen beschikken.

Gemeenten houden bij de inzet van algoritmen soms expliciet, maar vaker impliciet rekening met mensenrechten. Gemeenten zijn op dit thema welwillend, maar ook nog zoekende. Er zou meer samenwerking kunnen plaatsvinden onderling en met softwareleveranciers om mensenrechten te beschermen. Gemeenten blijken bij de inzet van algoritmen geen speciale voorzieningen te treffen voor rechtsbescherming.

Vandaag is een nieuwe editie live gegaan van de podcast AIToday, waarin Joop Snijder van Info Support en zijn gast Ossama Sijbesma van Hogeschool Windesheim in gesprek gaan over het onderzoek naar Bias in AI. Aan bod komen onder meer de vragen: Wat is Bias en welke soorten zijn er? Hoe kun je Bias detecteren? Mag je onderscheid maken met AI? Bias en Explainable AI. Wat kun je doen om Bias te verminderen?

In zijn vandaag gepubliceerde paper ‘Op zoek naar de mens in AI’ pleit TNO er voor om een experimentele omgeving in te richten waarin AI-systemen voor algoritmische publieke besluitvorming wordt beproefd. Door verschillende betrokkenen zoals burgers, gebruikers en beleidsmakers daarbij te betrekken komen beperkingen van de systemen en mogelijke negatieve aspecten als onbedoelde discriminatie, ongelijkheid of uitsluiting eerder naar boven om te kunnen worden gecorrigeerd vóór de daadwerkelijke invoering. 

‘AI moet saai zijn’, zegt Dr Scott Robbins over een technologie waar juist enorm veel hooggespannen verwachtingen, gebaseerd op fantasierijke voorstellingen, van bestaan. De potentie is groot, met name die van machine learning (ML), maar om er optimaal gebruik van te kunnen maken is het zaak er op een realistische manier naar te kijken. Dan kan bijvoorbeeld ML bruikbaar zijn in toepassingen als terrorismebestrijding.