ethiek

De Jheronimus Academy of Data Science (JADS) gaat samenwerken met Deloitte bij het opzetten van een onderzoekslaboratorium dat zich richt op het auditen van betrouwbare AI-softwaresystemen. Dit SAFEGUARD lab maakt deel uit van het ROBUST AI-programma en gaat zich bezighouden met het onderzoeken en ontwikkelen van nieuwe auditingtheorieën en -tools.

Met baanbrekende vorderingen op het gebied van autonome voertuigen, AI-gestuurde kunst en mensachtige chatbots, vervaagt de grens tussen menselijk vermogen en machine learning verder. Er is één prangende vraag gerezen te midden van de snelle evolutie van deze technologieën: kunnen intelligente machines menselijke capaciteiten echt nabootsen?

Gisteren discussieerde het Europees Parlement over de invoering van de AI-act. Dit is belangrijke wetgeving met betrekking tot het gebruik van kunstmatige intelligentie (AI) die ook gevolgen heeft voor Nederland. Morgen zal er gestemd worden over deze wet. In het licht van deze ontwikkelingen benadrukt NEN, het Nederlandse Normalisatie-instituut, de cruciale rol van normen bij het reguleren van AI met als doel de bescherming van privacy, veiligheid en vertrouwen. Momenteel wordt hier nog onvoldoende aandacht aan besteed.

Het College van bestuur van de Open Universiteit heeft dr. Natasha Alechina benoemd tot hoogleraar Safe and Responsible AI bij de faculteit Bètawetenschappen. De benoeming gaat in per 1 september 2023.

De Amerikaanse regering heeft nieuwe initiatieven en aanbevelingen bekendgemaakt om verantwoorde ontwikkeling, adoptie en gebruik van kunstmatige intelligentie (AI) te bevorderen. Met een nationaal strategisch plan en onderwijsdoelstellingen wil het de Amerikaanse cultuur rondom verantwoord gebruik van AI-technologieën stimuleren.

“Aangezien de ontwikkeling van AI bijna elk aspect van ons leven beïnvloedt en de invloed ervan in de nabije toekomst verder zal toenemen, moeten de lidstaten concrete stappen ondernemen om ervoor te zorgen dat de mensenrechten van mensen worden gewaarborgd bij het ontwerp, de ontwikkeling en de inzet van AI-systemen”, zegt de Europees commissaris voor mensenrechten Dunja Mijatović in een gisteren gepresenteerd rapport.

Onderzoekers van Stanford en Google hebben een nieuwe doorbraak bereikt in AI  door “generatieve agents” te creëreun die opmerkelijk realistisch mensachtig gedrag vertonen. Deze agents werden geprogrammeerd met de capaciteit om te communiceren met anderen en hun omgeving, informatie te onthouden en terug te halen, observaties te overdenken en plannen te maken voor elke dag. In essentie kregen ze de capaciteit om te denken en te handelen als mensen.

Future of Life pleitte vorige week in een open brief voor een moratorium op de ontwikkeling van geavanceerde AI-systemen. In die tijd moet nagedacht worden over het beteugelen van AI.

In een recente open brief heeft een groep onderzoekers en experts opgeroepen om de training van AI-systemen die krachtiger zijn dan GPT-4 voor ten minste 6 maanden stop te zetten in alle AI-laboratoria. De auteurs van de brief zijn van mening dat AI-systemen met mens-competitieve intelligentie aanzienlijke risico’s vormen voor de samenleving en de mensheid, en dat het huidige niveau van planning en beheer ontoereikend is.

Er is veel te doen over het verantwoord inzetten van AI en algoritmes. Uitlegbaarheid van AI-systemen helpt hierbij, omdat dit AI-systemen transparant maakt, laat zien hoe ze te werk gaan en uitkomsten beter kunnen worden verklaard en uitgelegd. Om AI-systemen uitlegbaar te maken is het nodig daar vanaf de start van de realisatie van deze systemen rekening mee te houden. Dit heet “Explainable AI by Design”. Hogeschool Utrecht ontwikkelde samen met Floryn, Researchable en de Volksbank een checklist die hier een praktisch handvat voor biedt.