De Jheronimus Academy of Data Science (JADS) gaat samenwerken met Deloitte bij het opzetten van een onderzoekslaboratorium dat zich richt op het auditen van betrouwbare AI-softwaresystemen. Dit SAFEGUARD lab maakt deel uit van het ROBUST AI-programma en gaat zich bezighouden met het onderzoeken en ontwikkelen van nieuwe auditingtheorieën en -tools.
ethiek
-
-
Bots in Society
Robotzorg: de toekomst van de gezondheidszorg of een ethisch mijnenveld?
door Pieter Wernerdoor Pieter WernerMet baanbrekende vorderingen op het gebied van autonome voertuigen, AI-gestuurde kunst en mensachtige chatbots, vervaagt de grens tussen menselijk vermogen en machine learning verder. Er is één prangende vraag gerezen te midden van de snelle evolutie van deze technologieën: kunnen intelligente machines menselijke capaciteiten echt nabootsen?
-
Bots in Society
NEN: Europese AI-wetgeving vereist normering voor veiligheid, vertrouwen en privacy
door Pieter Wernerdoor Pieter WernerGisteren discussieerde het Europees Parlement over de invoering van de AI-act. Dit is belangrijke wetgeving met betrekking tot het gebruik van kunstmatige intelligentie (AI) die ook gevolgen heeft voor Nederland. Morgen zal er gestemd worden over deze wet. In het licht van deze ontwikkelingen benadrukt NEN, het Nederlandse Normalisatie-instituut, de cruciale rol van normen bij het reguleren van AI met als doel de bescherming van privacy, veiligheid en vertrouwen. Momenteel wordt hier nog onvoldoende aandacht aan besteed.
-
People in Robotics
Natasha Alechina benoemd tot hoogleraar Safe and Responsible AI
door Pieter Wernerdoor Pieter WernerHet College van bestuur van de Open Universiteit heeft dr. Natasha Alechina benoemd tot hoogleraar Safe and Responsible AI bij de faculteit Bètawetenschappen. De benoeming gaat in per 1 september 2023.
-
Bots in Society
Amerikaanse regering lanceert nieuwe AI-kaders en onderwijsaanbevelingen
door Pieter Wernerdoor Pieter WernerDe Amerikaanse regering heeft nieuwe initiatieven en aanbevelingen bekendgemaakt om verantwoorde ontwikkeling, adoptie en gebruik van kunstmatige intelligentie (AI) te bevorderen. Met een nationaal strategisch plan en onderwijsdoelstellingen wil het de Amerikaanse cultuur rondom verantwoord gebruik van AI-technologieën stimuleren.
-
Bots in SocietyUitgelicht
EU: Let op mensenrechten bij gebruik AI
door Pieter Wernerdoor Pieter Werner“Aangezien de ontwikkeling van AI bijna elk aspect van ons leven beïnvloedt en de invloed ervan in de nabije toekomst verder zal toenemen, moeten de lidstaten concrete stappen ondernemen om ervoor te zorgen dat de mensenrechten van mensen worden gewaarborgd bij het ontwerp, de ontwikkeling en de inzet van AI-systemen”, zegt de Europees commissaris voor mensenrechten Dunja Mijatović in een gisteren gepresenteerd rapport.
-
Bots & BrainsBots in SocietyUitgelicht
Onderzoek: AI gaat zich menselijk gedragen
door Marco van der Hoevendoor Marco van der HoevenOnderzoekers van Stanford en Google hebben een nieuwe doorbraak bereikt in AI door “generatieve agents” te creëreun die opmerkelijk realistisch mensachtig gedrag vertonen. Deze agents werden geprogrammeerd met de capaciteit om te communiceren met anderen en hun omgeving, informatie te onthouden en terug te halen, observaties te overdenken en plannen te maken voor elke dag. In essentie kregen ze de capaciteit om te denken en te handelen als mensen.
-
Bots in Society
TNO: Regulering AI is urgent en kan niet worden overgelaten aan de markt zelf
door Pieter Wernerdoor Pieter WernerFuture of Life pleitte vorige week in een open brief voor een moratorium op de ontwikkeling van geavanceerde AI-systemen. In die tijd moet nagedacht worden over het beteugelen van AI.
-
In een recente open brief heeft een groep onderzoekers en experts opgeroepen om de training van AI-systemen die krachtiger zijn dan GPT-4 voor ten minste 6 maanden stop te zetten in alle AI-laboratoria. De auteurs van de brief zijn van mening dat AI-systemen met mens-competitieve intelligentie aanzienlijke risico’s vormen voor de samenleving en de mensheid, en dat het huidige niveau van planning en beheer ontoereikend is.
-
Bots in Society
Onderzoek: Uitlegbaarheid is belangrijk fundament voor verantwoorde inzet van AI
door Marco van der Hoevendoor Marco van der HoevenEr is veel te doen over het verantwoord inzetten van AI en algoritmes. Uitlegbaarheid van AI-systemen helpt hierbij, omdat dit AI-systemen transparant maakt, laat zien hoe ze te werk gaan en uitkomsten beter kunnen worden verklaard en uitgelegd. Om AI-systemen uitlegbaar te maken is het nodig daar vanaf de start van de realisatie van deze systemen rekening mee te houden. Dit heet “Explainable AI by Design”. Hogeschool Utrecht ontwikkelde samen met Floryn, Researchable en de Volksbank een checklist die hier een praktisch handvat voor biedt.