Sinds deze week gelden er nieuwe transparantieverplichtingen voor AI-systemen, opgelegd door de Europese AI-verordening (AI Act). Organisaties die AI inzetten, van chatbots tot generatieve tools voor beeld, audio of tekst, moeten in bepaalde gevallen expliciet duidelijk maken dat er AI aan te pas komt. Het doel is dat mensen altijd kunnen weten wanneer ze met AI-gegenereerde of AI-bewerkte content te maken hebben.
De nieuwe regels vloeien voort uit artikel 50 van de AI-verordening en zijn sinds afgelopen weekend van toepassing. Ze raken niet alleen overheidsorganisaties, maar in principe elke partij die AI-systemen aanbiedt of gebruikt binnen de EU, dus ook bedrijven, media en ontwikkelaars van consumentenproducten.
Wanneer geldt de meldplicht?
De transparantieverplichting is van toepassing in vier concrete situaties. Ten eerste bij chatbots en AI-assistenten: mensen moeten weten dat ze met een AI-systeem in gesprek zijn en niet met een medewerker. Ten tweede bij deepfakes: beeld, video of audio die met AI is gegenereerd of bewerkt en een vervalst beeld van personen, objecten of gebeurtenissen oplevert, moet als zodanig herkenbaar zijn. Ten derde bij AI-gegenereerde tekst over onderwerpen van algemeen belang, bijvoorbeeld nieuwsartikelen of publieke informatie die geheel of gedeeltelijk door AI is geschreven. Ten vierde bij emotieherkenning en biometrische categorisering: wie hiermee wordt geconfronteerd, moet daarvan op de hoogte worden gesteld.
De uitzonderingen
De verplichting geldt niet onbeperkt. Standaardbewerkingen zoals spellingscontrole of het verbeteren van belichting in een foto vallen erbuiten. Ook wanneer een mens de eindredactie voert en verantwoordelijkheid draagt voor de uiteindelijke inhoud, kan de labelplicht in sommige gevallen vervallen. De gedachte daarachter is dat niet elke vorm van AI-assistentie even ingrijpend is, en dat te brede regelgeving nuttige toepassingen onnodig zou belemmeren.
De transparantieverplichtingen zijn een van de eerste tastbare gevolgen van de AI-verordening die burgers direct gaan merken: een label bij een chatbot, een watermerk op een AI-gegenereerde afbeelding, of een melding bij een AI-nieuwsartikel. Voor organisaties betekent het vooral dat AI-toepassingen nu tegen het licht moeten worden gehouden — vindt er interactie met mensen plaats, wordt content gegenereerd of bewerkt, en wie is uiteindelijk verantwoordelijk voor het eindresultaat?
Meer informatie is te vinden op de pagina Regels AI-modellen voor algemene doeleinden van Digitale Overheid, en op de website van de Europese Commissie over artikel 50 van de AI-verordening.
