Het College voor de Rechten van de Mens heeft een overzicht gepubliceerd van de wijze waarop grondrechten worden beschermd in de Europese AI-verordening. Het document is bedoeld als hulpmiddel voor toezichthouders, beleidsmakers en andere organisaties die betrokken zijn bij de uitvoering van de wet. Het College vervult in Nederland een rol als grondrechtenautoriteit voor AI-systemen en werkt daarbij samen met andere toezichthouders.
Volgens het College vormt grondrechtenbescherming een centraal onderdeel van de AI-verordening. De wet beoogt het gebruik van AI mogelijk te maken binnen kaders die risico’s voor veiligheid, gezondheid en grondrechten moeten beperken. Omdat AI in uiteenlopende maatschappelijke domeinen wordt ingezet en verschillende grondrechten kan raken, benadrukt het College dat de beoordeling van risico’s per context moet plaatsvinden. De verordening voegt een grondrechtendimensie toe aan het bestaande toezicht op productveiligheid, wat voor toezichthouders een nieuwe taak betekent.
In het overzicht wordt uiteengezet hoe de verordening bescherming van grondrechten vormgeeft en waar de betreffende waarborgen in de wet zijn terug te vinden. Het document beschrijft de basis van grondrechten, de bepalingen over onder meer AI-geletterdheid, verboden AI-systemen, verplichtingen voor hoogrisico-systemen en het gebruik van testomgevingen. Daarnaast gaat het in op de risico’s die door hoogrisico-systemen kunnen ontstaan en op de inrichting van het toezicht, inclusief de rol van het College.
Het College stelt dat de effectiviteit van de bescherming afhangt van de verdere uitwerking van de verordening in Europese technische standaarden, richtsnoeren en sjablonen. Ook de kennis en vaardigheden van ontwikkelaars, aanbieders, gebruikers en toezichthouders zijn volgens het College bepalend voor het tijdig herkennen van risico’s. Het overzicht benoemt aandachtspunten voor partijen die met AI-systemen werken.
Verder wijst het College op de lopende heronderhandelingen over de verordening in de zogenoemde digitale omnibus. Deze kunnen gevolgen hebben voor de huidige bescherming van grondrechten. Het overzicht biedt volgens het College een referentiepunt om deze ontwikkelingen te volgen.
Als grondrechtenautoriteit AI richt het College zich de komende periode op het ondersteunen van betrokken partijen bij het signaleren van risico’s in hun sector en op het monitoren van de onderhandelingen over de digitale omnibus.
