Samenwerking, coördinatie en het optimaal benutten van expertise op gebied van grondrechten en veiligheid. Die elementen vormen de kern van het eindadvies ‘Toezicht op AI’ dat de Rijksinspectie Digitale Infrastructuur (RDI) en de Autoriteit Persoonsgegevens (AP) presenteerden deze maand. Het advies beschrijft hoe met een geïntegreerde aanpak effectief toezicht gehouden kan worden op het gebruik van AI.
Kunstmatige intelligentie (AI) maakt een razendsnelle ontwikkeling door en wordt overal en op steeds grotere schaal toegepast. De toepassingen zijn eindeloos en AI biedt enorme kansen voor onze samenleving. Tegelijkertijd kunnen zich grote risico’s voordoen. In de AI-verordening staan regels voor het verantwoord ontwikkelen en gebruiken van AI door bedrijven, overheden en andere organisaties. Goed georganiseerd toezicht hierop geeft vertrouwen aan consumenten en schept duidelijkheid voor organisaties en bedrijfsleven. Zij kunnen blijven schakelen met de (sectorale) toezichthouders die zij al kennen.
Sectorale aanpak
Door de vele verschillende AI-toepassingen zijn er ook veel verschillende risico’s. Een AI-systeem in speelgoed brengt andere risico’s met zich mee dan bijvoorbeeld een AI-systeem voor werving en selectie. De RDI en de AP adviseren daarom om het toezicht op AI in de verschillende sectoren en domeinen zoveel mogelijk te laten aansluiten bij het reguliere toezicht.
Producten zoals, machines, liften of speelgoed moeten al aan diverse Europese (veiligheids)regels voldoen. Consumenten herkennen dit aan de CE-markering. Wanneer in dit soort producten AI wordt gebruikt moet ook aan de AI-verordening worden voldaan. Het toezicht op deze producten kan bij dezelfde toezichthouder blijven. Op deze manier worden kennis, expertise en capaciteit van de sectorale toezichthouders optimaal benut en blijven hun mandaten intact.
Wanneer organisaties AI-toepassingen integreren in producten en diensten zonder de huidige verplichte CE-markering kan het toezicht hierop ook aansluiten bij bestaande toezichtrollen. Het gaat bijvoorbeeld om toepassingen waarbij AI-systemen worden ingezet om besluiten over mensen te nemen. Zoals bij werving en selectie, beoordelingen in het onderwijs of risicoselectie door overheidsorganisaties.
Samenwerking is cruciaal
Voor deze sectoroverstijgende toepassingen is het belangrijk dat toezichthouders samenwerken vanuit hun sectorale en domeinspecifieke expertises. Zo moeten signalen bijvoorbeeld over en weer kunnen worden gedeeld en kunnen toezichthouders samenwerken om geschikte interventies te doen. Het toezicht op de AI-verordening moet plaatsvinden in nauwe samenwerking tussen toezichthouders, zodat het toezicht niet versplintert en dat organisaties weten wat er van ze verwacht wordt.
In het eindadvies over het toezicht op de AI-verordening worden coördinerende rollen toebedeeld aan de RDI en de AP. Vanuit een expertrol ondersteunen en adviseren zij andere toezichthouders en faciliteren ze de samenwerking.
Gezamenlijk commitment
Dit eindadvies is het resultaat van intensieve samenwerking tussen alle betrokken toezichthouders en met steun van de Inspectieraad en de Algoritme- & AI-kamer van het Samenwerkingsplatform Digitale Toezichthouders (SDT).
Angeline van Dijk, inspecteur-generaal van de RDI daarover: “Deze brede betrokkenheid onderstreept het gezamenlijke commitment om AI op een verantwoorde en veilige manier in de Nederlandse samenleving te integreren. We kijken daarbij niet alleen naar de dag van vandaag, maar juist ook naar wat een veilig en tegelijkertijd innovatief AI-landschap morgen van ons vraagt.”
AP-voorzitter Aleid Wolfsen benadrukt het belang van de beschermende werking van de AI-verordening: “Mensen kunnen nu al dagelijks in contact komen met AI-systemen, en het is
belangrijk dat burgers erop kunnen vertrouwen dat AI veilig, eerlijk en met respect voor grondrechten wordt ingezet. Door als toezichthouders met elkaar samen te werken waarborgen we de ontwikkeling en veilige inzet van risicovolle AI-systemen over verschillende sectoren heen op basis van een uniforme uitleg van de wet door de gehele Europese Unie. Zoals ook de European Data Protection Board recentelijk schreef kan de AP binnen zo’n structuur vanuit haar rol en kennis een belangrijke bijdrage leveren in het producttoezicht daar waar AI over mensen besluit of beoordelingen doet.”
Bron: Rijksinspectie Digitale Infrastructuur
