Schriftelijke inbreng Commissiedebat Tweede Kamer Digitale Zaken
De Rijksinspectie Digitale Infrastructuur (RDI) ziet een veranderende digitale infrastructuur. Het werkveld krijgt steeds meer een beleidsdomeinen-overstijgend karakter. En het werkveld wordt complexer door ontwikkeling van disruptieve technologieën als Artificiële Intelligentie (AI). De inrichting van het toezicht op AI en normuitleg is vandaag het onderwerp van gesprek in het commissiedebat. Ons toezicht is erop gericht dat Nederland kan vertrouwen op de beschikbaarheid van de digitale infrastructuur, die continu en veilig te gebruiken is.
Lees hieronder de volledige schriftelijke inbreng van de RDI.
Position Paper rondetafelgesprek over toezicht en normuitleg AI
Geachte Tweede Kamerleden,
Artificial Intelligence (AI) biedt kansen en risico’s voor de Nederlandse samenleving. AI-systemen worden volop gebruikt en dringen door tot alle sectoren in de samenleving. Om het gebruik van AI in goede banen te leiden, moet bewaakt worden dat AI betrouwbaar en vertrouwenswaardig wordt toegepast in het digitale domein. Hierbij staat netwerksamenwerking op basis van sectorale expertise en bevoegdheden centraal. Zo werken we aan een veilig verbonden Nederland.
Toezichtslandschap en samenwerking
Om de risico’s en de kansen verantwoord samen te laten gaan, wordt in Nederland samengewerkt tussen toezichthouders om het toezicht op AI vorm te geven. AI-systemen worden al in ons reguliere toezicht beoordeeld op de mogelijke risico’s van het gebruik van AI. Ook is ons AI-Safety&Security-lab operationeel. Recent hebben we samen met NCSC guidance gegeven om AI-systemen op basis van General Purpose AI, met aandacht te implementeren om zo veiligheidsrisico’s te voorkomen.
De RDI is voorzitter van de landelijke werkgroep van ruim 20 toezichthouders. Deze werkgroep houdt zich bezig met kennisdeling over de betekenis van AI in het toezicht en stelt momenteel een advies op over de inrichting van het toezicht op de AI-verordening. De toezichthouders doen dit in een constructieve samenwerking en in gezamenlijkheid, omdat we ons ervan bewust zijn dat niemand zelfstandig kan toezien op AI-systemen. In samenwerking met Autoriteit Persoonsgegevens coördineren we het advies over het toezicht op de AI-verordening. Dit advies wordt binnenkort aangeboden aan de betrokken departementen, om als basis te dienen voor de wettelijke inrichting van het toezicht op basis van de AI-verordening.
Wat is er nodig voor effectief en efficiënt toezicht?
De kernpunten uit dit advies zijn gericht op het in balans brengen van de risico’s en kansen van AI. Hiertoe is het volgende benodigd:
• De AI-verordening is reeds in werking getreden en enkele fatale termijnen in de AI-verordening naderen. Daarom is het noodzakelijk om zo snel als mogelijk de betreffende toezichthouders aan te wijzen;
• Zet de sectorale toezichthouder voorop, omdat die met zijn sectorale kennis de juiste risico afweging kan maken. Dit is noodzakelijk zowel vanuit de potentiële maatschappelijke impact van AI als vanuit de AI-verordening;
• Benoem coördinerende rollen bij markttoezichthouders (msa’s), zoals de RDI, om het toezicht te versterken door o.a. kennisdelen en kennis beschikbaar te stellen aan collega-toezichthouders;
• Laat de coördinerende toezichthouders deelnemen aan de Europese standaardisatie, zoals nu ook door de RDI wordt ingevuld. Op deze manier kan naast goede uitvoering van toezicht, ook een tijdige normuitleg aan de marktpartijen mogelijk gemaakt worden. Een belangrijk instrument hierbij in concrete casuïstiek, is de zogenaamde ‘regulatory sandbox’ waarin een marktpartij in dialoog kan gaan met betreffende toezichthouders, over de wetgevingstechnische vraagstukken rond een AI-toepassing;
• Parallel aan het opstellen van het advies, zijn de toezichthouders bezig om de benodigde governance in de samenwerking in te richten. Het advies bevat daar de benodigde randvoorwaarden voor en adresseert beleidsmatig op te lossen issues. Het gaat dan bijvoorbeeld om een wettelijke basis voor een verplichtende samenwerking en voor de noodzakelijke uitwisseling van informatie. Een stevige wettelijke basis is nodig omdat AI complex van aard is en alle sectoren in de samenleving raakt. Samenwerken is meer dan ooit noodzakelijk;
• Een voorwaarde voor effectief toezicht is, dat alle toezichthouders voldoende in staat gesteld worden (financieel en personeel) om hun eigen deel van het toezicht uit te voeren en om de samenwerking vorm te geven. De financieringslijn volgt normaliter de departementale lijn. Wellicht is een centrale rijksbrede financiering meer passend voor dergelijke horizontaal in te richten processen. Gegeven het budgetrecht van de Kamer, ligt hier mogelijk een rol voor uw commissie.
Door deze stappen te zetten, zijn toezichthouders in staat om de maatschappelijke risico’s van AI afdoende te adresseren én kan gelijktijdig innovatie tot bloei komen. Een meervoudige belangenafweging in het toezicht is daarvoor noodzakelijk. De markttoezichthouders die onder de Europese Markttoezichtsverordening werken, zijn bekend met deze complexiteit in het toezicht.
Tot slot
De toezichthouders willen met het advies de complexiteit van AI zoveel mogelijk op het bord van de gezamenlijke toezichthouders leggen en niet bij de samenleving en de bedrijven. Het toezicht wordt zoveel mogelijk belegd bij de bestaande taken. Daarmee blijft bijvoorbeeld voor de financiële instellingen AFM en DNB de eerst aangewezen toezichthouder. Hetzelfde geldt voor leveranciers van medische apparatuur (IGJ) of verkeersmanagementsystemen (ILT).