Toezicht op kunstmatige intelligentie
In onze samenleving is bereikbaarheid, beschikbaarheid en betrouwbaarheid van de digitale infrastructuur enorm belangrijk. Steeds vaker gebruiken serviceproviders en elektronische dienstverleners slimme software en algoritmen: kunstmatige intelligentie, ofwel artificial intelligence (AI). De Rijksinspectie Digitale Infrastructuur (RDI) voert de wet- en regelgeving uit in het digitale domein en houdt hier toezicht op. Denk daarbij aan de Wet beveiliging netwerk- en informatiesystemen (Wbni) en de Radio Apparatuur Richtlijn (RED). Kunstmatige intelligentie is, naast 5G en cybersecurity, een van onze strategische thema’s.
Artificiële intelligentie verwijst naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en - met een zekere mate van zelfstandigheid - actie ondernemen om specifieke doelen te bereiken. Eigenlijk automatiseert AI menselijke denkkracht.
Door snelle internetverbindingen en processoren zal artificiële intelligentie steeds meer worden toegepast en ook impact hebben op IT- en communicatienetwerken. En dat zal, mede door 5G, snel toenemen. Digitalisering en nieuwe toepassingen als Internet of Things (IoT), Machine-to-Machine communicatie (M2M), radionetwerk optimalisatie en intelligente transportsystemen gaan (in de toekomst) gebruikmaken van AI.
Artificial intelligence in telecominfrastructuren
Kunstmatige intelligentie biedt kansen: het kan sneller (en soms betere) beslissingen maken dan mensen, met AI kan (schaarse) expertkennis efficiënter worden ingezet en AI is goed in repetitieve taken. Op dit moment zien we dat de meeste toepassingen van AI in telecominfrastructuren betrekking hebben op optimalisatie van specifieke parameters. Het betreffen sterk afgebakende toepassingen, zoals het optimaliseren van parameters van een radiosignaal, power management of het routeren van verkeer door een netwerk. Daarnaast wordt artificiële intelligentie ook ingezet voor onderhoud van het netwerk. AI kan bijvoorbeeld voorspellen wanneer uitval van een onderdeel in het telecomnetwerk waarschijnlijk is. Vervolgens kan er preventief onderhoud worden uitgevoerd.
Kijken we naar de komende vijf tot tien jaar, dan zien we AI-toepassingen steeds geavanceerder worden. Veel leveranciers van telecomapparatuur denken dat een groot deel van de netwerkfuncties in telecomnetwerken in de toekomst wordt bestuurd door artificiële intelligentie. Behalve in de telecomsector, wordt artificiële intelligentie ook in andere digitaliserende sectoren steeds meer toegepast, bijvoorbeeld in de transportsector (de zelfrijdende auto), de energiesector (het slim balanceren van fossiele- en duurzame energiebronnen) en de medische sector (het nauwkeurig analyseren van röntgenfoto’s). De specifieke risico’s zijn voor elke sector anders. Lees meer over de toepassingen van AI.
Onderzoek naar de risico’s van AI
Naast voordelen voor efficiëntie en innovatie, brengt AI ook nieuwe risico’s met zich mee. Zo kunnen AI-systemen gevoelig zijn voor datamanipulatie en bias. Ook is er bij gebruik van meerdere AI-componenten in grote systemen, zoals een telecomnetwerk, kans op keteneffecten. Een fout in een AI-systeem kan daardoor doorwerken naar een ander AI-systeem. Dit kan onbedoeld en onbewust de kwetsbaarheid in het digitale stelsel verhogen. Daarom lieten wij een analyse uitvoeren door onderzoeks- en adviesbureau Dialogic naar het (toekomstige) gebruik van AI in de telecomsector en de bijbehorende kansen en risico's.
Dialogic heeft in haar rapport ‘Gebruik van en toezicht op AI-toepassingen in telecominfrastructuren’ een risicomodel uitgewerkt voor het toezicht op artificiële intelligentie. Dit model kan ons helpen om risico’s voortijdig in beeld te brengen en in te dammen. Want wanneer AI op een veilige manier wordt toegepast, kan de maatschappij enorm profiteren van de kansen en voordelen. Het rapport laat zien dat wij verschillende instrumenten ter beschikking hebben om risico’s van AI in telecominfrastructuren te beperken. Denk hierbij aan voorlichting en bewustwording, het vereisen van transparantie, het faciliteren van risicoanalyse en -mitigatie, het stellen van standaarden en het stellen van procesvereisten. Met de ontwikkeling van internationale standaarden is de RDI al begonnen met haar actieve deelname in de ETSI werkgroep Securing Artificial Intelligence.
Het voorgestelde risicomodel kan ook als basis dienen voor andere sectoren. Het gebruik van artificiële intelligentie kent immers generieke aspecten die voor meerdere sectoren gelden. Denk daarbij aan zaken als beschikbaarheid, betrouwbaarheid en integriteit van data en infrastructuur: deze punten zijn voor AI-toepassingen in alle sectoren van belang.
Samenwerking tussen toezichthouders
Concrete invulling van het toezicht op artificiële intelligentie staat wereldwijd nog in de kinderschoenen. Ook in ons land. Samenwerking tussen toezichthouders is essentieel om Nederland het vertrouwen te blijven geven in het veilig gebruik van AI. Wij nemen als autoriteit en toezichthouder in het digitale domein graag het voortouw in deze samenwerking. Zo werd samen met de Inspectieraad het initiatief genomen tot het oprichten van een brede werkgroep van toezichthouders op kunstmatige intelligentie, met als doel door onderlinge samenwerking en kennisuitwisseling de kwaliteit van het gezamenlijke toezicht door de toezichthouders op het terrein van AI in Nederland te vergroten. Onze inspecteur-generaal Angeline van Dijk is voorzitter van deze interdepartementale werkgroep. Lees meer over deze werkgroep in het artikel 'Algoritmen en Artificiële Intelligentie: hoe houd je daar toezicht op?' op Rijksoverheid.nl.