Input van Agentschap Telecom op EU consultatie 'Witboek over Kunstmatige intelligentie'
Op 19 februari 2020 heeft de Commissie haar digitale strategie gepubliceerd voor de periode 2020 2025. Met het witboek ‘Kunstmatige intelligentie’, ook wel Artificiële intelligentie (hierna AI), zet de recent aangetreden Europese Commissie (hierna Commissie) haar visie uiteen op de belangrijkste beleidsmaatregelen en investeringen op het gebied van AI.
In lijn met het standpunt van de Nederlandse overheid, ondersteunt Agentschap Telecom het initiatief van de Commissie alsmede de inhoudelijke lijn voor een ecosysteem voor excellentie en een ecosysteem van vertrouwen, waarbij een goede balans tussen innovatie en vertrouwen wordt gelegd. Toezichthouders spelen een belangrijke rol in beide ecosystemen en met name bij dat vertrouwen. In aanvulling op het standpunt van de Nederlandse overheid heeft Agentschap Telecom, vanuit haar rol en verantwoordelijkheid als toezichthouder op het digitale domein, in de vragenlijst en in deze bijlage bij de survey van de Commissie op het Witboek specifieke aandachtspunten opgenomen. Agentschap Telecom voorziet een grote en cruciale rol voor AI in de digitale samenleving en economie. Duidelijke, generieke en robuuste kaders en instrumenten voor toezicht zijn cruciaal om vertrouwen, als randvoorwaarde voor adaptie van innovatie te behouden en te versterkten.
Ketenafhankelijkheid
Agentschap Telecom wil benadrukken dat het voor een goed toezicht op AI van groot belang is rekening te houden met een toenemende ketenafhankelijkheid door AI. Dat kan de Commissie bijvoorbeeld doen door regelgeving te adresseren aan álle aanbieders van onderdelen van AI toepassingen. Organisaties die AI gebruiken, ontwikkelen die AI toepassing zelden volledig intern. Vaak zijn datasets, algoritmes en het leren en testen deels of geheel ingekocht. Het vertrouwen op de kwaliteit (juistheid, volledigheid, etc.) van de geleverde onderdelen kan worden gevormd door certificering van alle onderdelen in en toezicht op de gehele keten.
Certificering
Agentschap Telecom adviseert om bij de uitwerking van certificering Europese eenduidigheid in certificering op het terrein van AI te realiseren, ter voorkoming van concurrerende certificeringen. Tevens wordt geadviseerd te kijken naar onderscheid tussen certificering op AI toepassingen en/of certificering op organisaties die AI gebruiken.
Levensfasen AI
AI in het verleden. Gezien de tijdsafhankelijkheid van zelflerende algoritmes, zal een toezichthouder daarvoor toegang tot informatie moeten kunnen krijgen uit eerdere levensfasen van een AI. Dit stelt eisen aan de bewaarplicht c.q. verklaarbaarheid van uitkomsten voor organisaties die AI inzetten. De regelgeving moet hierin voorzien.
Risico benadering
Agentschap Telecom is van mening dat wettelijke waarborgen omtrent AI toepassingen gericht moeten zijn op het risico dat een AI-toepassing vormt. De risico-benadering die de Commissie heeft gekozen is nog niet concreet en de criteria nog onbekend. Daarom kan over de uitvoerbaarheid en handhaafbaarheid daarvan nu nog geen goed oordeel worden gegeven. Agentschap Telecom onderstreept het belang van het betrekken van toezichthouders bij het opstellen van criteria, zodat de handhaafbaarheid kan worden getoetst. Bovendien leidt de voorgestelde indeling - de keuze voor enkel regulering van hoog risico AI - naar onze mening tot onduidelijkheid over toepasselijkheid van de wetgeving. De regelgeving moet niet leiden tot een discussie over of AI toepassingen wel of niet high risk zijn. De beoordeling door de toezichthouder moet gaan over de vraag of de betrouwbaarheid en veiligheid in verhouding tot het risico voldoende zijn. Agentschap Telecom ondersteunt daarom inzet van open normen, zoals dat in de eIDAS verordening, NIS richtlijn en Telecomcode ook is toegepast. Agentschap Telecom adviseert een risicobenadering met een set generieke wettelijke vereisten die voor alle hoog risico toepassingen kunnen gelden en per (hoog) risico sector eventueel aanvullende eisen die passend zijn voor de hoog risico toepassingen binnen die sector.
Internationale samenwerking
Agentschap Telecom is van mening dat effectief toezicht op AI toepassingen een gezamenlijke opgave is van de toezichthouders in de verschillende lidstaten. Vanwege de ketenafhankelijkheid van AI-componenten, is een wettelijke grondslag voor bevoegdheid van toezichthouders tot het verlenen van internationale bijstand noodzakelijk.
Burgerrechten/Gebruikersbescherming
Agentschap Telecom hecht aan het versterken van vertrouwen van AI bij burgers en gebruikers, onder andere door formeel recht op een klachtenbehandeling door de aanbieder die gebruik maakt van AI, in aanvulling op beroep bij de civiele of bestuursrechter over beslissingen of producten. Een toezichthouder moet toezien op de naleving van dit recht. Het gaat daarbij niet om de specifieke inhoudelijke uitkomst van de AI toepassing ter discussie te stellen, maar om het scheppen van duidelijkheid in het proces van besluitvorming en de rol die algoritmes in het proces hebben gespeeld. Het is belangrijk dat er een klachtenprocedure is én dat deze correct uitgevoerd wordt, dat wil zeggen dat er zo transparant mogelijk uitleg plaatsvindt over hoe een toegepast algoritme tot een bepaalde uitkomst heeft kunnen leiden.