Hoe regelen we het toezicht op de AI-Act?
De nieuwe Europese wet die regels voor kunstmatige intelligentie (AI) opstelt, de AI-Act, komt eraan. Ter voorbereiding hierop adviseren de Autoriteit Persoonsgegevens en Rijksinspectie Digitale Infrastructuur over hoe het toezicht op AI in Nederland kan worden geregeld. Laat het toezicht zo veel mogelijk aansluiten op het al bestaande sectorale toezicht, bevelen zij aan. Hoe het toezicht er precies uit komt te zien is aan de verantwoordelijke minister van EZK.
AI-verordening
De Europese Unie heeft nieuwe regels opgesteld voor het verantwoord ontwikkelen en gebruiken van kunstmatige intelligentie (AI) door bedrijven, overheden en andere organisaties. Deze AI-Act of AI-verordening regelt dat AI-systemen met een hoog risico aan strenge producteisen moeten voldoen. Die systemen krijgen dan een zogeheten CE-markering, zoals ook al jaren verplicht is voor bijvoorbeeld liften, mobiele telefoons en speelgoed. De verordening gaat gefaseerd in en zal midden 2027 van kracht zijn.In de verordening worden onder andere toezichthouders aangewezen die de naleving handhaven, organisaties kunnen verplichten een product uit de handel te nemen en boetes kunnen opleggen. De Autoriteit Persoonsgegevens (AP) is sinds 2023 coördinerend toezichthouder van algoritmes en AI en regisseur van de Algoritme en AI Kamer (AAK). Hoe de toezicht functie naar aanleiding van de AI-verordening in Nederland wordt ingericht is nog niet duidelijk.
Regulier toezicht
De AP en de Rijksinspectie Digitale Infrastructuur (RDI) adviseren het toezicht op AI in de verschillende sectoren zoveel mogelijk te laten aansluiten bij het reguliere toezicht dat al bestaat. Het toezicht op AI-producten met een hoog risico die nu ook al een CE-markering nodig hebben, kan hetzelfde blijven. De Nederlandse Voedsel- en Warenautoriteit blijft bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit. En de Inspectie Gezondheidszorg en Jeugd gaat ook toezicht houden op de AI in medische apparaten.Het toezicht op AI-toepassingen met een hoog risico waarvoor nu nog géén CE-markering verplicht is, moet grotendeels bij de AP komen te liggen in aanvulling op het sectorale toezicht, schrijven de toezichthouders. Het maakt daarbij niet uit in welke sector die systemen worden ingezet.
De toezichthouders stellen twee uitzonderingen voor: wat betreft de financiële sector zullen de Autoriteit Financiële Markten en De Nederlandsche Bank het markttoezicht op zich nemen. De Inspectie Leefomgeving en Transport en de RDI voor de kritieke infrastructuur. Verder moet bij het markttoezicht op AI-systemen voor de rechtspraak, de onafhankelijkheid van rechterlijke autoriteiten worden gewaarborgd.
