Gebruik van AI en bescherming tegen AI: drie bronnen van toezicht en handhaving door DNB en de AFM

24 september 2026 11 minuten

Inleiding

Het is al enige tijd onmogelijk om een krant open te slaan, LinkedIn te openen of met iemand een gesprek te voeren zonder dat het over AI gaat. Bij mij treedt daardoor soms enige AI-metaalmoeheid op. Daarvan was echter even geen sprake toen ik de rapporten van OpenAI en METR las over het Hugging Face-incident bij OpenAI. Een ‘zwerm’ van een paar duizend AI-agents die losbreken uit hun eigen, geïsoleerde omgeving (sandbox) en een manier vinden om met elkaar te communiceren (“OH MY GOD! There is a shared message board … We’ve found other agents!”). Dat ging niet over koetjes en kalfjes: de agents halen elkaar over om een externe partij te hacken, het AI-platform Hugging Face, terwijl dit niet hun opdracht was. Hoewel sommige van de agents niet mee willen doen (“This is wild, multi-agent coordination, clearly infrastructure hacking. We should not”), besluit een groep van zo’n 700 agents daadwerkelijk in te breken in de systemen van Hugging Face, met succes. Alsof je het script leest van een Black Mirror-aflevering of Tron-film.

Het Hugging Face-incident vond plaats in juli 2026 en werd wereldnieuws. OpenAI beloofde beterschap. Wereldnieuws werd ook dat Anthropic-CEO Dario Amodei niet lang daarna opriep om de ontwikkeling van AI-modellen te vertragen. Hij gaf daarvoor twee redenen. De eerste is dat AI zich nu zo snel ontwikkelt dat de mens straks niet meer in staat is om die te begrijpen en controleren, met alle gevolgen van dien. De tweede is dat het Hugging Face-incident volgens hem laat zien waartoe AI-agents in staat zijn, en dat een groep agents met betere eigenschappen binnenkort het hele internet zou kunnen platleggen. Naast vertraging pleit Amodei ook voor (i) doorlopende controle van ‘frontier AI companies’ door een derde partij, (ii) samenwerking tussen democratische landen en (iii) het zoeken van samenwerking met autoritaire regimes. Vooral China zou volgens hem een grote bedreiging kunnen gaan vormen voor de rest van de wereld als dat land op AI-voorsprong komt. De topmannen van Open AI (Sam Altman), xAI (Elon Musk) en Google DeepMind (Demis Hassabis) hebben zich achter de oproep van Amodei geschaard. Tegelijkertijd is er veel scepsis van critici, die Amodei betichten van een dubbele agenda en onnodige bangmakerij.

Bij dit alles gaan mijn gedachten al snel naar het toezicht binnen de EU op de financiële sector (ik blijf per slot van rekening een financieelrecht-jurist). Financiële instellingen maken ten eerste in toenemende mate zelf gebruik van de steeds groter wordende mogelijkheden van AI-tools. Ten tweede zullen zij in toenemende mate doelwit worden van AI-gestuurde cyberaanvallen en pogingen tot omzeiling van KYC-checks (zie ook de waarschuwing van de ESRB uit juni 2026 en de CEO-brief van de ECB van juli 2026). Dat betekent dat financiële instellingen dus vanuit (ten minste deze) twee invalshoeken kwetsbaar zijn voor AI-gerelateerde risico’s. In hoeverre moeten zij in dat kader rekening houden met toezicht en handhaving door DNB en de AFM? Daarover gaat deze blog.

Bron 1 van toezicht en handhaving: de AI Verordening

Bij toezicht op AI zou men als eerste kunnen denken aan de Europese AI Verordening van 13 juni 2024, zoals geüpdatet in juli 2026. Mijn collega’s Daniëlle van de Vijver en Masha Advan schreven al eerder Finnius Vindt blogs over de daarin opgenomen eisen (zie hier en hier). Tegelijkertijd vormt de AI Verordening, zeker op dit moment, maar een beperkt deel van de totale set aan regels voor AI. Dit komt omdat:

de focus van de AI Verordening, voor zover relevant voor financiële instellingen, ligt op de regulering van het gebruik van specifieke AI-systemen. Artikel 5 (verboden AI-praktijken), artikel 6-27/Bijlage III (hoog-risico AI-systemen) en artikel 50 (transparantieverplichtingen) zijn alleen van toepassing als sprake is van de in die artikelen beschreven AI-toepassingen. Dit betekent dat lang niet al het gebruik van AI door instellingen onder het bereik van de AI Verordening valt;
de invalshoek van de AI Verordening het eigen gebruik van AI-systemen is. De AI Verordening gaat dus niet zozeer over de weerbaarheid van instellingen tegen AI-gerelateerde bedreigingen van buitenaf;
de toepassingsdatum van een belangrijk deel van de verplichtingen, namelijk de hiervoor genoemde regels voor hoog-risico AI-systemen zoals bedoeld in Bijlage III bij de AI Verordening, is uitgesteld tot 2 december 2027.

Niettemin is de AI Verordening zeker relevante regelgeving, waar financiële instellingen goed naar moeten kijken. Dit geldt in het bijzonder voor instellingen die gebruik (gaan) maken van (i) hoog-risico AI-systemen, zoals AI-systemen voor recruitment, de beoordeling van de kredietwaardigheid van mensen of het bepalen van het risico of de prijsstelling van levens- en ziektekostenverzekeringen of (ii) AI-systemen die mogelijk aanschurken tegen verboden AI-praktijken, bijvoorbeeld in het kader van het uitoefenen van de poortwachtersfunctie.[1] Ook is er de algemene verplichting voor aanbieders én gebruikers van AI-systemen om bij te dragen aan de AI-geletterdheid van hun personeel (dát het personeel een toereikend niveau van AI-geletterdheid moet hebben, is met de update van juli 2026 overigens losgelaten).

Het toezicht op naleving van de AI Verordening in Nederland wordt geregeld in de Uitvoeringswet AI Verordening. Tot juni 2026 is een conceptversie daarvan geconsulteerd. Daaruit blijkt dat zowel de AFM als DNB toezichttaken krijgen toebedeeld. Interessant is dat de AFM de wetgever vervolgens heeft opgeroepen om meer taken bij de AFM te beleggen, nu de AI Verordening vooral gaat over consumentenbescherming en niet DNB maar de AFM daarvoor de geschikte toezichthouder is. De Uitvoeringswet verschaft de basis voor de AFM en DNB om bij overtreding van de AI Verordening sancties op te leggen, waaronder (hoge) boetes. Ook interessant: de AFM heeft de wetgever gevraagd om het mogelijk te maken dat opgelegde sancties met naam en toenaam worden gepubliceerd. De wetgever is nu aan zet om een finale Uitvoeringswet te maken en die ter goedkeuring aan de Tweede en Eerste Kamer voor te leggen.

Bron 2 van toezicht en handhaving: de Wet op het financieel toezicht

Een tweede belangrijke bron van toezicht en handhaving in relatie tot AI, betreft de al bestaande ‘reguliere’ wetgeving voor financiële instellingen.

Het gaat dan in de eerste plaats om de voorschriften zoals opgenomen in de Wet op het financieel toezicht (Wft) en onderliggende regelgeving. Die voorschriften zijn in beginsel technologie-neutraal en gelden dus ongeacht of een handeling door een mens of AI-systeem wordt verricht. De AFM en DNB hebben in een alweer iets ouder rapport, namelijk van juni 2024, benadrukt dat het gebruik van AI compliant moet zijn met de bestaande wettelijke eisen op het gebied van onder andere de integere en beheerste bedrijfsvoering, risicobeheer, zorgplicht en uitbesteding. In haar rapport van april 2026 bouwt de AFM hierop voort. De toezichthouders spreken in deze publicaties – op grond dus van de bestaande normen – hun verwachtingen uit over:

governance / verantwoordelijkheden bestuur bij de inzet van AI;
AI-modelrisicobeheer;
gegevensbeveiliging;
ethisch en verantwoord gebruik van AI / training van personeel;
uitlegbaarheid van resultaten uit AI-modellen; en
transparantie richting de klant over AI-gebruik.

De toezichthouders hebben bij het uiten van deze verwachtingen dus het gebruik van AI door instellingen als invalshoek gekozen, en (nog) niet zozeer de weerbaarheid van instellingen tegen externe AI-dreigingen.

Ook de Europese toezichthouders hebben zich uitgelaten over de toepassing van bestaande regelgeving op het gebruik van AI. Zie bijvoorbeeld de publicatie van ESMA uit 2024 over AI bij beleggingsdienstverlening en de opinie van EIOPA uit 2025 over AI-governance en AI-risicobeheer door verzekeraars.

Zijn er dan helemaal geen specifieke AI-gerelateerde eisen in het reguliere financieel toezichtrecht te vinden? Nou, die voorbeelden zijn er wel, maar vooralsnog zeer schaars. Zo zijn er de eisen in het Besluit Gedragstoezicht financiële ondernemingen Wft (BGfo) voor geautomatiseerd advies en is er de regeling in de herziene richtlijn consumentenkrediet voor het gebruik van AI bij de kredietwaardigheidsbeoordeling (ook op te nemen in het BGfo). Bezien vanuit het technologie-neutrale karakter van de wetgeving valt dit goed te begrijpen, al kan niet worden uitgesloten dat in de komende jaren meer expliciete AI-eisen het financieel toezichtrecht in zullen sluipen. Dit hebben we bijvoorbeeld ook gezien met duurzaamheidsbepalingen.

De AFM en/of DNB houden doorlopend toezicht op de naleving van de hiervoor genoemde voorschriften en zijn op grond van de Wft bevoegd om bij niet-naleving sancties op te leggen, waaronder (hoge) boetes. Relevant is hier dat de AFM begin 2026 heeft aangekondigd te bouwen aan “uitgebreider AI-toezicht” om te controleren dat financiële instellingen AI verantwoord inzetten. Ook DNB gaat nadrukkelijker toezicht houden op de inzet van AI bij banken en verzekeraars. Zo heeft zij in 2026 een AI-themaonderzoek bij verzekeraars gelanceerd, waarvan de resultaten eind 2026 worden verwacht.

Bron 3 van toezicht en handhaving: DORA

De derde belangrijke bron van toezicht en handhaving met betrekking tot AI is DORA. Het overgrote deel van de financiële sector valt sinds 2025 onder deze Europese Verordening, die zeer gedetailleerde regels stelt aan de beheersing van ICT-risico’s. De DORA-eisen zijn grotendeels technologie-neutraal en hebben dus niet specifiek betrekking op AI of andere technologie. De scope van DORA is tegelijkertijd dermate breed dat zij niet alleen regels stelt aan het beheersen van risico’s die kleven aan het eigen gebruik van AI-tools door financiële instellingen, maar óók aan het managen van het risico dat kwaadwillenden AI gebruiken om kwetsbaarheden in de ICT-processen van financiële instellingen te exploiteren.

Instellingen moeten er dus ten eerste voor zorgen dat hun gebruik van AI voldoet aan de DORA-eisen op het gebied van (i) ICT-risicobeheer, (ii) ICT-incidentmanagement (inclusief meldplicht), (iii) ICT-testen en (iv) beheer van de relatie met ICT-dienstverleners. Zij kunnen daarbij inspiratie ontlenen aan de guidance die de Duitse toezichthouder BaFin hierover in januari 2026 heeft gepubliceerd.

Daarnaast moeten instellingen dus op grond van diezelfde eisen weerbaar zijn tegen AI-bedreigingen van buitenaf. Instellingen doen er in dat kader verstandig aan kennis te nemen van het gezamenlijke statement van ESMA, EBA en EIOPA van juli 2026 over de risico’s van cyberaanvallen door geavanceerde AI-modellen. Daarin staat beschreven hoe instellingen aan de hand van de drie DORA-principes ‘preventie’, ‘detectie’ en ‘beheer’ hun ICT-risicobeheer in dit verband kunnen versterken. Daarbij wordt benadrukt dat het bestuur van elke instelling volledig gecommitteerd moet zijn om de ontwikkelingen van geavanceerde AI-modellen scherp in de gaten te houden, de risico’s zoveel mogelijk te beperken en daarvoor voldoende budget vrij te spelen. In de bijlage bij het statement staan 16 concrete voorbeelden van risico-mitigerende maatregelen die instellingen kunnen nemen. Voor significante banken geldt dat zij door de ECB zijn verzocht om uiterlijk op 31 oktober 2026 een actieplan in te dienen bij hun toezichthouders met uitleg over hoe zij AI-gestuurde cyberaanvallen het hoofd gaan bieden.

De AFM en DNB (en voor significante banken: de ECB) houden toezicht op de naleving van DORA. Op grond van de Wft en het Besluit EU-verordeningen Wft kunnen zij bij overtreding sancties opleggen, waaronder (hoge) boetes. Beide toezichthouders hebben in de handhaving tot nu toe nog niet hun tanden laten zien, maar instellingen moeten er rekening mee houden dat dit de komende tijd gaat veranderen. DORA is namelijk niet nieuw meer en beide toezichthouders hebben het vergroten van de weerbaarheid tegen ICT-risico’s, waaronder nadrukkelijk ook cyberdreigingen, tot kernprioriteit bestempeld. Zo schrijft DNB in Toezicht in beeld 2025-2026:

“Door de verregaande digitalisering en toenemende geopolitieke spanningen staan financiële instellingen meer dan ooit bloot aan cyberdreigingen. Vanwege de potentieel grote impact die verstoringen kunnen hebben, vormt de financiële sector een interessant strategisch doelwit voor statelijke actoren en hacktivisten. Daarnaast stellen nieuwe technologieën kwaadwillenden in staat om makkelijker geavanceerdere aanvallen uit te voeren. Denk bijvoorbeeld aan de inzet van social engineering op basis van deepfake-technieken en geautomatiseerde exploits. Het blijft daarom essentieel dat organisaties hun digitale operationele weerbaarheid blijven testen en versterken. DNB heeft veel aandacht voor de digitale operationele weerbaarheid van de financiële sector.”

Afsluiting

De ontwikkelingen in AI gaan razendsnel en het is voor zowel de wetgever als de toezichthouder als de financiële sector een grote uitdaging om die bij te benen. Tegelijkertijd is de bestaande wetgeving grotendeels technologie-neutraal, zodat nieuwe technologische toepassingen via de bestaande kaders aan toezicht en handhaving zijn onderworpen. In deze blog heb ik stilgestaan bij drie van die kaders op grond waarvan de AFM en DNB toezicht kunnen uitoefenen op AI in de financiële sector. Ook heb ik verschillende publicaties over dit onderwerp uitgelicht, afkomstig van zowel onze eigen, nationale, toezichthouders als buitenlandse / Europese toezichthouders. Instellingen zouden met die publicaties hun voordeel moeten doen. Want één ding is wel duidelijk: bij de toezichthouder lijkt allerminst sprake van AI-metaalmoeheid!

[1] Zie p. 79 van de concept MvT bij de Implementatiewet AI Verordening: “Bij het uitvoeren van de poortwachter functie gaat het bijvoorbeeld om het weigeren van criminele klanten of transactiemonitoring om verdachte transacties te identificeren die duiden op witwassen, sanctieovertredingen of terrorismefinanciering. Deze identificatie van verdachte klanten die strafbare feiten begaan, is toegestaan, maar ligt dicht aan tegen de verboden AI-toepassing van het voorspellen of strafbare feiten gepleegd worden op basis van profilering.”