DNB ziet risico’s bij gebruik AI in financiële sector

Michel Klompmaker

De Nederlandsche Bank (DNB) maakt zich enigszins zorgen over het gebruik van kunstmatige intelligentie (Artificial Intelligence, afgekort AI) bij financiële ondernemingen. Vandaar dat DNB richtlijnen heeft opgesteld voor het gebruik van AI. Het discussiedocument getiteld “General principles for the use of Artificial Intelligence in the financial sector” is onlangs gepubliceerd en met dit document gaat de toezichthouder de komende periode de dialoog aan met de financiële sector.

In toenemende mate worden AI tools ingezet om bedrijfsprocessen, producten en diensten te verbeteren, zoals bij identiteitscontrole van klanten, de analyse van transactiegegevens, opsporing van fraude bij schadeafhandeling, maar ook op het juridische vlak en bij risk management tools wordt meer en meer gebruik gemaakt van AI. Er is evenwel een keerzijde en dat is wanneer de moderne technologie onverantwoord ingezet wordt. Een voorbeeld is selectie op basis van postcodes. Een zeer gevaarlijke methodiek! Immers, de grootste criminelen kunnen in een “onverdacht” postcode gebied wonen tegenover de hardwerkende burger die zijn baan is kwijtgeraakt en noodgedwongen om financiële redenen moest verhuizen naar een “verdacht” postcode gebied. Ernstige gevolgen voor de reputatie van het financiële stelsel als geheel liggen dan op de loer. Door de verwevenheid van het financiële stelsel zouden grote incidenten met AI in extremis impact kunnen hebben op de financiële stabiliteit. Vandaar de bezorgdheid van DNB en de wens dat financiële ondernemingen AI op een verantwoorde manier inzetten.

Principes gebruik van AI

Toezichthouder DNB heeft een aantal algemene principes geformuleerd voor een verantwoord gebruik van AI in de financiële sector. Met de mooie naam SAFEST, hetgeen wil zoveel wil zeggen als “Soundness, Accountability, Fairness, Ethics, Skills en Transparency”.

DNB meldt in dit verband het volgende *(1) : “AI-toepassingen moeten eerst en vooral solide zijn, dat wil zeggen dat ze betrouwbaar en accuraat moeten zijn, en op voorspelbare wijze moeten functioneren binnen de grenzen van de geldende wet- en regelgeving. Ondernemingen moeten bereid zijn om hun verantwoordelijkheid te nemen: als AI-toepassingen onverwachts niet naar behoren functioneren, kan dit het bedrijf, zijn klanten en andere belangrijke stakeholders schaden. Voor het maatschappelijk vertrouwen in de financiële sector is eerlijkheid belangrijk: AI-toepassingen mogen bepaalde groepen klanten niet onbedoeld benadelen. En omdat AI-toepassingen taken overnemen waar voorheen menselijke intelligentie voor nodig was, speelt ook ethiek een rol: financiële ondernemingen moeten ervoor zorgen dat hun klanten en andere stakeholders op de juiste manier behandeld worden en geen schade lijden door het gebruik van AI. Binnen een financiële onderneming moet iedereen – van de werkvloer tot de bestuurskamer – over de juiste mate van deskundigheid beschikken en de voordelen en beperkingen kennen van de AI-systemen waarmee ze werken. Transparantie ten slotte houdt in dat financiële ondernemingen moeten kunnen uitleggen hoe en waarom ze AI in hun bedrijfsprocessen toepassen, en hoe deze toepassingen precies functioneren.”

Het discussiedocument is een voorlopig document. De toezichthouder roept relevante stakeholders op om hun opmerkingen en suggesties met DNB te delen via ai@dnb.nl. In de loop van 2020 zal de toezichthouder verslag doen van de uitkomst van dit proces. Ondertussen heeft DNB bekend gemaakt scherp te gaan toezien op de toepassingen van AI bij financiële instellingen.

* (1)  bron: DNB document