Ooit was het een gespreksonderwerp dat alleen de meest technisch onderlegde IT-ers kon interesseren: kunstmatige intelligentie (AI). Die tijd is inmiddels lang voorbij. AI was in 2023 het op twee na meest populaire woord in Nederland volgens het genootschap van taalliefhebbers Onze Taal. Hoewel de technologie nog nieuw is, is AI nauwelijks meer weg te denken uit het maatschappelijke debat. In een nieuw rapport onderzoekt DNB samen met de AFM de impact van AI op de financiële sector. AI is de verzamelterm voor software die in staat is om zelfstandig oplossingen voor problemen te bedenken. Eén stapje verder gaat zogeheten ‘generatieve’, of creërende AI. Een meer geavanceerde vorm van kunstmatige intelligentie die in staat is om op basis van de informatie die het heeft iets nieuws te maken. Dat bedenken gebeurt tegenwoordig vooral op basis van algoritmes die dankzij een grote bibliotheek met tekst zelfstandig kunnen communiceren. ‘Large Language Models’ (LLM), heten die in jargon.
Eind 2022 leerde het grote publiek AI kennen toen ChatGPT door het Amerikaanse softwarecollectief OpenAI werd gelanceerd. Het programma kan allerlei klusjes doen, uiteenlopend van het schrijven van werkstukken tot complete filmscenario’s tot het uittekenen van anti hackers software. Verder beantwoordt ChatGPT huis tuin en keukenvragen, bedenkt het gedichten en nog veel meer. Ondertussen wordt er in de financiële sector al langer gewerkt met kunstmatige intelligentie. Menig vermogensbeheerder adverteert met AI die geheel automatisch een beleggingsportfolio kan samenstellen die is toegespitst op de behoeften van de klant. Denk aan diens bereidheid om risico’s te nemen, geografische voorkeuren en levensstadium.
Online chatbot
Maar AI kan ook meer alledaagse klusjes binnen de financiële sector overnemen. Zoals het bemannen van de klantenservice. De meeste bankklanten of verzekerden zullen inmiddels bekend zijn met de online chatbot die vragen beantwoordt, of herkennen het stemmetje dat aan het eind van een telefoongesprek met het bedrijf vraagt of het gesprek mag worden bewaard voor zogenaamde ‘trainingsdoeleinden’.
Hoewel dat niet steevast gebeurt, wordt menig gesprek opgeslagen om daarmee de chat bots die nu lang niet altijd even soepel werken, te kunnen verbeteren zodat die dat in de toekomst wel gaan doen. Onderzoek van de Europese Centrale Bank leert dat van elke tien grote Nederlandse banken er zes in hun dagelijks werk gebruikmaken van AI modellen. En ten minste de helft van alle schadeverzekeraars en bijna een kwart van alle levensverzekeraars in Europa maakte in 2023 gebruik van AI, aldus de Europese toezichtautoriteit EIOPA.
Toezicht herzien
AI krijgt in de financiële sector dus steeds meer voet aan de grond. Als banken, verzekeraars, vermogensbeheerders en pensioenuitvoerders de technologie niet al toepassen, hebben de meeste daarvan concrete plannen om dit in de toekomst te gaan doen, zo blijkt uit interviews die de AFM en DNB de afgelopen tijd afnamen binnen de financiële sector. Dat zal niet alleen het werk voor de instellingen zelf ingrijpend veranderen, ook de toezichthouders zullen hun takenpakket moeten herzien. Wat die herziening precies behelst, is nog niet helemaal duidelijk. De mogelijkheden van AI lijken immers onbegrensd en zolang niemand weet wat AI níet kan, weet niemand precies welke regels er überhaupt nodig zijn.
Bovendien bestaat er een risico dat toezichthouders de ontwikkeling van AI onnodig remmen door zich in een vroeg stadium te streng op te stellen en daarmee innovatie ontmoedigen. Dat willen de AFM en DNB voorkomen. AI biedt namelijk veel kansen. Kunstmatige intelligentie kan de dienstverlening van instellingen via bots sneller, goedkoper en effectiever maken. Denk aan een klantenservice die 24 uur per dag bereikbaar is en die klanten zonder dat ze hoeven te wachten een goed antwoord kan geven. Wat de noodzaak van de inzet van AI alleen maar vergroot, is dat de mensenhanden schaars zijn op een krappe arbeidsmarkt. Al te ferm handhaven kan bovendien betekenen dat financiële instellingen in één regio last krijgen van oneerlijke concurrentie van instellingen uit regio’s waar de regels minder streng zijn.
Niet achteroverleunen
Tegelijkertijd kunnen de AFM en DNB als toezichthouders niet achteroverleunen. AI kan ook een grote maatschappelijke bedreiging vormen waar mensen de dupe van worden. Bots kunnen discrimineren door op basis van oude informatie een vooroordeel te vormen. Denk hierbij aan bepaalde bevolkingsgroepen of mensen met een lager inkomen. Die hadden traditioneel toch al slechtere toegang tot producten zoals een hypotheek of autoverzekering en enkel omdat dat altijd al zo was bestaat de kans dat ze nu opnieuw slecht bediend worden.
Wat zulke discriminatie des te pijnlijker maakt, is als AI op basis van een zelfontwikkelde logica handelt waarbij het niet helemaal duidelijk is waar die logica op is gebaseerd. Er is dan sprake van een zogeheten ‘black box’. Voor AI-programma’s die risicoklanten zoals financiers van terrorisme en potentiële witwassers moeten weren, maar waarbij het evenmin duidelijk is waarom de ene klant wél zo’n stempel krijgt en een ander niet, ligt dat net zo gevoelig. Wat ook kan gebeuren is dat vertrouwelijke informatie van klanten in de openbaarheid komt via AI, bijvoorbeeld als die wordt gebruikt om een LLM te voeden waar andere instellingen of bedrijven gebruik van maken voor hun AI-toepassingen. Dit zou een forse schending zijn van het recht op privacy van klanten.
AI verordening
Voor de toezichthouders is het dus zaak om een verantwoorde balans te vinden tussen verstikkend reguleren en de teugels volledig laten vieren. Specifieke regels die daarbij enige houvast kunnen bieden, zijn dun gezaaid. De dit najaar opgefriste Europese richtlijn die consumenten moet beschermen tegen oplichting en uitsluiting bij het afsluiten van krediet, gaat in op AI-gebruik en ook voor beleggers die AI inzetten voor de beurshandel gelden specifieke voorschriften. Maar de Europese Commissie heeft met haar zogenoemde ‘AI verordening’ het meest krachtige aanknopingspunt in de aanbieding. Dat is een modelwet die onder meer verbiedt dat AI discrimineert en die regelt dat bedrijven altijd een persoon moeten kunnen aanwijzen die verantwoordelijk is voor de gevolgen die AI al dan niet veroorzaakt. De verordening maakt daarnaast onderscheid tussen de verschillende maten van risico die AI oplevert voor mensen. Verder schrijft deze verordening voor dat de logica die aan AI ten grondslag ligt voor mensen te begrijpen moet zijn. De ‘black box’ wordt taboe als mensen hierdoor risico lopen.
Wordt, want zover is het nog niet. Het zal nog zo’n 2 jaar duren voordat de wet waarmee de AFM en DNB kunnen handhaven daadwerkelijk van toepassing is. Dat geeft financiële instellingen en Europese lidstaten de tijd om zich bekend te maken met de nieuwe wet voordat die daadwerkelijk ingaat. Maar ook in de tussentijd controleren de toezichthouders of instellingen geen rechten van klanten schenden. Meedenken met de financiële sector om zo discriminatie, schending van privacy en oneerlijke concurrentie voor te zijn, zal voor de AFM en DNB de komende tijd dus prioriteit hebben. De toezichthouders gaan er van uit dat instellingen AI verantwoord zullen toepassen, al kan het met de permanente evolutie van AI in het achterhoofd nodig zijn om meer specifieke spelregels op te stellen. Dat is iets voor de toekomst.
Verder zullen de AFM en DNB contact houden met hun tegenhangers in andere landen en waar mogelijk werken aan regels die grensoverschrijdend worden toegepast. Dat past bij het internationale karakter van de financiële sector.
Bron: DNB
