GroenLinks-PvdA heeft demissionair ministers Yesilgöz van Justitie en Veiligheid en Schouten voor Armoedebeleid opheldering gevraagd over een incassobureau dat een AI-tool inzet om de kans op probleemschulden vroegtijdig te signaleren. De AI-tool van Intrum monitort digitale gesprekken naar eigen zeggen op zo'n zeshonderd variabelen, zoals 'tone of voice', het moment van contact of de manier van contact.
"Hierdoor kan het slimme systeem bepalen of iemand potentieel risico loopt om problematische schulden te ontwikkelen", zo stelt het incassobureau. "In zo'n geval zoekt het gespecialiseerde klantteam samen met de betreffende persoon naar een passende oplossing om langdurige problemen te voorkomen. Deze ontwikkeling is een baanbrekende stap in de wereld van incasso's en schuldinvordering."
Rejo Zenger van burgerrechtenbeweging Bits of Freedom waarschuwt tegenover het AD dat het risico op zeer willekeurige beslissingen heel groot is bij gebruik van zulke systemen, als ze niet heel goed zijn getraind. "Dat kan bizarre situaties opleveren als mensen in een kwetsbare positie, zoals schuldenaren, daarmee te maken krijgen", zo laat hij weten. "En volgens mij zijn er genoeg voorbeelden waarbij gebruik van algoritmes heeft gezorgd voor ernstige gevallen van discriminatie en privacy-schending."
GroenLinks-PvdA-Kamerleden Kathmann en Mohandis willen nu van de ministers weten hoeveel incassobureaus en andere schuldenorganisaties gebruik van AI maken. "Is het u bekend welke techniek precies zal worden toegepast door Intrum voor het scannen van correspondentie van mensen met schulden? Op welke data is dit systeem getraind en wat gebeurt er met de input van mensen met schulden? Voldoet het bedrijf hiermee aan dataminimalisatie?", zo willen de twee verder weten.
Yesilgöz en Schouten moeten ook duidelijk maken of ze risico's zien bij het inzetten van zelflerende AI door incassobureaus, zoals het aanleren van discriminerende vooroordelen, gebrek aan transparante besluitvorming en inbreuk op privacy bij het scannen van mogelijk gevoelige correspondentie? Kathmann en Mohandis vinden dat organisaties in de schuldenindustrie uiterst terughoudend moeten zijn bij de inzet van AI en algoritmes en vragen of de ministers dat ook vinden.
De GroenLinks-PvdA-Kamerleden vragen ook om de garantie dat het gebruik van AI voor consumenten altijd optioneel is en dat consumenten nooit onder druk gezet mogen worden om de persoonlijke correspondentie door een dergelijk systeem te laten controleren. De ministers moeten tevens laten weten welke kaders erop dit moment gelden voor het gebruik van AI door incassobureaus en schuldeisers. De bewindslieden hebben drie weken om de vragen te beantwoorden.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.