AP geeft incassobureaus advies over verantwoorde inzet van AI
Incassobureaus zetten steeds vaker algoritmes en AI in. De Autoriteit Persoonsgegevens bekeek 29 van zulke bureaus en ziet naast snelheid ook risico's. De toezichthouder komt daarom met aanbevelingen voor de hele sector.
In het kort
- De AP onderzocht 29 incassobureaus die algoritmes of AI gebruiken.
- Het werk gaat sneller, maar er dreigen onjuiste beslissingen en discriminatie.
- De AP geeft de incassosector aanbevelingen om verkeerd gebruik te voorkomen.
- De aanbevelingen zijn nog geen wettelijke verplichting voor bureaus.
Wat de AP onderzocht
De Autoriteit Persoonsgegevens hield een steekproef onder 29 incassobureaus. Daaruit blijkt dat algoritmes en AI inmiddels vast onderdeel zijn van het incassowerk. Volgens de AP gaat het werk er sneller door.
Tegelijk kleven er risico's aan dat gebruik. De toezichthouder noemt onjuiste beslissingen, discriminatie en ongelijke behandeling. Bij een onjuiste beslissing kan iemand bijvoorbeeld onterecht als wanbetaler worden aangemerkt.
Risico's van geautomatiseerde beslissingen
Incassobureaus beoordelen wie welke schuld heeft en hoe hoog een vordering is. Gaat dat via een algoritme, dan kan een fout in de invoer doorwerken in het hele proces. De AP wijst erop dat zo'n fout niet altijd meteen zichtbaar is.
Ook discriminatie ligt op de loer. Systemen kunnen patronen overnemen die in de data zitten, ook als niemand dat zo bedoeld heeft. Dan krijgt de ene persoon een andere aanpak dan de andere, zonder goede reden.
Aanbevelingen aan de sector
Om verkeerd gebruik van computersystemen te voorkomen, publiceert de AP aanbevelingen voor incassobureaus. Het gaat om handvatten voor de inzet van algoritmes en AI in het dagelijkse werk.
De AP noemt de aanbevelingen een hulpmiddel voor de sector. Wat er precies in staat en of er ook regels bij zitten, maakt de toezichthouder in het bericht niet duidelijk. Duidelijk is wel dat de AP het onderwerp actief volgt.
Nog geen harde regels
De aanbevelingen zijn geen nieuwe wet. Incassobureaus moeten zich al houden aan de privacyregels die er zijn, waaronder de Algemene verordening gegevensbescherming (AVG). Die Europese wet geldt in heel Nederland en de EU.
Of de AP later gaat handhaven op dit punt, is nog niet bekend. Het is ook niet bekend of de sector de aanbevelingen verplicht gaat opnemen in eigen richtlijnen.
Wat betekent dit voor Nederland?
Heb je een schuld en krijg je met een incassobureau te maken, dan kan een computer jouw dossier hebben beoordeeld. Klopt er iets niet, dan is het verstandig om te vragen hoe een beslissing tot stand is gekomen. De AP wil met de aanbevelingen voorkomen dat fouten of vooroordelen in systemen ongemerkt doorwerken. Voor incassobureaus in Nederland betekent het dat ze hun algoritmes en AI kritisch moeten bekijken, ook als er nog geen nieuwe wet ligt.
De AP kijkt mee bij incassobureaus en dat is terecht, want een algoritme dat beslag voorstelt zonder dat iemand meekijkt is gewoon een fout die zichzelf herhaalt. Bij advertenties trek ik dezelfde grens: de AI mag rekenen en analyseren, maar de knop om budget of campagne aan te zetten blijft bij een mens. Ik geef zo'n model geen mandaat over iemands geld, en bij een incassobureau gaat het over het geld van een ander.
Veelgestelde vragen
Wat doet de Autoriteit Persoonsgegevens met incassobureaus?
De AP hield een steekproef onder 29 incassobureaus en bekeek hoe zij algoritmes en AI inzetten. Op basis daarvan geeft de toezichthouder aanbevelingen aan de sector.
Mag een incassobureau AI gebruiken?
Ja, incassobureaus mogen algoritmes en AI inzetten, maar ze moeten zich aan de privacyregels houden. De AP wijst op risico's zoals onjuiste beslissingen en discriminatie.
Wat kun je doen bij een verkeerde beslissing van een incassobureau?
Vraag het bureau hoe de beslissing tot stand is gekomen en welke gegevens zijn gebruikt. Kom je er niet uit, dan kun je een klacht indienen bij de Autoriteit Persoonsgegevens.
- Autoriteit Persoonsgegevens: AP informeert incassobureaus over verantwoorde inzet AI
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.