Artificiële intelligentie als recruiter of kredietverlener

13 oktober 2020 | dJ Talks

Een chatbot die de eerste sollicitatieronde afneemt, een algoritme dat de kredietscore bepaalt… Dit zijn allemaal toepassingen van AI die deel uitmaken van processen waarbij er ingrijpende beslissingen voor de mens worden gemaakt. Is dit nu een goede of slechte zaak?

Verhoging menselijke capaciteit

In een krappe arbeidsmarkt is het voor bedrijven moeilijk om de juiste mensen te vinden en aan zich te binden. Binnen HR zijn er steeds meer sollicitaties voor dezelfde functie terwijl het aantal HR-managers hetzelfde blijft. Als een eerste screening gebeurt om het kaf van het koren te scheiden door AI, kan de HR-manager zich concentreren op diepere zaken. In plaats van het nagaan van het geschikte diploma, kan de manager kijken of er bijvoorbeeld een culture fit is met het bedrijf. Zo is er reeds Skeeled, dit is een op AI-gebaseerde recruitment software die wordt gebruikt bij pre-screening, bij het maken van de ranglijst van sollicitanten of bij het geven van feedback aan de recruiter.

Ook bij kredietverlening kan AI zorgen voor een verhoging van de capaciteit. De waarde van de meeste leningen is voornamelijk gebaseerd op de kans dat een individu of bedrijf deze terugbetaalt. Dit bepalen kan een complexe taak zijn, zelfs met perfecte informatie, en vaak is de informatie onvolledig of verkeerd. Indien men voor deze risicobeoordeling AI gebruikt, zullen kredietverleners zich kunnen concentreren op andere belangrijke taken. Zoals ervoor zorgen dat het betalingsproces op schema blijft, zodat de lening op tijd wordt gefinancierd en de klanttevredenheid hoog is.

Verkleining kans op vooringenomenheid

Stel je even voor dat je als jonge migrant gaat solliciteren bij een oude paternalistische gezinde baas. Zou je dan niet liever door een algoritme geïnterviewd worden, dat alleen kijkt naar jouw capaciteiten en talenten, zonder af te gaan op jouw afkomst? Het gaat hier natuurlijk niet alleen over oude paternalistische bazen, maar mensen hebben vaak een vooroordeel door hun impliciete vooringenomenheid. En ook kredietverleners zijn maar mensen.

Twijfels

Toch kunnen er ook twijfels rijzen bij het gebruik van AI.

Zo kan AI de menselijke vooringenomenheid net vermenigvuldigen of repliceren. Het beruchte voorbeeld van Amazon die hun AI-rekruteringstool schrappen nadat is ontdekt dat deze de vooroordelen in de menselijke rekruteringsprocessen repliceert, is slechts één voorbeeld. Waar vooringenomenheid vandaan kan komen tijdens het creëren van het model is ook niet altijd makkelijk te overzien. Zelfs wanneer het later wordt ontdekt, kan het erg lastig zijn de vooringenomen uit het model te krijgen. En hoewel er in de AVG een recht op menselijke tussenkomst bij geautomatiseerde besluiten is ingeschreven, kan men zich afvragen in hoeverre men zal ingaan tegen een machine die al 10 keer een juist besluit heeft gegeven.

Bij kredietverlening kan het ook zijn dat door het algoritme niet alleen een screening wordt uitgevoerd doorheen jouw betaalgeschiedenis, maar ook doorheen alternatieve, niet-financiële data die beschikbaar zijn op jouw sociale media kanalen. Is dit negatief? De algoritmen voor machinaal leren in combinatie met grote sets van alternatieve gegevens creëren mogelijkheden om de toegang tot krediet uit te breiden, maar ze creëren ook risico’s.

Ook is er een probleem als iedereen met hetzelfde algoritme werkt. Als je nergens aanvaard wordt, betekent dit dan dat je in geen enkele firma meer terecht kan of nooit meer een lening kan aangaan? Een oplossing hiervoor zou een algoritme zijn met dezelfde basisprincipes en bescherming die dan verder aangepast wordt aan de principes van de bank of de spirit van het bedrijf.

We kunnen voorzichtig besluiten dat er vandaag geen afdoende kader bestaat dat toelaat de positieve toepassingen maximaal te benutten terwijl de excessen beperkt worden. Een wettelijke ingreep lijkt dan ook nodig, en wellicht dat het overleg daarover best sectoraal gebeurt. Zo moet er worden nagegaan welke praktijken niet aanvaardbaar zijn, en welke criteria in aanmerking mogen komen wanneer AI beslissingen neemt.

Bij deJuristen volgen we de laatste ontwikkelingen op gebied van AI op de voet. Mocht je meer informatie willen, kan je ons altijd bereiken via hallo@dejuristen.be.

Geschreven door Delphine Cannoot en Paulien Vandenborre, Trainees deJuristen, en Kris Seyen, Partner deJuristen

Onze diensten

Information Technology

Intellectuele Eigendom

Privacy

e-Compliance

Onze website gebruikt cookies en verzamelt informatie over je bezoek om onze website te verbeteren. Bekijk onze  Cookie verklaring en maak hieronder een keuze.

Cookie settings

Hieronder kan je kiezen welke soorten cookies je toelaat op deze website. Klik op de  "Save cookie settings" knop om je voorkeuren op te slaan.

Functionele cookiesOnze website gebruikt functionele cookies. Deze cookies zijn noodzakelijk om de website te doen werken.

Analytische cookiesOnze website gebruikt analytische cookies om het gebruik van de website te analyzeren en te optimaliseren.

Social media cookiesOnze website plaatst sociale media cookies om 3rd party content to tonen. Deze cookies kunnen mogelijks je persoonlijke data tracken.

Advertentie cookiesOnze website plaatst advertentie cookies om je 3rd party advertenties te tonen op basis van je interesses.

Andere cookiesOnze website plaatste 3rd party cookies van andere 3rd party diensten die geen analytische, social media of advertentie cookies zijn.