Een chatbot die de eerste sollicitatieronde afneemt, een algoritme dat de kredietscore bepaalt… Dit zijn allemaal toepassingen van AI die deel uitmaken van processen waarbij er ingrijpende beslissingen voor de mens worden gemaakt. Is dit nu een goede of slechte zaak?
Verhoging menselijke capaciteit
In een krappe arbeidsmarkt is het voor bedrijven moeilijk om de juiste mensen te vinden en aan zich te binden. Binnen HR zijn er steeds meer sollicitaties voor dezelfde functie terwijl het aantal HR-managers hetzelfde blijft. Als een eerste screening gebeurt om het kaf van het koren te scheiden door AI, kan de HR-manager zich concentreren op diepere zaken. In plaats van het nagaan van het geschikte diploma, kan de manager kijken of er bijvoorbeeld een culture fit is met het bedrijf. Zo is er reeds Skeeled, dit is een op AI-gebaseerde recruitment software die wordt gebruikt bij pre-screening, bij het maken van de ranglijst van sollicitanten of bij het geven van feedback aan de recruiter.
Ook bij kredietverlening kan AI zorgen voor een verhoging van de capaciteit. De waarde van de meeste leningen is voornamelijk gebaseerd op de kans dat een individu of bedrijf deze terugbetaalt. Dit bepalen kan een complexe taak zijn, zelfs met perfecte informatie, en vaak is de informatie onvolledig of verkeerd. Indien men voor deze risicobeoordeling AI gebruikt, zullen kredietverleners zich kunnen concentreren op andere belangrijke taken. Zoals ervoor zorgen dat het betalingsproces op schema blijft, zodat de lening op tijd wordt gefinancierd en de klanttevredenheid hoog is.
Verkleining kans op vooringenomenheid
Stel je even voor dat je als jonge migrant gaat solliciteren bij een oude paternalistische gezinde baas. Zou je dan niet liever door een algoritme geïnterviewd worden, dat alleen kijkt naar jouw capaciteiten en talenten, zonder af te gaan op jouw afkomst? Het gaat hier natuurlijk niet alleen over oude paternalistische bazen, maar mensen hebben vaak een vooroordeel door hun impliciete vooringenomenheid. En ook kredietverleners zijn maar mensen.
Twijfels
Toch kunnen er ook twijfels rijzen bij het gebruik van AI.
Zo kan AI de menselijke vooringenomenheid net vermenigvuldigen of repliceren. Het beruchte voorbeeld van Amazon die hun AI-rekruteringstool schrappen nadat is ontdekt dat deze de vooroordelen in de menselijke rekruteringsprocessen repliceert, is slechts één voorbeeld. Waar vooringenomenheid vandaan kan komen tijdens het creëren van het model is ook niet altijd makkelijk te overzien. Zelfs wanneer het later wordt ontdekt, kan het erg lastig zijn de vooringenomen uit het model te krijgen. En hoewel er in de AVG een recht op menselijke tussenkomst bij geautomatiseerde besluiten is ingeschreven, kan men zich afvragen in hoeverre men zal ingaan tegen een machine die al 10 keer een juist besluit heeft gegeven.
Bij kredietverlening kan het ook zijn dat door het algoritme niet alleen een screening wordt uitgevoerd doorheen jouw betaalgeschiedenis, maar ook doorheen alternatieve, niet-financiële data die beschikbaar zijn op jouw sociale media kanalen. Is dit negatief? De algoritmen voor machinaal leren in combinatie met grote sets van alternatieve gegevens creëren mogelijkheden om de toegang tot krediet uit te breiden, maar ze creëren ook risico’s.
Ook is er een probleem als iedereen met hetzelfde algoritme werkt. Als je nergens aanvaard wordt, betekent dit dan dat je in geen enkele firma meer terecht kan of nooit meer een lening kan aangaan? Een oplossing hiervoor zou een algoritme zijn met dezelfde basisprincipes en bescherming die dan verder aangepast wordt aan de principes van de bank of de spirit van het bedrijf.
We kunnen voorzichtig besluiten dat er vandaag geen afdoende kader bestaat dat toelaat de positieve toepassingen maximaal te benutten terwijl de excessen beperkt worden. Een wettelijke ingreep lijkt dan ook nodig, en wellicht dat het overleg daarover best sectoraal gebeurt. Zo moet er worden nagegaan welke praktijken niet aanvaardbaar zijn, en welke criteria in aanmerking mogen komen wanneer AI beslissingen neemt.
Bij deJuristen volgen we de laatste ontwikkelingen op gebied van AI op de voet. Mocht je meer informatie willen, kan je ons altijd bereiken via hallo@dejuristen.be.
Geschreven door Delphine Cannoot en Paulien Vandenborre, Trainees deJuristen, en Kris Seyen, Partner deJuristen
