AI-gestuurde wervingstools: wat HR-teams moeten weten voor de EU AI Act deadline

Elk groot leverancier van HR-software heeft de afgelopen twee jaar een AI-component toegevoegd aan zijn platform. Van CV-screening tot interviewanalyse en kandidaatranking: de belofte is altijd dezelfde. Sneller werven, minder handmatig werk, betere beslissingen. Wat minder prominent in de salesgesprekken wordt vermeld, is dat veel van die tools onder de EU AI Act als hoog-risico worden geclassificeerd en dat uw organisatie als gebruiker concrete verplichtingen heeft.

Bijlage III is geen kleine lettertjes

De EU AI Act werkt met categorieen. Systemen die vallen in de categorieen van Bijlage III worden automatisch als hoog-risico aangemerkt. Punt vier van die bijlage is direct: AI-systemen die worden ingezet voor werving en selectie, inclusief het screenen van sollicitaties, het beoordelen van kandidaten tijdens sollicitatiegesprekken of tests, en het adverteren van vacatures.

Dit is geen grijze zone die in de rechtspraak nog uitgewerkt moet worden. Als uw organisatie een tool gebruikt die CVs rangschikt, interviewscores genereert, of kandidaten filtert op basis van geautomatiseerde analyse, gebruikt u hoog-risico AI in de zin van de wet.

De wetgeving is van kracht geworden in augustus 2024. De verplichtingen voor hoog-risico AI-systemen in Bijlage III gaan in per augustus 2026. Dat is minder dan anderhalf jaar.

Wat gebruiker juridisch betekent

De EU AI Act maakt een onderscheid tussen aanbieders en gebruikers. Aanbieders zijn de bedrijven die de AI-systemen bouwen en op de markt brengen. Gebruikers zijn de organisaties die de systemen inzetten in een professionele context. HR-afdelingen die kant-en-klare wervingssoftware gebruiken, zijn in vrijwel alle gevallen gebruikers in de zin van de wet.

Artikel 26 van de EU AI Act legt specifieke verplichtingen op aan gebruikers van hoog-risico AI. U moet ervoor zorgen dat medewerkers die het systeem gebruiken passende training hebben ontvangen. U moet bij bepaalde systemen een grondrechtenbeoordeling uitvoeren voordat u het systeem in gebruik neemt. U moet het systeem actief monitoren op risico's tijdens gebruik en serieuze incidenten melden bij de bevoegde autoriteit.

De verantwoordelijkheid ligt dus niet alleen bij de leverancier. Ook als u een systeem heeft gekocht dat technisch voldoet aan de eisen van de aanbieder, draagt uw organisatie eigen verplichtingen.

Algoritmische bias is een gedocumenteerd probleem

De reden dat de EU AI Act strenge eisen stelt aan trainingsdata in Artikel 10 is niet theoretisch. De geschiedenis van AI in werving bevat concrete voorbeelden van wat er misgaat als die eisen niet worden gesteld. Amazon stopte in 2018 met zijn intern ontwikkelde AI-recruitmenttool nadat bleek dat het systeem systematisch vrouwelijke kandidaten benadeelde. Soortgelijke problemen zijn gedocumenteerd bij tools die gebruik maken van stemanalyse, gezichtsherkenning of taalmodellen die getraind zijn op historische wervingsdata.