ITU-forskere hjælper jobportal med at gøre rekruttering mere fair

Kunstig intelligens-værktøjer er langt fra objektive. Et nyt, treårigt partnerskab mellem ITU og Jobindex, anført af lektor på IT-Universitetet Toine Bogers og postdoc Mesut Kaya, stiller skarpt på at rense jobgigantens rekrutteringsteknologi for bias.

Toine BogersForskningInstitut for DatalogiSamarbejderalgoritmerdigital inklusiondiversitetkunstig intelligens

Skrevet 7. maj 2024 08:24 af Theis Duelund Jensen

EU har for nyligt vedtaget en lov om brug af kunstig intelligens – verdens første omfattende horisontale forordning på området – og udpeger bl.a. bias i jobrekruttering som et særligt problem. Fremkomsten af sofistikerede AI-løsninger, der sparer rekrutteringskonsulenter tid ved at screene ansøgere på forskellige basisparametre, har gjort fair jobrekruttering til et teknologisk problem. Desværre har skævheder en tendens til at manifestere sig i AI-teknologi, fordi algoritmerne trænes på data produceret af mennesker. Så hvordan er fair og lige repræsentation mulig i jobrekruttering?

Det spørgsmål har Jobindex – den største onlineportal for jobopslag i Danmark – stillet ITU-lektor Toine Bogers og postdoc Mesut Kaya. De to befinder sig i opstartsfasen af et treårigt forskningssamarbejde, der søger at gøre AI-rekrutteringsløsninger mere fair og mindre forudindtagede ved at gennemføre kvalitative undersøgelser blandt jobsøgende og rekrutteringskonsulenter og undersøge det data, den nuværende rekrutteringsproces er baseret på.

"Bias i rekruttering er et kæmpe problem," siger Kaare Danielsen fra Jobindex. "Men med AI-teknologi og forskningssamarbejdet med ITU håber vi at være i stand til at udpege og reducere skævheder på begge sider af rekrutteringsprocessen."

Projektets mål er at udvikle et såkaldt ”fairness-dashboard” til at overvåge relevante målestandarder og sikrer fair rekruttering, at udvikle job- og kandidatanbefalingsalgoritmer, der tager højde for forskellige lighedsparametre, og at integrere løsningerne i Jobindex-platformen, som skal være klar til udrulning i slutningen af projektet.

"Projektet har potentiale til at bidrage til forskning i 'fair AI' inden for ressourcestyring ved at være det første til at stille skarpt på bias og lighedsproblematikker på tværs af flere interessenter i udviklingen af job- og kandidatanbefalingsalgoritmer," siger Mesut Kaya, hvis ph.d.-afhandling omhandlede anbefalingssystemer.

Forskernes mål er bl.a. udvikling af nye metoder og værktøjer til at udpege og afbøde skævheder og øge kvaliteten af AI-drevet jobmatching. Men der er mange bekymringer at tage fat på, før et kommercielt levedygtigt værktøj kan sættes i værk.

"Vi ønsker at fremme forskningen inden for fair AI, men vi skal sikre, at vi ikke går på kompromis med nøjagtigheden, når vi fokuserer på lighed og repræsentation som parametre i teknologien. Vi skal finde en god balance, for at Jobindex kan bruge teknologien. Forhåbentlig vil vi være i stand til at øge mangfoldighed uden at gøre teknologien mindre nøjagtig,” siger Toine Bogers.

Med EU’s vedtagelse af AI-loven bliver jobrekruttering, hvor AI allerede bruges flittigt, kategoriseret som et højrisikoområde, og virksomheder og organisationer har ansvar for at sikre, at deres platforme og værktøjer lever op til reglerne.

"Der er et kæmpe potentiale for Jobindex' forretning," siger Mesut Kaya. "Men vi håber også at offentliggøre vores resultater og skubbe udviklingen i fair AI fremad."

Mere information