KI som rekrutteringsassistent?

Spørsmål: 

Hei! Jeg jobber innen HR i en større virksomhet som årlig håndterer et betydelig antall rekrutteringsprosesser. Vi ansetter nokså mange i løpet av et år, og det er et svært høyt antall søkere. Dette gjør at prosessene ofte blir ressurskrevende fra virksomhetens side. Med den raske utviklingen innen kunstig intelligens (KI) har jeg vurdert å implementere KI som et verktøy for å effektivisere rekrutteringsprosessen, for eksempel til å sortere søknader.

Er det tillatt å bruke KI i rekruttering, og hvilke eventuelle begrensninger eller retningslinjer bør jeg være oppmerksom på? Finnes det juridiske eller etiske hensyn som må ivaretas, og hvilke risikoer kan være knyttet til bruken av KI i en slik sammenheng?

Svar:

Hei! Takk for et godt og dagsaktuelt spørsmål. Kunstig intelligens, eller KI, kan absolutt brukes for å effektivisere rekrutteringsprosesser. Det er imidlertid viktig at virksomheter som tar i bruk KI, gjør det på en ansvarlig og lovlig måte. Dette innebærer blant annet å ha et gyldig behandlingsgrunnlag (lovlig grunn til å behandle personopplysninger) og utføre personvernkonsekvensvurdering etter personvernregelverket (GDPR).

I tillegg er det viktig å sikre at bruken av KI-systemet ikke resulterer i diskriminerende beslutninger, for eksempel ved å favorisere visse søkere basert på kjønn eller etnisitet.

I praksis må bedriften sørge for at datagrunnlaget som brukes er både relevant og representativt. Man bør være varsom med ukritisk bruk av historiske datasett, da disse kan inneholde historiske skjevheter. Et viktig tiltak for å redusere risikoen er å ha menneskelig kontroll. Formålet med menneskelig tilsyn er å fange opp eventuelle feil og skjevheter, slik at virksomheten unngår å gjennomføre rekrutteringsprosesser som vil være i strid med forbudet mot diskriminering på grunn av for eksempel kjønn, etnisitet eller funksjonsnedsettelse.

Det er også verdt å merke seg at bruk av KI til rekruttering omfattes av EUs nye regelverk for kunstig intelligens, AI Act. Dette regelverket skal sikre etisk og pålitelig bruk av KI, og vil etter hvert gjelde også i Norge. AI Act definerer bruk av KI i rekruttering som et høyrisikoformål, noe som medfører en rekke forpliktelser for virksomhetene. Det stilles blant annet krav til gjennomføring av risikovurdering, kontroll på treningsdata, teknisk dokumentasjon, prosesser for menneskelig tilsyn, evt. krav til samsvarsvurderinger og CE-merket AI-verktøy om dette ikke allerede er gjort mv.

For å sikre ansvarlig bruk av KI i rekruttering er det altså viktig å være bevisst på både personvern, diskriminering og de nye kravene i AI Act.

Når det gjelder diskriminering i rekrutteringsprosesser er det også viktig å merke seg Diskrimineringsnemndas avgjørelse fra desember 2024 om diskriminering på grunn av etnisitet.

Saken gjaldt en jobbsøker med både russisk og norsk statsborgerskap, som søkte på en ingeniørstilling i et norsk selskap. Selskapet var en viktig leverandør av systemløsninger til norsk energiforsyning, med kunder ansvarlig for kritisk norsk infrastruktur og praktisering av strenge sikkerhetskrav. Jobbsøknaden ble ikke vurdert på grunn av søkerens russiske statsborgerskap. Selskapet mente at det russiske statsborgerskapet hindret ham fra å utføre arbeidsoppgavene i stillingen.

Spørsmålet for nemnda var om selskapet, med beslutningen om å ikke vurdere søknaden på grunn av søkerens tilknytning til Russland, brøt forbudet mot diskriminering på grunn av etnisitet. Selv om nemnda erkjente at søkeren ble forskjellsbehandlet på grunn av etnisitet, ble det konkludert med at selskapets avgjørelse hadde et legitimt formål, var nødvendig og forholdsmessig. Selskapet hadde derfor ikke brutt forbudet mot diskriminering på grunn av etnisitet ved å ekskludere søkeren fra søknadsprosessen.

Nemnda vektla at selskapet baserte beslutningen på risikovurderinger fra norske sikkerhetsmyndigheter, som pekte på Russland som en trussel mot Norges energisektor og fremhevet at personer med tilknytning til Russland er særlig sårbare for russisk etterretning. Gitt stillingens tilgang til sensitiv informasjon om norsk infrastruktur, fant nemnda det legitimt å nekte ansettelse basert på søkerens statsborgerskap. Videre understreket nemnda at selskapet hadde gjennomført grundige, konkrete og velbegrunnede vurderinger knyttet til risikoene forbundet med å ansette en russisk statsborger i den aktuelle stillingen. Kort oppsummert medførte disse momentene at det ikke forelå ulovlig diskriminering.

Nemnda understreker viktigheten av å vurdere hver sak individuelt, men avgjørelsen viser at det ikke nødvendigvis er i strid med forbudet mot diskriminering å avslå ansettelse av russere basert på statsborgerskap. Dette forutsetter imidlertid at selskapet gjennomfører grundige og velbegrunnede risikovurderinger. Videre bekrefter avgjørelsen at selskaper kan basere slike risikovurderinger på trusselvurderinger fra nasjonale sikkerhetsmyndigheter.

Vårt råd for å sikre konsekvente og velbegrunnede vurderinger av jobbsøkere med tilknytning til høyrisikoland, er at selskaper:

• Utarbeider skriftlige retningslinjer for bakgrunnssjekker, inkludert prosedyrer for å vurdere søkere med tilknytning til høyrisikoland
• Holder seg oppdatert på trusselvurderinger fra nasjonale sikkerhetsmyndigheter
• Har jevnlige diskusjoner med ansattrepresentanter/tillitsvalgte for å gjennomgå retningslinjer og prosedyrer og identifisere risikoreduserende tiltak

Lykke til med årets rekrutteringsprosesser!