– Norge må få på plass et AI-tilsyn

Vi befinner oss i en tid der algoritmer inntar rekruttering og gir oss en smak av fremtidens arbeidsmarked.

AI kan brukes på nesten alle områder av rekrutteringsprosessen i dag, inkludert chatbots, SMS-basert AI-interaksjon, grovsortering av søknader (såkalt screening), planlegging av kandidatmøter, bakgrunnssjekk via Web Scraping, intervjuing og personlighetsvurderinger.

Og dette er, ifølge ekspertene, kun den spede begynnelsen av noe vi knapt kan se konturene av.

Er AI egentlig fri for bias?

Hvordan kan en maskin vurdere kompleksiteten i en personlighet, eller bedømme om du passer inn i en bedriftskultur?

Kunstig intelligens har blitt trent opp gjennom enorme mengder data og avanserte algoritmer for å tolke og forstå menneskelig adferd og kvalifikasjoner. Fra å analysere CVer og søknadsbrev til å gjennomgå digitale profiler og sosiale medier – denne rekrutteringsboten har øyne overalt. Den kan oppdage skjulte talenter, identifisere de mest relevante ferdighetene og til og med forutse kandidaters fremtidige suksess. Alt dette uten å tilsynelatende bli påvirket av menneskelige fordommer eller subjektivitet.

Eller, stemmer egentlig det?

– Vi har ofte blitt kritisert for at vi ser etter folk som er like oss selv i rekrutteringsprosesser, hvis vi ikke er bevisst nok. Men det gjelder antakelig også kunstig intelligens. Hvis du trener systemet på et datasett som allerede ligger innenfor et fagområde, vil du fortsatt risikere at du får et ekkokammer, sier Heri Ramampiaro, instituttleder og professor ved Institutt for datateknologi og informatikk på Norges teknisk-naturvitenskapelige universitet (NTNU).

– Systemet hatet kvinner

Dermed er ikke kunstig intelligens nødvendigvis løsningen på bias-problemet som til tider oppstår når mennesker skal rekruttere, fordi AI bare viderefører biaset ved å bruke samme datagrunnlag.

Det mest kjente eksempelet på dette er fra IT-giganten Amazon.

– Da Amazon skulle bruke AI for å finne de beste teknologene, viste det seg at systemet i praksis hatet kvinner. Fordi maskinen var matet med historiske data, altså hvem som tidligere hadde lykkes i Amazon, foretrakk den kandidater som lignet på disse, nemlig relativt unge menn, sier Espen Skorstad, spesialist i arbeids- og organisasjonspsykologi og daglig leder i rekrutteringsverktøyet Fairsight, som jobber for å hindre nettopp slik bias.

Tilsvarende eksempler er Skorstad kjent med fra andre organisasjoner.

– En av verdens mest kjente telekom-selskaper benyttet AI-basert video-intervjuing av sine søkere, kun for å oppdage at maskinen kategoriserte alle søkere fra Asia som skeptiske. Dette kom av at ansiktsgjenkjenning-algoritmen ikke fungerte like bra for alle etniske grupper. Resultatet var at rekrutteringsløsningen i praksis diskriminerte brorparten av søkerne til selskapet, som ikke bare er store i Europa, men også i Asia. Snakk om krise, sier Skorstad.

Fare for diskriminering

På samme måte kan vi få problemer hvis vi tar i bruk AI for å rekruttere i lille Norge.

– Norge er et lite land. Hvis vi bare trener på norske data, og skal invitere inn utenlandske søkere, vil det ikke fungere 100 prosent. Og hvis du bruker data fra hele verden, og søker en typisk norsk kandidat, vil ikke systemet nødvendigvis fange opp det heller, sier Ramampiaro.

Er løsningen å legge inn filter i systemet for å finne ønsket kandidat?

– Ja, vi kan styre litt og legge inn filter, men det kan også føre til en uønsket skjevhet, og det kan fort bli diskriminering, sier NTNU-professoren.

Så selv om AI-verktøy kan gjøre rekrutteringsprosessen mer effektiv, ved å for eksempel screene hundrevis av CVer og søknader på minutter, er ikke nødvendigvis resultatet bedre.

– Det er viktig at vi snakker om fallgruvene. Både vi som utvikler og jobber med verktøyene, men også bedriftsledere, politikere og myndigheter må kjenne til problemstillingene. På den måten kan de lage rammeverk og retningslinjer som hjelper, sier Ramampiaro.

– Utviklerne har lite kontroll

Utviklingen av AI skjer i rasende fart. Et byråkrati som i Norge vil slite med å henge med i svingene. Ramampiaro mener det erfaringsmessig tar veldig lang tid før retningslinjer og regler EU bestemmer, blir anvendt i Norge. Han mener derfor Norge må komme i gang så fort som mulig selv, parallelt med at EU ser på regulering av AI.

– Myndighetene må jobbe mye tettere på utviklingen slik at noen av utfordringene kan bli løst gjennom regelverk. Vi må få på plass et AI-tilsyn i Norge. De avanserte datasystemene vi har i dag, som Chat-GPT eller andre systemer som er basert på generative modeller, har utviklerne lite kontroll over. Skulle systemet feile, vet de egentlig ikke hva som foregår. Det var blant annet derfor ekspertene nylig hadde et opprop, sier Ramampiaro.

Han refererer til da en rekke av verdens fremste teknologieksperter, inkludert Elon Musk, tidligere i vår ba om midlertidig stans i utviklingen av kunstig intelligens i frykt for at vi er i ferd med å miste kontroll over teknologien.

Etiske problemstillinger

En annen fallgruve ved bruk av AI innen rekruttering er etiske problemstillinger. Ifølge Ramampiaro er det svært enkelt for rekrutterere å samle alle data og all informasjon som er offentlig tilgjengelig på en person. Det være seg gamle avisklipp, usjarmerende bilder, eller kommentarer på sosiale medier man gjerne skulle ønske aldri så dagens lys igjen.

– Det er i seg selv ikke nødvendigvis ulovlig å sammenstille alle data som er tilgjengelig, men du avdekker kanskje mer enn det du etisk sett burde ha lov til, sier Ramampiaro.

Med andre ord, du vet for mye om personen. Informasjon personen selv aldri ville ha gått med på at du skulle vite.

– Du bruker dataanalyse av en person basert på tilgjengelige data, noe som isolert sett ikke er ulovlig, men som kan by på etiske problemer.

Transparens overfor kandidatene om hvilke verktøy og metoder som brukes i rekrutteringsprosessen er essensielt, mener ekspertene, spesielt ved bruk av AI.

– Rekrutterere kan spørre kandidatene om de får lov til å innhente all denne informasjonen, men problemet er at kandidaten gjerne da ufrivillig samtykker i frykt for å miste muligheten for å få stillingen, sier Ramampiaro.

– Den største fallgruven er søksmål

Det er altså ikke rett frem å ta i bruk AI-verktøyene som er tilgjengelige i dag, og noen land innfører nå lovverk for å beskytte kandidatene.

– Den største fallgruven er utvilsomt søksmål. Dersom arbeidsgiver benytter seg av algoritmer som diskriminerer i selve ansettelsesbeslutningen, er dette ulovlig i store deler av verden, blant annet i Europa med GDPR og i flere stater i USA. 

5. juli innfører staten New York et nytt regelverk, “The NY AI hiring law”, som i praksis forbyr bruk av AI i “automatiserte beslutninger”. Dersom en virksomhet skal benytte AI i rekruttering, må bedriften på forhånd dokumentere at absolutt alle datapunkter som anvendes er rettferdige og at ingen diskriminerer.

– Dette er det i praksis vanskelig, om ikke umulig, å dokumentere. Hvem kan vel redegjøre for en maskin som anvender 175 milliarder datapunkter? Rent praktisk tror jeg det er viktig å være litt varsom med hvilke løsninger man hopper på. Det er en hype av dimensjoner der ute nå, sier Skorstad.

Han tror løsninger som i dag er forbudte, kan være lovpålagte i morgen. 

– I dag ser vi søksmål i USA fra kandidater som – med rette – betrakter seg urettferdig behandlet av organisasjoner som benytter AI-løsninger. I morgen kan vi se søksmål av kandidater som – med rette – betrakter seg urettferdig behandlet av organisasjoner som ikke bruker AI eller den best mulige teknologien til å velge hvem som var best egnet.

AI gjør fortsatt en rekke feil i dag, men i motsetning til noen mennesker lærer AI av egne feil, påpeker Skorstad.

– En komponent i intelligens er nettopp å lære av sine feil. Om få år vil AI benyttes i alle ledd av rekrutteringen, fordi det gir den beste løsningen, men vi er fortsatt et stykke unna dette, sier Skorstad.

Et hjelpemiddel

Den fremste fordelen med AI er uten tvil effektivisering. I stedet for å ha en ansatt som bruker timevis på å gjennomgå hundrevis av CVer for å sjekke om kandidatene har master i økonomi for eksempel, kan et AI-verktøy gjøre det på få minutter, eller mindre.

– Det er et hjelpemiddel for å effektivisere prosessen. En av ulempene ved bruk av AI-verktøy i rekruttering i dag er at du ikke 100 prosent kan stole på forslaget du får. Du må fortsatt ettergå mye, mener Ramampiaro.

Det er fordi systemet ikke er trent på representative nok data ennå, og derfor fortsatt kan feile, forklarer NTNU-professoren.

– Systemene er gode nok til å støtte beslutningsprosesser, og kan være smartere enn oss på enkelte oppgaver allerede, men det er fortsatt endel begrensninger som gjør at vi må ettergå det som kommer ut av systemet. Vi må kontrollsjekke, sier Ramampiaro.

– Hvor lang tid vil det ta før vi kan stole helt på AI?

– Det er vanskelig å anslå. Det kan skje allerede neste år, eller om ti år. Regelverk og rammene rundt bruk av systemene er viktig, og hva som er moralsk riktig vil alltid være et dilemma.

– Vil rekrutterere bli overflødige i fremtiden?

– Både ja og nei. Enkelte type oppgaver blir overflødige. Samtidig tror jeg bedriftene som søker nye ansatte ønsker å finne riktige kandidater. Det menneskelige aspektet for å gjenkjenne dem vil nok behøves.

– Vil ikke kunstig intelligens, med riktig opplæring og datagrunnlag, om noen år kunne ta de samme type valgene et menneske gjør i dag?

– AI vil nok kunne ta den type valg et menneske gjør, men jeg tror av natur det ikke er sikkert vi vil stole 100 prosent på de valgene som blir foretatt, sier Ramampiaro.

– Så AI kan nesten ta bedre valg enn oss i fremtiden, men vi kommer ikke til å stole på det fordi AI ikke er menneskelig?

– Ja. Det menneskelige aspektet vil alltid spille en viktig rolle, tror Ramampiaro, som sier han da legger til grunn at vi som mennesker ikke blir for sløve eller late når systemene blir så gode at vi glemmer at det er vi selv som tar egne valg.