Bedre Match

Projektet var et samarbejde mellem Københavns Kommune og Syddjurs Kommune i perioden primo 2020 – medio 2021. Projektet mødte en række forhindringer undervejs, herunder Covid-19-pandemien og udskiftning af projektleder. Det betød, at projektet ændrede scope, så slutproduktet i stedet blev til tre mock-ups på hhv. markedsoverblik, CV-hjælp og jobmatch. Signaturprojektet indeholdt ikke noget kode, men blev derimod til en udarbejdelse af de tre mock-ups og drøftelser omkring de forskellige skridt fra en mockup til en reel løsning. 

På de tre områder, som dette projekt endte med at arbejde videre med i form af mockups, var spørgsmålene, som en kunstig intelligens-løsning skulle svare på, følgende:  

JobSwipe: Kan der, i matchet mellem CV og jobopslag, med brug af kunstig intelligens:  

- Øges afgangen?  
- Forhindres tilbagefald?  
- Øges matchsandsynligheden?  

Løsningen havde de følgende overordnede karakteristika:  

- Brugte kommunale jobåbninger,  
- Adgangsstyring foregik med NemID,  
- Byggede på adfærdsbaseret algoritme (’andre som dig har søgt’)  
- Kunne udbygges med jobåbninger hos kommercielle visningsklienter efter aftale,
- Gav et hurtigere overblik over relevante jobåbninger.  

Markedsoverblik: Kan der med kunstig intelligens skaffes viden om:  

- Hvilke jobåbninger der er?  
- Hvilke jobåbninger/trends der er på vej?  
- Hvilke virksomheder ansøger skal kontakte?  
- Hvilke brancher ansøger skal holde sig fra p.t.?  

Løsningen havde følgende overordnede karakteristika:  

- Datamodellen bag Markedsoverblik brugte dels data fra de kommunale fagsystemer, dels eksterne data på et overordnet niveau,
- Markedsoverbliket var ikke målrettet borgerne men udelukkende de kommunale medarbejdere.  

CV-hjælp: Hvordan kan kunstig intelligens hjælpe:  

- Borgerne i deres CV-skrivning, så deres kompetencer bliver mere synlige?  
- Virksomhederne med at udforme deres jobopslag, så de modtager bedre kandidater til deres stillingsopslag?  

Løsningen havde følgende overordnede karakteristika:  

- Byggede på DISCO-koder (den danske version af ’International Standard Classification of Occupations’),  
- Brugte data fra borgernes CV på Jobnet.dk,  
- Anvendte kun de kommunale jobåbninger,  
- Kunne udbygges med jobåbninger fra kommercielle platforme.

Algoritmen er ikke blevet lavet, men der er gjort overvejelser om hvilke data der skulle bruges og hvordan den kunne laves i fem trin: 

1: Ekspertmodel   

Første skridt er at udarbejde en model baseret på aktuelle principper, der er kendt fra den manuelle proces. Det vil sige en manuel matching af uddannelse og erfaring med jobåbninger, som det allerede foregår i jobcentrene, hvor en sagsbehandler f.eks. foreslår en jobåbning til en borger. Det vil sige, at der skal knyttes CV-data til data fra jobåbningerne.   

2: Adfærdsmodel   

På baggrund af ekspertmodellen udarbejdes en ny model baseret på forretningsregler og på den data, der opstår i takt med, at brugerne begynder at benytte løsningen (f.eks. begynder at swipe jobs til højre eller venstre). Det vil sige, at brugerne gennem deres adfærd begynder at etablere mønstre, som bliver indlejret i modellen og gør den bedre.   

3: Prædiktiv model (med en præcisionsscore)   

Tredje skridt er en model baseret på reel machine learning: I takt med at der bliver opbygget en erfaringsbase gennem brugen af løsningen, kan man styrke modellen med flere machine learning-algoritmer. Dette vil hurtigere sammenkoble ledige med matchende jobåbninger, der tidligere har virket for borgere med samme præferencer.   

4: Netværksanalysemodel   

Ved det fjerde skridt bliver modellen uddybet med andre brugeres søgninger og baggrunde. I dette tilfælde kan folk med ønsker om visse typer af jobs, men med en vis kompetencemæssig diskrepans, få forslag fra netværksanalysemodellen som ikke bare foreslår et job, men et forløb, der kunne føre til et belejligt jobskifte.   

5: Reinforcement-learning   

Det sidste skridt er en model baseret på teknologi, der fører til hurtigere ’succesfulde’ alternative forslag baseret på tidligere forsøg blandt ’peers’. Her lærer modellen både af succeser og fejl – i dette tilfælde vil man i højere grad minimere antallet af irrelevante jobopslag. Det er svært at træne modellen, idet der helst skal ligge 12-18 måneders jobmatch-datasæt bag, før modellen også bliver i stand til at lære fra sig.   

Som det ses, bliver den kunstige intelligens-løsning mere og mere sofistikeret for hvert trin. En af udfordringerne ved at arbejde med kunstig intelligens er, at det kan være svært at sige nøjagtigt, hvad det kræver at nå op til et givet trin. I ovenstående eksempler kommer det for eksempel an på algoritmens reaktion på data, borgernes adfærd og borgernes modenhed ift. at anvende og stole på løsningen – parametre, der er svære at forudsige. Til gengæld vil man, hvis man følger ovenstående trin, ret tidligt have en funktionsdygtig løsning, der efterfølgende, når man høster erfaringer, kan styrkes yderligere. 

1. Mennesket i centrum  

I arbejdet med brugen af kunstig intelligens og sagsbehandling har det været vigtigt at databehandlingen er tilrettelagt med udgangspunkt i, at data er noget man låner af borgerne. Ligeledes skal borgerens rettigheder altid prioriteres frem for f.eks. andre mål som effektivisering. Dette kan ske ved at have fokus på, at det først og fremmest er borgerne, der får værdi af anvendelsen af deres persondata – hurtigere i job, et bedre match, osv. – men også, at nye automatiserede processer er designet til at skabe tillid hos borgerne, og at borgerne kan gøre indsigelser mod behandlingen af deres data. Hvad sker der, hvis borgerne f.eks. insisterer på ikke at blive underlagt de automatiserede processer og resultater? Mister de rettigheder, og får de andre svar?  

2. Individuel datakontrol  

Mennesket har individuel datakontrol og handlekraft. Det er det enkelte menneske, der har den primære kontrol over, hvad deres data bruges til. Nogle af de overvejelser, projektgruppen har gjort sig, har i høj grad handlet om datakontrol. De manglende muligheder i dag for, at borgeren selv har mulighed for at bestemme de værdier, regler og input, der ligger til grund for det resultat, algoritmerne kommer frem til, er helt klart en udfordring. Man skal derfor grundigt overveje, hvilke kvantitative og/eller kvalitative data man bruger. Er der taget højde for algoritmens fravalg? Og hvad med data, der bygger på tidligere afgørelser? Er det stadig den faglighed, vi står på?  

3. Gennemskuelighed  

Databehandling og automatiserede beslutninger skal give mening for det enkelte menneske. De skal være transparente og skal kunne forklares. Risici samt sociale, etiske og samfundsmæssige konsekvenser skal stå klart. Projektgruppen har arbejdet en del med begreberne ’forklarbarhed’ og ’forsvarbarhed’. Som borger er det vigtigt, at man altid kan få en forklaring på afgørelser, på råd og på vejledning. Derfor er det også vigtigt, at sagsbehandlerne kan forklare borgerne, på hvilket grundlag, ud over det juridiske, beslutninger bliver truffet. Hvilke datakilder og datafelter er de bærende elementer for algoritmen? Eventuelle bias og kausale sammenhænge bør beskrives. Bruger man f.eks. en formulering som ’andre med din baggrund har søgt’, bør det stå lysende klart hvad ’din baggrund’ betyder, så sagsbehandleren fagligt kan forsvare resultatet. De koder, som algoritmer bygger på, og som giver nye muligheder i fagsystemer, for eksempel i form af funktionaliteter som ’find job der passer’, skal være åbne og tilgængelige for andre udviklere, så borgerne, qua forskellige fagsystemer, ikke oplever uensartet behandling i landets kommuner.  

4. Ansvarlighed  

Ansvarlighed er en organisations bevidste, saglige og systematiske brug og beskyttelse af persondata. I projektgruppen blev det hurtigt tydeligt, at enhver form for databerigelse indebar et til-og/eller fravalg. Disse valg kræver løbende diskussioner og løbende governance i forhold til kvalitetssikringen af data. Den del af opgaven, der er med til at sikre, at de etiske retningslinjer bliver overholdt og løbende diskuteret, ville kunne lægges hos de kommunale Databeskyttelsesrådgivere.  

5. Ligeværdighed  

Demokratisk databehandling bevarer magtfordelingen i samfundet. Der tages særlige hensyn til sårbare mennesker og deres risiko for diskrimination, stigmatisering og bias. Det var fra starten af projektperioden aldrig til diskussion, at brugen af kunstig intelligens ikke på nogen måde må være drevet af en lyst til eller et behov for at lære en ny teknologi at kende. Brugen af kunstig intelligens og andre teknologier skal altid have sit udspring et andet sted. Brugen af kunstig intelligens skal altid være til gavn for individet, hvilket ligger i naturlig forlængelse af den kommunale opgave. Dette indebærer, at det allerede i udviklingsfasen sikres, at algoritmer overholder de samme retningslinjer som i anden faglig udvikling, og at de ikke bygger på fordomme og negative stereotyper, men også at de træningsdata, der bliver brugt til at udvikle og styrke algoritmen, er underlagt samme krav. 

Projektet har været et signaturprojekt i perioden 2020-2021, hvor flere udfordringer er beskrevet ovenfor.   

Derudover har de haft nogle anbefalinger, hvor de tre vigtigste pointer er:   

1. Kend området og vær sikker på, at du kan formulere det reelle problem, du skal have løst: ’Hvis kunstig intelligens er løsningen, hvad er så problemet?’ Vi anbefaler, at man tager kortlægninger og udarbejdelse af en mockup ret alvorligt – det sparer blod, sved og tårer senere i forløbet og giver en masse uvurderlig viden.   

2. Involver bredt og etabler en iterativ proces. For at lære området at kende skal du involvere bredt. Sørg for at lægge op til en iterativ proces, hvor analyser og problemformulering drøftes, testes og revurderes i forskellige fora, herunder i workshops og i styregruppen.   

3. Tag dataetik alvorligt og vær meget opmærksom på, hvem der har den dataetiske bold. Sørg for at skabe klarhed over ansvaret. Tænk dataetik ind i hele forløbet og lad det indgå i test med relevante interessenter og ekspertgrupper.   

Systemet er ikke indført, men hele projektet omhandlede at undersøge hvordan et eventuelt KI system ville kunne hjælpe på forskellige områder mht. at matche ledige borgere med virksomhedernes ubesatte stillinger. Tanken var, at en kunstig intelligens-løsning ville kunne understøtte sagsbehandlerens faglige vurdering. Dette ville potentielt øge vidensgrundlag i kommunerne og dermed understøtte de kommunale sagsbehandlere med alternative jobforslag i fx andre brancher, andre jobfunktioner og lignende alternativer til borgeren. Kunstig intelligens ville således også potentielt kunne medvirke til at udvide borgerens perspektiver på mulige jobs. 

I Belgien har der været et pilotprojekt i samarbejde mellem FARI og Actiris, Bruxelles officielle jobplatform. Projektet har haft til formål at levere løsninger til både jobsøgende og arbejdsgivere i regionen i form af et algoritmisk matchende system. Under udviklingen af projektet opstod der nogle problemer, især på grund af institutionelle begrænsninger. Disse begrænsninger betød, at projektet var nødt til at bruge foruddefinerede jobkataloger. Disse kataloger kan være problematiske, fordi de begrænser mulighederne for at matche med nye eller underrepræsenterede job. Problemet er, at matchingen er afhængig af en ren algoritmisk tilgang, der kun søger efter næsten perfekte match. Dette kan føre til tomme søgeresultater. Løsningen der foreslås, er at reducere disse begrænsninger og skabe muligheder for kompromisser mellem de perfekte kandidater og de jobsøgende.