AI014 - Prioritering af kontrolsager om social svindel

Billedet er generet af kunstig intelligens

Prioritering af kontrolsager om social svindel

Systemet blev testet i Horsens Kommune og skulle angive, om der var høj eller lav sandsynlighed for social svindel i en konkret sag, så sagsbehandlerne kunne vurdere, hvor meget tid, der skulle afsættes til hver sag. 

  • Horsens Kommune

Beskrivelse af systemet

I. Hvor bruges systemet og hvad bruges det til?

Systemet blev afprøvet i Horsens Kommune til at prioritere sager om social svindel i kommunens kontrolafdeling. Systemet skulle angive, om der var høj eller lav sandsynlighed for social svindel i de sager, kontrolafdelingen behandler, så sagsbehandlerne kunne vurdere, hvor meget tid, der skulle afsættes til behandling af hver enkelt sag. 

II. Hvornår blev det implementeret?

Horsens Kommune begyndte at udvikle modellen i begyndelsen af 2019 i samarbejde med to specialestuderende fra Aarhus Universitet. Modellen var færdigudviklet i sommeren 2019. Efterfølgende besluttede kommunen, at modellen ikke skulle sættes i drift, da fejlraten var for høj på grund af et for lille datasæt. 

III. Hvordan gør systemet brug af kunstig intelligens?

Horsens Kommune trænede og testede i alt ni forskellige modeller. De blev først og fremmest evalueret på fejlraten, men for at tilgodese hensynet til især at undgå falsk negative vurderinger, blev modellerne også evalueret på præcision og genkald. Blandt de ni afprøvede modeller valgte kommunen at færdigudvikle to forskellige: en Support Vector Machine (SVM-model), som havde den mindste fejlrate, men lav transparens, og en logistisk regressionsmodel, som havde en højere fejlrate, men bedre transparens. 

 

IV. Hvilke data er blevet brugt til at træne algoritmen?

Modellen blev udviklet på et sæt af 1200 historiske sager om forskellige typer ydelser, som kontrolafdelingen havde behandlet fra efteråret 2016 frem. Heraf havde kommunen fundet afgjort 75 sager som social svindel. Modellen analyserede på ca. 35 variable i de afgjorte sager, herunder bopæl, privat indtægt, offentlige ydelser, civilstatus og -historisk, adressehistorik, antal samlevere, køn og alder. 

VI. Har systemet været afprøvet gennem f.eks. pilotprojekter? Blev der identificeret konkrete (etiske, juridiske, tekniske) udfordringer? Blev disse udbedret? Hvordan?

Systemet blev aldrig sat i drift, fordi fejlraten var for høj. 

VII. Hvordan er begrundelsen for indføring af systemet?

Projektet var ifølge kommunen først og fremmest et pilotprojekt, som skulle illustrere mulighederne ved at arbejde med data.