Formål

Danmark er et foregangsland inden for digitalisering, hvor borgernes interaktion med myndighederne i stigende grad foregår online. Samtidig træffes et voksende antal beslutninger, der påvirker danskernes hverdag, af offentlige myndigheder med inddragelse af kunstig intelligens (AI) – og med god grund. AI kan effektivisere beslutningsprocesser og bidrage til at løse store samfundsudfordringer. Anvendelsen af kunstig intelligens i offentlige systemer og beslutningsprocesser rejser dog også en række retlige og etiske udfordringer. Når AI anvendes bredt i den offentlige sektor, fremhæves særligt følgende problematikker.

AI-systemer kræver ofte store mængder data til at træne algoritmer eller udarbejde beslutningsforslag. Disse data kan omfatte personfølsomme oplysninger om individers helbredstilstand, etnicitet, køn og alder. På den ene side rejser dette spørgsmål om, hvordan borgernes privatliv bedst beskyttes, og hvordan man sikrer, at data kun anvendes til de formål, de oprindeligt blev indsamlet til. På den anden side opstår bekymringer om, hvorvidt AI-systemer kan bidrage til øget stigmatisering af visse borgere eller befolkningsgrupper. Når personfølsomme data anvendes i træningsgrundlaget og de endelige beslutningsprocesser, kan algoritmer ubevidst forstærke eksisterende fordomme og føre til ulovlig diskrimination.

AI-understøttede beslutningsprocesser kan have en negativ indflydelse på menneskelig dømmekraft. Når AI enten træffer beslutninger på vegne af mennesker eller foreslår løsninger, kan det føre til såkaldt automatiseringsbias, hvor mennesker tillægger systemet mere autoritet, end det reelt fortjener. Særligt i situationer, hvor AI anvendes til at forudsige risici og træffe beslutninger om borgeres liv, understreges behovet for at træne beslutningstagere i at arbejde med AI og fastholde en kritisk menneskelig vurdering.

Endelig rejser den udbredte anvendelse af AI-systemer i det offentlige også nogle demokratiske udfordringer. AI-systemer der behandler store mængder data, kan være svære at forstå og forklare for både borgere og beslutningstagere. Dette kan udfordre den demokratiske kontrol. 

Disse udfordringer understreger behovet for ikke blot klare lovgivningsmæssige rammer, men også øget gennemsigtighed og effektivt tilsyn med AI-systemer i det offentlige. Formålet med denne database er at bidrage til dette. Ved at samle viden om hvor, med hvilket formål og hvordan AI anvendes i den offentlige sektor i Danmark, ønsker vi at give borgere og beslutningstagere bedre indsigt i brugen af AI i det offentlige. 

Bemærk at databasen indeholder den aktuelle status for det enkelte system og at du som bruger vil kunne finde AI-systemer som er under udarbejdelse, i brug eller allerede er blevet nedlagt. Forskning viser, at dokumentation af gennemførte, opgivne eller nedlagte projekter ikke prioriteres inden for den offentlige administration. Manglen på adgang til disse projekter begrænser ikke blot forskeres mulighed for at producere ny viden, men kan også utilsigtet forhindre den offentlige administration i at lære af tidligere fejl og erfaringer. For at udfylde denne mangel og afbøde dens negative konsekvenser har vi derfor valgt at inkludere sådanne projekter i vores database. Samlet set håber vi, at databasen kan fungere som et oplysningsværktøj, der bidrager til gennemsigtighed, forskning og offentlig debat.

Udover de forskellige AI-systemer har vi samlet en række forsknings- og nyhedsartikler, rapporter, og andre relevante kilder, der belyser teknologiernes anvendelse og virkninger. Disse ressourcer kan bruges til at fordybe sig yderligere i emnet.