Metode
Projektets fremgangsmåde har været todelt. Den første del har fokuseret på at identificere AI-systemer i det offentlige. Den anden del har omfattet indsamling og systematisering af data.
For at identificere AI-systemer i det offentlige har projektets hold gennemgået tilgængelige rapporter, forskningslitteratur, nyhedsartikler, andet medieindhold og information på offentlige myndigheders hjemmesider.
Da arbejdet med indsamlingen af data til databasen har fundet sted inden vedtagelsen af AI-forordningen, har projektet arbejdet ud fra den vejledende definition af AI-system som fandtes i artikel 3 i udkastet til AI-forordningen:
«system med kunstig intelligens" (AI-system): software, der er udviklet ved hjælp af en eller flere af de i bilag I anførte teknikker og tilgange, og som med henblik på et givet sæt mål, der er fastsat af mennesker, kan generere output såsom indhold, forudsigelser, anbefalinger eller beslutninger, der påvirker de miljøer, de interagerer med»
Siden vedtagelsen af AI-forordningen lægger projektet til grund den endelige definition i forordningens artikel 3. Ved ’AI-system’ forstås:
«et maskinbaseret system, som er udformet med henblik på at fungere med en varierende grad af autonomi, og som efter idriftsættelsen kan udvise en tilpasningsevne, og som til eksplicitte eller implicitte mål af det input, det modtager, udleder, hvordan det kan generere output såsom forudsigelser, indhold, anbefalinger eller beslutninger, som kan påvirke fysiske eller virtuelle miljøer».
Efter at have identificeret AI-systemer i den offentlige sektor har projektets hold indsamlet og systematiseret information om systemerne. Denne del af arbejdet har taget udgangspunkt i en standardiseret kodebog udarbejdet af projektets deltagere. I den grad at dette har været muligt, har projektholdet indsamlet data om:
hvor et givet AI-system bruges og hvad det bruges til;
hvornår det blev implementeret, afprøvet og/eller lukket;
hvordan systemet gør brug af AI;
hvilke data er blevet brugt til at træne algoritmen;
hvilke sikkerforanstaltninger har været sat i værk;
hvorvidt systemet har været afprøvet gennem f.eks. pilotprojekter, og hvorvidt der er blevet identificeret konkrete (etiske, juridiske, tekniske) udfordringer, hvorvidt disse evt. er blevet udbedret og hvordan;
hvad begrundelsen har været for at indføre AI-systemet;
om lignende systemer er blevet implementeret andre steder og evt. de tilhørende erfaringer.
Udover disse oplysninger har holdet også tilføjet en række metadata til hvert system. Disse metadata omfatter:
hvilken offentlig myndighed anvender AI-systemet;
hvilket område AI-systemet anvendes på;
AI-systemets geografiske udbredelse;
AI-systemets status;
AI-systemets hovedfunktion;
Formålet med disse metadata er at give brugerne af databasen mulighed for at sortere AI-systemer efter anvendelsesområde, funktion eller den myndighed eller sektor, de bruges i.
Mange af de nævnte oplysninger om AI-systemerne stammer fra offentligt tilgængelige kilder og eksisterende rapporter. Dog har det ofte været nødvendigt at supplere disse med yderligere information gennem direkte kontakt med projektansvarlige og aktindsigter. Dialogen med myndighederne har sikret adgang til opdaterede og præcise oplysninger, som ikke altid fremgår af offentlige dokumenter. Aktindsigter har desuden givet indsigt i specifikke projekter, hvor den tilgængelige information har været begrænset.
Alle billeder tilknyttet AI-systemerne og generelt på databsen er genereret ved hjælp af kunstig intelligens. Blandt de anvendte værktøjer er Canva's "Dream Lab" samt andre AI-baserede billedgenereringsværktøjer.
Da projektets ressourcer er begrænsede og der stadig kommer nye AI-systemer i brug i det offentlige, opfordres alle med kendskab til et AI-system til at indberette det gennem denne formular.