En sagsbehandler i Glostrup Kommune brugte Copilot og ChatGPT som støtte i behandlingen af en borgers handicapsag. Kommunens egne retningslinjer tillader ikke AI til sagsbehandling, vurderinger eller afgørelser. AI-genereret tekst indgik i afgørelsen, og borgeren mistænker, at personoplysninger blev lagt ind i værktøjerne hvilket ikke kan efterprøves, da medarbejderen har slettet sine prompts og chats.
Borger med muskelsvind i handicapsag. Uverificerbar behandling af personoplysninger; AI-tekst i afgørelse uden dokumenteret menneskeligt gennemsyn; svækket gennemsigtighed og retssikkerhed.
Glostrup Kommune erkender fejl og præciserer sine AI-retningslinjer. Datatilsynets IT-sikkerhedsspecialist vurderer, at der sandsynligvis er sket et brud på persondatasikkerheden, da oplysningerne er behandlet i strid med kommunens instruks. Mindst 50 lignende anmeldelser er registreret hos Datatilsynet.