1813AI

Projektet blev bevilliget i 2024 gennem DIRECs forskningsmidler. Der er tale om et forsknings- og udviklingsprojekt, og systemet er ikke taget i egentlig drift.

Systemet anvender maskinlæringsmodeller til at analysere historiske opkald og tilhørende kliniske beslutninger med henblik på at identificere mønstre i symptompræsentation og forløb. På baggrund af disse mønstre udvikles beslutningsstøtte, der kan anvendes i realtid. Projektet har et eksplicit fokus på responsible AI, herunder forklarbarhed, robusthed og fairness.

Projektet baserer sig på historiske opkaldsdata fra 1813 samt kliniske triagebeslutninger og sundhedsdata relateret til patientforløb. Data forventes at være pseudonymiserede og behandlet i overensstemmelse med gældende databeskyttelsesregler.

Projektet lægger vægt på ansvarlig AI-udvikling med fokus på juridisk og etisk compliance, databeskyttelse og transparens. Der arbejdes med forklarbarhed og systematisk evaluering af modellernes performance og bias.

Projektet befinder sig i forsknings- og udviklingsfasen. Formålet er netop at identificere tekniske, etiske og juridiske udfordringer, herunder bias og robusthed i klinisk praksis, og at adressere disse gennem design og evaluering.

Begrundelsen er et stigende pres på akuttelefonen, behov for styrket patientsikkerhed og et ønske om bedre ressourceudnyttelse. Systemet skal fungere som beslutningsstøtte og ikke erstatte sundhedsfaglig vurdering.

Internationale erfaringer viser, at AI-baseret triagering har potentiale, men også medfører udfordringer relateret til bias, forklarbarhed og ansvarsplacering. Projektet søger eksplicit at adressere disse forhold gennem responsible AI-tilgangen.