Rigshospitalet chatbot
AI-drevet chatbot der besvarer præoperative spørgsmål fra patienter med skjoldbruskkirtelkræft døgnet rundt.
Hvor bruges systemet og hvad bruges det til?
Systemet bruges på Afdeling for Øre-Næse-Halskirurgi og Audiologi på Rigshospitalet. Chatbotten stilles til rådighed for patienter med skjoldbruskkirtelkræft og deres pårørende og kan besvare spørgsmål døgnet rundt om fasteregler, almindelige bivirkninger, restriktioner efter operation og andre praktiske spørgsmål relateret til behandlingen. Chatbotten er instrueret i ikke at svare på spørgsmål om konkrete diagnoser eller prognoser om levetid - i sådanne tilfælde henvises patienten til at tale med sundhedspersonale.
Hvornår blev det implementeret?
Udviklingen startede i foråret 2023. En prototype blev udviklet inden sommerens udgang 2023. Efter en omfattende testfase blev chatbotten taget i brug i juni 2024.
Hvordan gør systemet brug af kunstig intelligens?
Systemet er baseret på generativ kunstig intelligens og er hostet på 2021.ai's platform GRACE. Chatbotten anvender AI til at forstå patienters spørgsmål og generere relevante svar baseret på Rigshospitalets vejledningsmateriale. Systemet kan også forstå mange ord der er stavet forkert, hvilket gør det mere tilgængeligt for alle patienter uanset sprogfærdigheder
Hvilke data er blevet brugt til at træne algoritmen?
Chatbotten er udelukkende trænet på offentligt tilgængelig vejledningsmateriale og behandlingsvejledninger fra Rigshospitalet. Systemet har bevidst ikke adgang til patientjournaler for at undgå juridiske problemstillinger i forhold til GDPR. Data vedligeholdes af 2021.ai.
Hvilke sikkerhedsforanstaltninger findes der?
Igen adgang til patientjournaler (GDPR-compliance)
Chatbotten er grundigt instrueret i ikke at svare på sensitive spørgsmål om konkrete diagnoser eller prognoser om levetid
Patienten henvises til at kontakte sundhedspersonale ved sådanne spørgsmål
Svarene inkluderer kildehenvisninger til de kilder, hvor informationen er hentet
Kontinuerlig opdatering og indarbejdelse af nye læringer
Har systemet været afprøvet gennem f.eks. pilotprojekter? Blev der identificeret konkrete (etiske, juridiske, tekniske) udfordringer? Blev disse udbedret? Hvordan?
Ja, systemet gennemgik en omfattende testfase inden ibrugtagning i juni 2024. Under udviklings- og testforløbet deltog kirurger, sygeplejersker, sekretærer og andre eksperter i at sikre både det faglige og det menneskelige aspekt. Rigshospitalet førte logbog over erfaringer for at lave en drejebog til fremtidige lignende forløb. Identificerede udfordringer:
• Juridiske: GDPR-compliance blev sikret ved at undgå adgang til patientjournaler
• Etiske: Sikring af at chatbotten ikke svarer på sensitive spørgsmål om diagnoser og prognoser
• Tekniske: Afbalancering af at give følelsen af Rigshospitalet (ikke bare en søgemaskine) samtidig med korrekte faglige svar Alle disse blev adresseret gennem det iterative udviklings- og testforløb.
Hvordan er begrundelsen for indføring af systemet?
Det danske sundhedsvæsen er presset, og presset forventes kun at øges i fremtiden. Systemet blev indført for at:
• Give patienter mulighed for at få svar på spørgsmål uden for åbningstid
• Aflaste sundhedspersonalet fra gentagne, enslydende spørgsmål
• Undgå aflyste operationer pga. usikkerhed om fasteforhold
• Give patienter mulighed for at stille tabubelagte spørgsmål (fx om sex efter operation)
• Sikre lige behandling af alle patienter
• Frigøre tid til sundhedspersonalet, så de kan bruge deres kvalifikationer på mere meningsfulde opgaver
Er lignende systemer blevet implementeret andres stede? Eventuelt, hvilke erfaringer er der derfra.
Rigshospitalet har konkrete planer om at udbrede chatbotten til flere diagnoser på andre afdelinger. Hospitalet er sideløbende i gang med flere lignende projekter, hvor patienter skal have hjælp til at blive klogere på deres sygdom ved hjælp af AI.
Lignende systemer er også blevet testet andre steder i Danmark:
• OUH (Odense Universitetshospital) har afprøvet chatbot til patienter med endometriose på Gynækologisk Afdeling D, udviklet i samarbejde med SupWiz
• Flere myndigheder har implementeret borgervendte chatbots ifølge Digitaliseringsstyrelsens inspirationskatalog
Erfaringerne viser generelt positivt potentiale, men også behov for løbende tilpasning og vedligeholdelse.
Kilder
Digitaliseringsstyrelsen (Rigshospitalets chatbot besvarer patienters spørgsmål) : https://digst.dk/kunstig-intelligens/inspirationskatalog-til-generativ-kunstig-intelligens/rigshospitalets-chatbot-besvarer-patienters-spoergsmaal/#:~:text=Chatbot%2C%20der%20ved%2C%20hvornår%20der,udbrede%20chatbotten%20til%20flere%20diagnoser.
