Kommune Kiri

Signaturprojektet blev indledt i marts 2021 og blev taget i brug i december 2021, før det sluttede i december 2022. Kiri bruges i dag som både chat- og voicebot hos Roskilde Kommune (chat: 2018, stemme: 2021), Rødovre Kommune (chat: 2018, stemme: 2023), og Høje Taastrup Kommune (chat og stemme: 2024).  

Kommune Kiri bygger på tale-til-tekst- og tekst-til-tale-teknologier fra Microsoft og en 'Conversational AI'-platform fra Boost.ai. Sidstnævnte har udviklet en algoritme, der kan genkende borgernes spørgsmål og behov for hjælp – og matche det med det rette svar. Kiri er konstrueret på en sådan måde, at Kiri kun kan give svar, som hun er fodret med, og kan derfor ikke selv opdigte svar. Hun bliver løbende bedre til at svare, som hun får mere data og spørgsmål.  

Når en borger ringer til kommunerne, bliver vedkommende spurgt, om de ønsker at tale med voicebotten Kiri - borgeren stiller spørgsmål, og Kiri svarer. I nogle tilfælde løser botten opgaven, i andre tilfælde viderestiller den borgeren til en borgervejleder. Botten er en form for sprogmodel, der er bygget på det, man kalder Natural Language Processing (NLP), som er udsprunget af lingvistisk teori om, hvordan menneskesprog er organiseret syntaktisk. Det vil sige, at sprog følger et sæt af syntaktiske regler. De regler kan et computerprogram instrueres i at følge, hvilket gør det muligt at skabe en kunstig intelligens, der giver passende svar til de spørgsmål, der bliver stillet. For at blive i stand til at give “passende” svar til de stillede spørgsmål, bliver en bot trænet på kæmpestore mængder af tekst, som gør det muligt at instruere programmet i, hvilke ord der bør efterfølge hinanden for at skabe en sammenhængende sætning, der er passende til omstændighederne. Disse instruktioner er mulige, fordi programmet udfører sandsynlighedsregning og således kan “lære” at konstruere meningsfulde sætninger.  

Botten i Roskilde Kommune består dog også af et yderligere element, nemlig tekst-til-tale og tale-til-tekst. Det vil sige, at AI-systemet er i stand til at omsætte menneskelig tale til tekst, som processeres med NLP, hvorefter systemets svar genereres med tekst og omsættes til tale.Kommune Kiri er begrænset til udelukkende at besvare spørgsmål som vedrører Borgerservice.  

Chat- og voicebotten Kommune Kiri er baseret på den norske Kommune Kari bot. Den danske version er tilpasset den danske kommunekontekst og er baseret på en SaaS-løsning (Software as a Service). Systemet bygger på en 'Conversational AI'-platform fra Boost.ai og en voice gateway leveret af Vier, der lytter til borgerens spørgsmål og ved hjælp af tale-til-tekst teknologi leveret af Microsoft Azure, tillader Kommune Kiri til at besvare  spørgsmål og hjælpe borgere med at udføre opgaver inden for udvalgte emneområder. Indledningsvis blev den danske version trænet på syntetiske data som projektgruppen selv havde produceret. Konkret drejer det sig om spørgsmålssætninger, som anvendes som træningsdata til at forudsige, hvilket svar brugeren skal have. Senere blev der anvendt reelle samtaler, som Kommune Kiri havde med borgerne. Samtalerne blev anonymiseret og tømt for personhenførbare eller –følsomme informationer.”   

Personfølsomme oplysninger maskeres i de gemte data.  

- Samtalers indhold slettes efter 29 dage, de kan derefter kun se at samtalen har fundet sted (tidspunkt, varighed og lignende med henblik på statistik).  

- Ønsker man samtalen slettet med det samme, kan man trykke på spørgsmålstegnet og vælge "Slet samtalen".

- Ønsker man samtalen gemt som dokumentation, kan man trykke "Download samtalen".

Kiri anonymiserer følgende parametre i samtalerne og fjerner dem før de rammer loggen:  

- Tal (både CPR og telefonnumre)  

- Navne  

- E-mailadresser  

- Sundhedsrelaterede oplysninger  

- Politiske synspunkter  

- Informationer om køn og seksualitet

Undervejs i projektet blev man opmærksom på, at voicebot-teknologien i nogle tilfælde ikke fungerede hensigtsmæssigt, fordi den var bedre til at genkende tale fra visse personer end andre. Dette medføre det etiske problem, at der kunne forekomme forskelsbehandling, som ramte personer af bestemt køn, alder eller etnicitet i en uforholdsmæssig høj grad.  

I en evaluering fra 2022 fremgår det, at “Variationer i talegenkendelse baseret på datadiversitet som alder, køn, etnicitet, dialekt m.v. indgår ikke som en aktiv del af analysen. Formålet har været at opnå den bedste kvalitet som muligt, uden viden om disse faktorers påvirkning”. Med andre ord har man været opmærksom på problematikken uden at vurdere problemets omfang. Af evalueringen fremgår det også, at kommunerne bør ”tage højde for, at der kan være variationer i sprogmodellernes performance baseret på brugernes køn, dialekt, alder og etnicitet. Disse variationer har ikke været mulige at afdække indenfor projektets rammer.” Da der ikke fremstod en begrundelse for,  hvorfor dette ikke var muligt i evalueringen, rettede vi spørgsmålet til Roskilde Kommune. Hertil svarede Roskilde Kommune følgende:  

“Analyserne af bias i engelske sprogmodeller blev først projektet bekendt i forbindelse med sprogteknologisk konference på Københavns Universitet i november 2022 op til projektets afslutning i december 2022. Der var derfor hverken resterende tid eller økonomi i projektet til at kunne igangsætte et så omfattende projekt, som at annotere, analysere og benchmarke det eksisterende talekorpus på dansk. Til orientering var det Alexandra Instituttet, der gjorde projektet opmærksom på bias-analyserne, og virksomheden har for nylig fået en bevilling på 15 mio. kr. til netop at udvikle et offentligt tilgængeligt dansk talekorpus, som tager højde for de ovennævnte bias’er.”  

Udover de mulige ovennævnte etiske/juridiske problematikker findes der en anden udfordring, som ikke adresseres i evaluering. Det drejer sig om opbevaringen og behandlingen af data. Når en sprogmodel som voicebotten Kiri bruger data i form af personlige oplysninger og samtaledata fra borgere i Roskilde Kommune, kunne det tænkes, at disse data opbevares til at “træne” algoritmen. Derfor spurgte vi Roskilde Kommune ind til behandlingen og opbevaringen af disse data. Hertil svarede kommunen følgende:  

“Al samtaledata fra projektets levetid er slettet i dag. Lyddata gemmes ikke, men selve transskriptionerne af lyddata opbevares af Boost.ai i 90 dage, hvorefter de slettes. Personfølsomme oplysninger bliver automatisk maskeret i transskriptionerne. Dataejerskabet ligger hos de kommuner, som er en del af det tværkommunale chat- og voicebot samarbejde Kommune Kiri.” 

Hovedformålet med projektet er at “aflaste og øge tilgængeligheden i Borgerservice”, så medarbejdere kan bruge mindre tid på telefonvejledning og mere tid på andre opgaver.   

Kommune Kiri blev først udviklet i Norge, hvor systemet hedder Kommune Kari og anvendes i mere end 60 kommuner. Man har haft positive oplevelser med systemet i Norge, hvor flere kommuner har oplevet en reduktion på ventetiden på telefonerne og reduktion på op til 30 procent på telefontiden, samt at spørgsmålene som borgerne stiller i telefonen er blevet kortere og mere faglige.