Roskilde Kommunes Jobcenter er i prøvedrift med AI-løsningen Roboref og vil effektivisere hver samtale med ledige borgere med et kvarter. Da kommunen gennemfører 30.000 samtaler årligt, svarer det til at effektivisere med 7.500 timer ved hjælp af en AI-løsning. ”Vi er ikke nået i mål endnu, men vi er godt på vej,” siger chefkonsulent og teamleder Rune Stæhr, Roskilde Kommune.
Ledige og jobsøgende skal lave to ansøgninger om ugen. De kommer jævnligt til samtale i det nærmeste jobcenter, hvor der skal skrives et notat fra samtalen af sagsbehandleren. For to år siden plantede Roskilde Kommune idéen om en referatskrivende AI-robot på en workshop med en række andre kommuner. Roskilde Kommune er nu i prøvedrift med løsningen Roboref, som blev lanceret i november 2024. Roboref ”smager af AI og referat,” skriver KL på sin hjemmeside.
20 kommuner og organisationer er i gang med at teste og bruge Roboref – og en håndfuld af disse er i gang med forskellige opgaver i Jobcenteret.
Vejle Kommune og klyngesamarbejdet DigitalLead greb idéen om referatskrivning og kickstartede et fælleskommunalt samarbejde med udviklingsfirmaet Droids Agency og med udviklingsstøtte fra EU.
Sædvanligvis tager en samtale i det kommunale Jobcenter en halv times tid. Når samtalen er slut, skriver sagsbehandleren et socialfagligt notat, som indeholder personlige oplysninger om den lediges situation.
Det nye er, at robotten er en kollega, der skriver et referat af samtalen, mens den foregår. Ifølge Rune Stæhr frigiver det tid for sagsbehandleren til at koncentrere sig om samtalen, da sagsbehandleren ikke skal tage noter samtidig. ”Selv om vi ikke er i mål endnu, mener jeg, at AI-løsningen allerede er en succes, fordi det har medført et kvalitetsløft, samtidig med at vi kan indfri et mål om at effektivisere hver samtale med 15 minutter,” siger Rune Stæhr.
Projektleder i digitalisering Klaus Bjørn Larsen, Roskilde Kommune: ”RoboRef er et godt eksempel på, hvordan generativ AI kan integreres som et værktøj i dagligdagen og assistere med kommunernes dokumentationskrav på tværs af forvaltningsområder. Medarbejderne giver udtryk for, at RoboRef skaber rum til at være mere nærværende i samtalen, og at de har mere tid til at gå i dybden med det, der kræver ekstra opmærksomhed sammen med borgeren”.
To komponenter
Løsningen består af to komponenter. Den anvender tale-til-tekst teknologi, så den optagede samtale bliver ”oversat” til tekst. Den anden komponent er generativ AI, der danner et udkast til det socialfaglige notat. Løsningen kan udvikles til den specifikke forvaltning og kan udarbejde referater afhængigt af mødetype - både interne møder eller møder med borgere.
Tale-til-tekst modulet, skriver alt, hvad der bliver sagt på mødet. Herefter sendes teksten over i det andet modul, en GPT-sprogmodel, som laver et udkast til en opsummering eller et udkast til referat.
Klaus Bjørn Larsen: ” Nej, vi kan ikke sætte minutter på endnu. Men målet er fortsat at effektivisere hver samtale med 15 minutter. Vi er et sted, hvor vi stadig tester løsningen. Vi får feedback fra de jobrådgivere, der har samtalerne og kvalificerer det output, som AI-løsningen leverer. Der er stadig småting, der skal rettes – f.eks. sprog og ordlyd. Modellen skal trænes til at forstå, hvordan tingene skal opdeles og struktureres og hvilke ord den skal bruge i forskellige sammenhænge. Det bruger vi selvfølgelig ressourcer og timer på. Men vi går efter de 15 minutter, der spares per samtale”.
”Vi kigger ind i en meget positiv digitaliseringscase. Fordi tilbagemeldingerne fra vores jobrådgivere er, at de allerede nu kan se, at der bliver frigivet tid og den sparede tid bruger de sammen med den ledige for at kunne gå i dybden med relevante udfordringer for den jobsøgende. AI-løsningen giver nogle klare fordele,” siger Klaus Bjørn Larsen.
Risici
Der har været mange artikler om risikoen ved at bruge kunstig intelligens i kommunerne, og samtidig har andre kritiseret EU´s tilbageholdende fremdrift på området. Den nye AI Act, som er trådt i kraft den 1. februar 2025, bliver kaldt for regulerende og at Europa vil få baghjul af USA og Kina. Samtidig er der meget hype fra leverandører om at få kommunerne i gang med at bruge AI-løsninger.
Klaus Bjørn Larsen: ”Der er to ting i det her. For det første er der hele risikoen ved at bruge kunstig intelligens på et fagområde, hvor der indgår personfølsomme oplysninger. Det andet, vi har brugt meget energi på, er at få alle omkring os til at forstå, at AI-løsningen ikke laver medarbejderens arbejde. Mens medarbejderen har samtalen med den ledige, tager AI-løsningen notater. Det er noter til samtalen. Det er opsummering af samtalen, den laver. AI-løsningens leverer ikke et journalnotat. Først når kommunens sagsbehandler har kvalificeret og tilrettet indholdet, og tjekket det for eventuelle fejl og mangler, bliver det til et socialfagligt notat”.
Dét medarbejderen får er et udkast, det er ikke et resultat eller et facit. Medarbejderen kan som udgangspunkt ikke stole på det.
”Vi gør meget for, at medarbejderne forstår, at udkastet ikke er et endeligt resultat. Det er et udkast. Det er en opsummering af en samtale og ikke et journalnotat. Så vi har implementeret en række tekniske foranstaltninger og ledelsestilsyn, så journalnotater gennemgås og RoboRef ikke bruges uden det er blevet godkendt. Og det er en risiko ved at bruge kunstig intelligens. At forstå det er et udkast og ikke et facit.”
Dermed bliver kunstig intelligens også anderledes end klassiske IT-systemer. Fordi IT-afdelingen er vant til at levere data som er lig med resultater. Men med sprogmodeller og kunstig intelligens leveres forslag og udkast til sagsbehandleren, der skal godkende forslaget fra den kunstige intelligens.
Sletteregler
”Vi har brugt mange ressourcer på at lave en grundig risiko- og konsekvensanalyse i samarbejde med kommunens DPO (Data Protection Officer). Det resulterede i en række tekniske og organisatoriske foranstaltninger, bl.a. dynamiske slettefrister som en vigtig komponent i løsningen. Altså, at den optagede samtale bliver slettet inden for få timer efter samtalen er gennemført. Det gælder både lydoptagelsen og transskriberingen af samtalen, så vi rydder op efter endt sagsbehandling. Det har så den fordel at det endelige notat fra sagsbehandleren ligger klar indenfor kort tid efter samtalen er blevet afholdt”.
”Det betyder data teknisk, at der ikke ligger en masse personfølsomme oplysninger i lydoptagelser og transskriberinger. Det er AI-løsningen ikke godkendt til. Det er et arbejdsredskab, som midlertidigt holder nogle data, ligesom hvis du skriver det på en notesblok eller i word, mens du sagsbehandler,” siger Klaus Bjørn Larsen.
Fakta
RoboRef blev lanceret den 15. november 2024 og er udviklet af Droids Agency i samarbejde med kommuner som Roskilde, Vejle, Aarhus, Gladsaxe, Næstved og Sønderborg. Tilbagemeldingen om brug af løsningen er god fra medarbejderne.
Løsningen fik fuld eksponering på Kommunal Økonomisk Forum. “Fra hype til handling” om anvendelse af AI i kommunerne. Rune Stæhr præsenterede jobcenterløsningen, hvor medarbejderne selv vurderer, at løsningen styrker samtalernes kvalitet og hvor de kan opnå en tidsbesparelse på op til 15 minutter på hver borgersamtale.