Rigspolitiet bygger sin egen sprogmodel til at udskrive afhøringer — men eksperter advarer om, at hjemmebygget AI til følsom persondata rummer alvorlige retssikkerhedsmæssige risici.
Konklusion først
Rigspolitiet er i gang med at udvikle en intern sprogmodel, der skal omsætte lydoptagelser fra politiafhøringer til tekst automatisk. Målet er at spare tid og ressourcer. Men teknologien berører nogle af de mest følsomme personoplysninger, det offentlige overhovedet håndterer — og det rejser grundlæggende spørgsmål om fejlrate, ansvarsplacering og retssikkerhed.
Eksperter peger på tre kerneproblemer: AI-sprogmodeller laver fejl, også når de er hjemmebyggede og trænede på afgrænsede data. Fejl i afhøringsudskrifter kan få direkte konsekvenser for retssager. Og det er endnu uklart, hvilke krav EU's kommende AI-regulering stiller til netop denne type system.
Baggrund
Politiets afhøringer er rygraden i mange straffesager. De optages, og udskrifterne bruges som bevismateriale af anklagere, forsvarere og dommere. En fejl i udskriften — et ord, der mangler, en sætning der er misforstået — kan i princippet ændre udfaldet af en sag.
I dag foregår udskrivningen overvejende manuelt eller ved hjælp af kommercielle transskriptionsværktøjer. Det er tidskrævende. Rigspolitiet vil nu løse det problem med kunstig intelligens — nærmere bestemt en sprogmodel, som politiet selv udvikler og kontrollerer, frem for at sende data til eksterne udbydere som OpenAI eller Google.
Det fremgår af en artikel i Ingeniøren, der beskriver, hvordan Rigspolitiet er i gang med at bygge modellen internt. Begrundelsen er netop datasikkerheden: ved at holde systemet inden for egne servere undgår man, at følsomme afhøringsdata sendes til amerikanske tech-giganter.
Det lyder umiddelbart fornuftigt. Men løsningen skaber sine egne problemer.
Hvad sker der
Rigspolitiet udvikler en såkaldt ASR-model (Automatic Speech Recognition — automatisk talegenkendelsesteknologi), der er specialiseret til dansk politisprog og de særlige lyd- og sprogforhold, der opstår i afhøringssituationer: dialekter, afbrydelser, tårer, støj, juridisk fagsprog og til tider svært forståelig tale.
Modellen skal altså ikke bare forstå dansk generelt. Den skal forstå dansk under pres, i juridisk kontekst og med varierende lydkvalitet.
Politiet træner modellen på eksisterende afhøringsmateriale — det vil sige ægte optagelser af rigtige afhøringer med rigtige mistænkte, ofre og vidner. Det er data, der er beskyttet af straffelovgivningen, og som indeholder oplysninger om CPR-numre, seksuelle overgreb, vold, psykisk sygdom og meget mere.
Systemet er endnu ikke i fuld drift, men er under udvikling og afprøvning.
De centrale spørgsmål
1. Hvor præcis er modellen — og hvem har ansvar for fejlene?
Alle talegenkendelsessystemer laver fejl. Det gælder de bedste kommercielle løsninger, og det gælder hjemmebyggede modeller. Spørgsmålet er ikke om, men hvor ofte og med hvilke konsekvenser.
I en politiafhøring er konteksten afgørende. Siger den afhørte "jeg var der ikke" eller "jeg var der nok"? Var det "en pistol" eller "en pind"? Den slags distinktioner kan være afgørende i en retssag — og det er præcis de distinktioner, som talegenkendelsesteknologi historisk set har haft svært ved.
Rigspolitiet har ikke offentliggjort data for modellens fejlrate. Det er uklart, om der vil blive indført systematisk menneskelig kontrol af alle udskrifter, eller om AI-udskriften i praksis vil blive brugt direkte i sagerne.
2. Er det lovligt under GDPR og den kommende AI-regulering?
Behandlingen af persondata i straffesager reguleres i Danmark primært af databeskyttelsesloven og den tilhørende retshåndhævelseslov. Rigspolitiet er som myndighed underlagt disse regler og må som udgangspunkt behandle data til lovbestemte formål.
Men EU's AI-forordning — AI Act — indfører nye krav til AI-systemer i højrisikosammenhænge. Retshåndhævelse er eksplicit nævnt som et højrisikoområde i forordningen. Det betyder skærpede krav til dokumentation, gennemsigtighed og menneskelig kontrol.
EU-Kommissionen har desuden udgivet en praksiscode for general-purpose AI — altså de store sprogmodeller — der beskriver, hvad industrien skal leve op til i forhold til sikkerhed, gennemsigtighed og ophavsret. Selv om Rigspolitiets model næppe falder under kategorien "general-purpose AI", illustrerer koden den retning, EU-regulering bevæger sig i: mod mere dokumentation, mere ansvarlighed og mere ekstern kontrol.
Det er endnu et åbent spørgsmål, om Rigspolitiets model formelt klassificeres som et højrisikosystem under AI Act, og hvilke specifikke forpligtelser det i givet fald udløser.
3. Er det sikrere end et kommercielt alternativ?
Politiets argument for at bygge selv er datasikkerhed. Og det er et reelt argument: data, der ikke forlader egne servere, kan ikke lækkes til eller misbruges af udenlandske selskaber.
Men intern udvikling skaber sin egen type risici. Kommercielle sprogmodeller fra store udbydere er testet på massive datamængder, har gennemgået ekstern sikkerhedsrevision og opdateres løbende. En politiintern model er begrænset i træningsdata, har sandsynligvis færre ingeniørressourcer bag sig og er sværere at udsætte for uafhængig revision.
Det er ikke et argument imod at bygge selv — men det er et argument for, at kravene til intern kvalitetskontrol, fejlhåndtering og løbende evaluering skal være tilsvarende høje.
Analyse
Teknologien er ikke neutral
AI-transskription fremstilles ofte som et rent teknisk hjælpeværktøj — en avanceret dikteringsfunktion. Men i en retlig sammenhæng er det noget mere. Udskriften af en afhøring er et retsligt dokument. Hvad der står i det, har bevismæssig vægt.
Det skaber et grundlæggende problem: AI-systemer er ikke neutrale. De reproducerer de mønstre, de er trænet på. Hvis træningsdataene indeholder skæve lydkvaliteter, bestemte dialekter der er underrepræsenterede, eller sprogmønstre der er typiske for bestemte befolkningsgrupper, vil modellen sandsynligvis klare sig dårligere på de grupper, der er underrepræsenterede i træningsdataene.
Det er ikke spekulation — det er en velkendt udfordring i talegenkendelsesforskning. Kommercielle systemer har gentagne gange vist sig at have højere fejlrater for visse dialekter, accenter og demografiske grupper. En politimodel trænet primært på afhøringer af en bestemt type vil sandsynligvis have de samme blinde pletter.
Hvis modellen konsekvent laver flere fejl, når afhørte taler med accent eller dialekt, er det ikke bare et teknisk problem. Det er et retfærdighedsproblem.
Hvem kontrollerer kontrollørerne?
Et centralt retssikkerhedsprincip er, at bevisindsamling og -behandling kan efterprøves. Forsvarere skal kunne anfægte, hvordan et bevis er tilvejebragt. Vidner kan krydses af retten.
Men hvad sker der, når et AI-system har omdannet tale til tekst, og den originale lydfil derefter er svær at tilgå? Eller når en forsvarsadvokat ikke har adgang til at teste modellens fejlrate på sammenlignelige data? Eller når ingen uden for Rigspolitiet ved, præcis hvordan modellen er trænet og evalueret?
Det er ikke hypotetiske scenarier — det er de spørgsmål, som ethvert retssystem vil møde, efterhånden som AI bliver en del af beviskæden.
EU's AI Act kræver for højrisikosystemer, at der er "menneskelig kontrol" (human oversight) og dokumentation for systemets ydeevne. Men kravene er endnu ikke fuldt implementeret i dansk ret, og det er uklart, hvornår de vil gælde specifikt for Rigspolitiets model.
Den pragmatiske modstemme
Det er vigtigt at anerkende den pragmatiske side af sagen. Manuel udskrivning af afhøringer er tidskrævende og dermed et flaskehals i straffesagsbehandlingen. Forsinkelse i retssager er selv et retssikkerhedsproblem — både for ofre, der venter på afgørelse, og for sigtede, der eventuelt sidder varetægtsfængslet.
Derudover er fejl i manuel transskription heller ikke ukendte. Menneskelige transskribenter laver fejl, hører forkert og fortolker. Det er ikke et argument for, at AI nødvendigvis er bedre — men det er et argument for, at debatten skal handle om, hvilken metode der samlet set giver de færreste konsekvente fejl med de mindste retssikkerhedsmæssige konsekvenser.
Rigspolitiets valg om at bygge selv frem for at sende data til eksterne udbydere er i den sammenhæng et rimeligt udgangspunkt. Problemet er ikke nødvendigvis valget — det er den manglende offentlige dokumentation for, hvordan systemet sikres, kontrolleres og fejlhåndteres.
Hvad mangler vi at vide?
Der er en række centrale spørgsmål, som hverken Ingeniørens artikel eller offentligt tilgængeligt materiale fra Rigspolitiet besvarer:
- Hvad er modellens dokumenterede fejlrate på dansk politiafhøringer?
- Varierer fejlraten systematisk på tværs af dialekter, accenter eller socioøkonomiske grupper?
- Vil alle AI-genererede udskrifter undergå menneskelig kontrol, eller kun et stikprøveudvalg?
- Hvordan håndteres det retligt, hvis en fejl i en AI-udskrift opdages efter, at en dom er afsagt?
- Er Datatilsynet og relevante domstolsinstanser inddraget i implementeringsprocessen?
- Klassificeres systemet som højrisiko under AI Act, og hvornår forventes det at leve op til disse krav?
Ingen af disse spørgsmål er besvaret offentligt. Det er i sig selv et problem, når talen er om et system med direkte indflydelse på retssager.
Konklusion
Rigspolitiets AI-projekt til afhøringsudskrifter er ikke et dumt initiativ. Ønsket om at holde følsomme data inden for egne servere er legitimt. Og automatisk transskription kan frigøre ressourcer til kernepolitivirksomhed.
Men projektet rejser reelle retssikkerhedsspørgsmål, som endnu ikke er besvaret offentligt. Den teknologiske løsning er kun so god som den kontrol, der omgiver den. Uden dokumenteret fejlrate, klar ansvarsplacering, systematisk menneskelig kontrol og ekstern revision risikerer man at indføre et system, der ser effektivt ud — men som i stille mag kan underminere pålideligheden af det bevisgrundlag, vores retssystem hviler på.
Det er ikke et argument for at stoppe projektet. Det er et argument for at kræve åbenhed om det.
Datatilsynet, Folketing og domstolene bør ikke vente på, at systemet er fuldt implementeret, før de stiller kravene. Det er nu, rammerne skal fastlægges.