Hvad ved vi om automatiserede velfærdsafgørelser?

Algoritmer i det offentlige velfærdssystem risikerer at industrialisere fejl og reproducere ulighed — og fejlene retter sig ikke selv.

Det politiske spørgsmål

Automatisering i den offentlige sektor præsenteres typisk som effektivisering: hurtigere sagsbehandling, lavere omkostninger, færre menneskelige fejl. Det er reelle fordele. Men automatisering i velfærdsforvaltning rejser et spørgsmål, som effektivitetsdagsordenen ikke stiller: hvad sker der, når systemet fejler — og hvem opdager det?

Automatiserede afgørelser i sociale ydelser, kontanthjælp, børnetilskud og anbringelsesafgørelser er i dag en realitet i mange kommuner og statslige myndigheder. Borgere der påvirkes af disse afgørelser har formelt rettigheder — men de udøver dem sjældent, fordi de mangler ressourcer til at forstå og anfægte systemets logik.

Det empiriske spørgsmål bag

Producerer automatiserede velfærdsafgørelser systematiske fejl og ulighed — og er de eksisterende retssikkerhedsgarantier tilstrækkelige?

Hvad ved vi

✓✓ GDPR artikel 22 giver ret til ikke at være underlagt rent automatiserede afgørelser — men retten håndhæves svagt. Borgere har allerede en EU-retlig beskyttelse mod automatiserede afgørelser med "retlig virkning eller tilsvarende væsentlig påvirkning." Forskning dokumenterer, at offentlige og private aktører systematisk omgår forpligtelsen ved at konstruere systemerne som formelt "rådgivende" — selv når systemets output i praksis er afgørende. (Pavlidis, 2024)

✓ Automatiserede velfærdssystemer forøger risikoen for, at fejl industrialiseres og ikke opdages. Virginia Eubanks (2018) dokumenterer systematisk, at automatiserede afgørelsesstøttesystemer i social- og velfærdsforvaltning producerer fejl i stor skala — og at fejlene ikke korrigeres, fordi de ramte borgere mangler ressourcer til at klage, og systemerne er uigennemsigtige for dem der administrerer dem. Uafhængig, proaktiv revision er den eneste mekanisme der bryder dette mønster. (Eubanks, 2018)

✓ Indirekte proxy-diskrimination er systematisk svær at opdage og anfægte. Systemer der bruger tilsyneladende neutrale variable — postnummer, familiestruktur, kontakthistorik med det offentlige — som proxy for risiko reproducerer socioøkonomisk og etnisk ulighed, fordi disse variable korrelerer med beskyttede kategorier. Formelle non-diskriminationskrav er ikke tilstrækkelige uden aktiv test for proxy-effekter. (Barocas & Selbst, 2016; O'Neil, 2016)

~ Det er omtvistet i hvilken grad eksisterende dansk lovgivning er tilstrækkelig. Forvaltningslovens § 24 kræver begrundelse for afgørelser, og GDPR artikel 22 giver beskyttelse mod ren automatisering. Men Digitaliseringsstyrelsen (2021) dokumenterer, at mange kommunale systemer opererer i en gråzone: systemet producerer et output der i praksis bestemmer afgørelsen, men formelt betegnes som en støtte til sagsbehandlerens skøn.

~ Velfærdsteknologi kan forbedre borgernes situation — men kun ved de rette typer og med tilstrækkelig implementering. Forskning i nordisk kontekst finder, at interaktive teknologier er positivt forbundet med borgertrivsel, mens dokumentationssystemer og overvågningsteknologier kan have negative effekter. Det centrale er ikke teknologien i sig selv, men hvad den optimerer på. (Naseer & Dellve, 2025)

Hvad ved vi ikke

Vi mangler en samlet dansk kortlægning af, hvilke kommunale og statslige systemer der reelt producerer eller forbereder afgørelser om borgere — og hvilken fejlrate de har. Digitaliseringsstyrelsen (2021) udpegede behovet, men en opdateret, systematisk oversigt eksisterer ikke offentligt.

Vi ved ikke, hvad den samlede velfærdspris er for borgere der rammes af fejlagtige automatiserede afgørelser. Omgørelsesprocenten på socialområdet (44,9 procent i 2024) er en indikation — men den siger ikke noget om borgere der aldrig klagede.

Vi mangler empirisk viden om, hvad proaktiv revision af automatiserede systemer faktisk afslører i en dansk kommunal kontekst — fordi det endnu ikke praktiseres systematisk.

Hvad eksperter er uenige om

Der er ikke faglig uenighed om, at proxy-diskrimination er et reelt problem ved systemer der anvender tilsyneladende neutrale socioøkonomiske variabler.

Uenigheden handler om løsningernes omfang. Digitaliseringseksperter peger på, at algoritmer faktisk kan reducere menneskelig diskrimination og arbitrær sagsbehandling — hvis de er korrekt designet og revideret. Retssikkerhedsjurister og sociologer betoner, at konsekvenserne ved fejl er for alvorlige til at efterlade til systemer uden reel menneskelig kontrol.

En faglig diskussion handler om, hvad "menneskelig kontrol" reelt betyder: en sagsbehandler der formelt godkender et algoritmisk output på ti sekunder er ikke en reel menneskelig kontrol — men er juridisk set ikke automatisering.

Hvad det betyder — og hvad det ikke afgør

Evidensen viser, at automatiserede velfærdsafgørelser kan producere fejl i stor skala, at fejlene rammer de mest udsatte borgere, og at eksisterende retssikkerhedsgarantier ikke håndhæves tilstrækkeligt. Det er empiriske konklusioner.

Hvad evidensen ikke afgør: i hvilken grad automatisering samlet set forbedrer eller forværrer velfærdsystemets funktionsevne. Automatisering har reelle fordele — hurtigere sagsbehandling, færre subjektive skøn — og reelle risici. Afvejningen er et politisk valg.

⚖ Det er et værdivalg at prioritere retssikkerhed og menneskelig kontrol over administrativ effektivitet. Konsekvenserne af fejlende automatiserede afgørelser — afvisning af ydelser, fejlagtig anbringelse, uberettiget mistænkeliggørelse — er asymmetriske: de rammer de borgere med mindst og er vanskeligst at korrigere for dem. Det er et argument for at placere bevisbyrden hos systemets operatør, ikke hos den borger der rammes.