= Hvad ved vi om...

Hvad ved vi om AI-governance og 'agentive profiler' — ny ramme for regulering af autonome AI-systemer?

← Hvad ved vi om...
ai 8 min. læsning

Kan et system af 'agentive profiler' give lovgivere et præcist redskab til at klassificere og regulere autonome AI-agenter, som EU's AI-forordning endnu ikke håndterer tilstrækkeligt?

Kort sagt

Autonome AI-systemer — såkaldte AI-agenter — kan planlægge, handle og træffe beslutninger uden løbende menneskelig indgriben. Det skaber et reguleringsmæssigt hul: Eksisterende lovgivning, herunder EU's AI-forordning, er primært bygget til at regulere AI-modeller og -produkter, ikke systemer der handler selvstændigt over tid. Forskere foreslår nu en ny tilgang: agentic profiles (agentive profiler) — et klassifikationssystem der beskriver, hvad et AI-system konkret kan og gør, frem for blot hvad det er. Idéen er peer-reviewet og publiceret i det videnskabelige tidsskrift Nature. Den er ikke implementeret endnu, men den er direkte relevant for både EU-regulering og den danske implementering af AI-forordningen.

Det politiske spørgsmål

Når en AI-agent selvstændigt booker din ferie, forhandler din forsikring eller udfører kode på en server — hvem er så ansvarlig, hvis noget går galt? Og hvordan regulerer man noget, man ikke engang har et præcist sprog for?

Det er det spørgsmål, der presser sig på i takt med, at AI-systemer bevæger sig fra at svare på spørgsmål til at handle i verden. I Danmark og resten af EU er spørgsmålet akut, fordi AI-forordningen (AI Act) trådte i kraft 1. august 2024 og er blevet fuldt gældende fra 2. august 2026 — men forordningen er i vid udstrækning designet til at klassificere AI-systemer ud fra deres risikoniveau som produkter, ikke som handlende aktører. Det efterlader et tomrum for autonome agenter.

Politikere, embedsmænd og jurister mangler et præcist begrebsapparat. Uden det er det svært at skrive love, stille krav eller placere ansvar.

Det empiriske spørgsmål bag

Kan man udvikle en systematisk, faktabaseret metode til at beskrive og klassificere AI-agenters kapaciteter og adfærd — og kan en sådan metode bruges som grundlag for regulering?

Det er det spørgsmål, forskerholdet bag den nye Nature-artikel forsøger at besvare. De spørger ikke blot "er dette system farligt?", men "hvad kan dette system konkret gøre, og under hvilke betingelser?"

Hvad ved vi

AI-agenter er fundamentalt anderledes end tidligere AI-systemer ✓✓

Klassiske AI-systemer er passive: de modtager input og producerer output. AI-agenter er anderledes. De kan sætte mål, planlægge sekvenser af handlinger, bruge værktøjer, tilgå eksterne systemer og agere over tid uden at et menneske godkender hvert enkelt skridt. Det ændrer risikobilledet fundamentalt, fordi fejl, misbrug eller uforudsete hændelser kan eskalere hurtigt og med ringe mulighed for indgriben undervejs.

EU's AI-forordning er ikke designet til agenter ✓

AI-forordningen klassificerer systemer efter risikoniveau — fra uacceptabel risiko til minimal risiko — og stiller krav til gennemsigtighed, dokumentation og menneskelig kontrol. Men forordningens kategorier tager primært udgangspunkt i AI-systemer som produkter med afgrænsede funktioner. Autonome agenter, der kombinerer flere modeller, bruger eksterne værktøjer og handler over tid, passer dårligt ind i denne struktur. Juridiske analyser af agenter under EU-retten konkluderer, at høj-risiko agentsystemer med utilregnelig adfærd udgør særlige udfordringer for den eksisterende regulering.

Agentive profiler som klassifikationsredskab ~

Kernen i det nye forskningsforslag er at beskrive AI-agenter gennem en agentiv profil — en struktureret beskrivelse af systemets kapaciteter langs en række dimensioner. I stedet for at spørge "hvilken kategori tilhører dette system?", spørger man: Hvad kan det planlægge? Hvad kan det tilgå? Hvad kan det påvirke? Og med hvilken grad af autonomi?

Idéen er, at en sådan profil kan anvendes af regulatorer til at afgøre, hvilke krav der gælder for et givent system — ligesom nærings- og lægemiddelregulering ikke blot kategoriserer produkter, men beskriver præcis sammensætning og virkemåde. Profilen er dermed tænkt som et dynamisk redskab: efterhånden som et system opnår nye kapaciteter, ændres dets profil — og dermed potentielt dets reguleringsmæssige forpligtelser.

Et konkret compliance-forslag eksisterer ✓

Juridisk forskning publiceret på arXiv foreslår en tolvtrinsarkitektur for compliance (regeloverholdelse) for AI-agenter under EU-retten. Forslaget indeholder en regulatory trigger mapping — en kortlægning af, hvilke agenthandlinger der udløser hvilke lovgivningsmæssige krav. Det er et af de første konkrete forsøg på at bygge bro mellem de tekniske beskrivelser af agenters adfærd og de juridiske kategorier i EU-retten.

AI-forordningen er fuldt gældende nu ✓✓

AI-forordningen er ikke fremtidsmusik. Den blev gældende 2. august 2026. Det betyder, at virksomheder, offentlige myndigheder og udviklere i Danmark allerede nu skal overholde dens krav. Forbudte AI-praksisser og krav om AI-kompetence (AI literacy) trådte i kraft tidligere. Det skaber et reelt og umiddelbart behov for klarhed om, hvordan autonome agenter placeres i forordningens system.

Hvad ved vi ikke

Hvad de rigtige dimensioner er. Agentive profiler er et forslag, ikke en vedtaget standard. Det er ikke afklaret, hvilke kapacitetsdimensioner der er de mest reguleringsmæssigt relevante, eller om de samme dimensioner giver mening på tværs af meget forskellige anvendelsesområder — fra sundhed til finans til militær.

Om profiler kan holdes opdaterede. AI-systemer kan opdateres, finjusteres og rekonfigureres. En profil, der er korrekt i dag, kan være forældet i morgen. Det er ikke afklaret, hvem der skal opdatere profilerne, hvornår og med hvilken hyppighed — eller hvem der skal verificere, at en profil er korrekt.

Om ansvarsplacering kan følge med. Selv med præcise profiler er det et åbent spørgsmål, hvem der er juridisk ansvarlig, når en autonom agent forvolder skade. Er det udvikleren? Brugeren? Den der implementerede systemet? EU-lovgivningen om produktansvar og de nyere regler om AI-ansvar er endnu ikke fuldt afprøvet i domstolspraksis for agenter.

Om tilsynsmyndighederne har kapaciteten. At klassificere og vurdere agentive profiler kræver teknisk ekspertise, som mange nationale tilsynsmyndigheder — herunder den danske — endnu ikke har opbygget i tilstrækkelig grad. Profilering løser ikke i sig selv ressource- og kompetenceproblemet i tilsynet.

Om rammerne skalerer til multi-agent-systemer. Mange reelle AI-applikationer bruger ikke én agent, men netværk af agenter, der kommunikerer og koordinerer. Det er uklart, om agentive profiler kan dække sådanne systemer meningsfuldt, eller om hvert delsystem skal profileres separat.

Hvad eksperter er uenige om

Skal regulering følge kapacitet eller risiko? ⚖

Et centralt stridspunkt er, om regulering bør tage udgangspunkt i, hvad et system kan (kapacitetsbaseret regulering, som agentive profiler repræsenterer), eller hvad der faktisk kan gå galt i en given kontekst (risikobaseret regulering, som AI-forordningen i høj grad bygger på). Tilhængere af kapacitetsbaseret regulering argumenterer for, at det giver forudsigelighed og mulighed for proaktiv styring. Kritikere mener, at det kan over-regulere harmløse systemer med avancerede kapaciteter og under-regulere simple systemer i særligt følsomme kontekster.

Hvem skal udstede og validere profilerne? ⚖

Der er ikke enighed om, hvem der skal have myndighed til at udstede og godkende agentive profiler. Skal det være udvikleren selv (selvcertificering), en uafhængig tredjepart, en national tilsynsmyndighed eller et EU-organ? Hver model indebærer forskellige interessekonflikter, omkostninger og troværdighedsspørgsmål.

Passer profiler til alle agenter? ~

Nogle forskere er skeptiske over for, om et enkelt profileringssystem kan dække den enorme variation i AI-agenter — fra simple automatiseringsagenter til avancerede systemer med brede kapaciteter. Der er en reel risiko for, at et for generisk system enten bliver for groft til at give meningsfuld information, eller for komplekst til at være praktisk anvendeligt for regulatorer og virksomheder.

Er transparens nok? ⚖

En implicit antagelse bag agentive profiler er, at mere og bedre information om et systems kapaciteter fører til bedre regulering. Men det er et værdispørgsmål, om transparens alene er tilstrækkeligt, eller om der er behov for egentlige kapacitetslofter — altså forbud mod visse typer autonomi, uanset hvad profileringen viser.

Konklusion

Vi ved, at autonome AI-agenter udgør et reguleringsmæssigt hul i EU's AI-forordning, og at hullet er reelt og aktuelt nu, hvor forordningen er fuldt gældende. Vi ved, at der er et konkret, peer-reviewet forslag om agentive profiler som klassifikationsredskab, og at juridisk forskning har forsøgt at kortlægge, hvordan agenters handlinger kobles til eksisterende lovgivning.

Vi ved ikke, om agentive profiler er det rigtige svar — det er et forslag, der endnu ikke er testet i praksis, og der er uafklarede spørgsmål om dimensioner, opdatering, ansvarsplacering og skalering til komplekse multi-agent-systemer.

For Danmark og Folketinget er det konkrete spørgsmål, om dansk implementering og tilsynspraksis aktivt forholder sig til det gap, der eksisterer for autonome agenter — eller om man venter på, at EU-niveauet finder svarene. Forskningen tyder på, at ventetiden kan blive dyr: jo mere udbredte agenter bliver, jo sværere bliver det at indføre regulering bagfra.

Det er et område, der bevæger sig hurtigt. Hvad der i dag er forslagsstadie, kan om kort tid være udgangspunktet for bindende standarder.

Kilder

= Læs vores metodedokument →