AI-opdigtede kilder i forskning: Hvad ved vi om omfang og konsekvenser?

En hædret KU-professor er blevet dømt for grov uagtsomhed efter brug af AI-genererede fiktive referencer — sagen rejser alvorlige spørgsmål om videnskabelig tillid i AI-alderen.

En dom med rækkevidde langt ud over én professor

Nævnet for Videnskabelig Uredelighed har fastslået, at en hædret professor fra Københavns Universitet udviste grov uagtsomhed ved at inkludere AI-genererede, fiktive kildehenvisninger i en forskningsartikel. Referencerne eksisterede ikke. De var opfundet af et AI-system, og professoren indsatte dem uden at verificere, at de var ægte.

Sagen er ikke blot en personlig fadæse. Den er en institutionel markering af, at et nyt og systemisk problem er nået til den del af videnskaben, som hidtil har haft stærkest tillid: peer-reviewede artikler fra erfarne forskere ved anerkendte universiteter.

Det centrale spørgsmål er ikke, om AI kan hallusinere referencer. Det kan den. Spørgsmålet er, hvad der sker med det videnskabelige fundament, hvis sådanne fejl sniger sig ind uden at blive opdaget — og hvor robuste vores procedurer er til at stoppe dem.

Baggrund

Moderne store sprogmodeller (LLM'er — Large Language Models) som ChatGPT, Gemini og Claude er trænede på enorme mængder tekst og er fremragende til at generere tekst, der lyder overbevisende akademisk. Det inkluderer kildehenvisninger.

Problemet er, at disse modeller ikke "ved", hvad der er publiceret. De genererer referencer ved at kombinere mønstre fra deres træningsdata: forfatternavn + tidsskrift + år + titel. Resultatet kan lyde præcis rigtigt, men kan være en kombination, der aldrig har eksisteret. I litteraturen om AI og videnskabelig integritet kaldes dette fænomen hallusinationer — og det er dokumenteret som et af de mest udbredte og farlige problemer ved brug af generativ AI i akademisk skrivning.

Brugen af generativ AI i videnskabelig skrivning er vokset markant de seneste år. Forskning publiceret i 2025 i tidsskriftet Frontiers in Artificial Intelligence konkluderer, at AI-værktøjer nu bruges bredt til manuskriptudkast, litteraturoversigter og dataanalyse — men at disse fordele følges af risici, herunder netop opdigtede referencer og fejlagtig attribuering af resultater.

Parallelt hermed har universiteter forsøgt at formulere regler. Københavns Universitets eget kodeks for god videnskabelig praksis fastslår, at KU har klare standarder for, hvad der udgør ansvarlig forskning — og at disse bygger på Det danske kodeks for integritet i forskning. KU's retningslinjer for generativ AI i uddannelse trækker desuden en parallel til forskningspublikationer: selvstændighed og redegørelse for state of the art forventes begge steder.

Men retningslinjer og virkelighed er to forskellige ting.

Hvad skete der i KU-sagen?

Ifølge Ingeniørens dækning afgjorde Nævnet for Videnskabelig Uredelighed, at professoren — der er hædret for sin indsats inden for sit felt — inkluderede fiktive referencer i en forskningsartikel. Nævnet karakteriserede det som grov uagtsomhed, ikke bevidst snyd. Distinktionen er juridisk og etisk vigtig: grov uagtsomhed betyder, at professoren burde have vidst bedre og burde have tjekket — men altså ikke nødvendigvis handlede med forsæt.

Det er netop det, der gør sagen systemisk interessant. Hvis en erfaren, anerkendt professor kan lade AI-genererede fiktioner passere igennem til en færdig artikel, hvad siger det så om resten af det akademiske system?

Peer review — den proces, hvor uafhængige fagfæller gennemgår en artikel, inden den publiceres — opdagede det tilsyneladende ikke. Det er en alvorlig indikation af, at de eksisterende kontroller ikke er robuste nok over for denne type fejl.

De centrale spørgsmål

Sagen rejser tre overordnede empiriske spørgsmål:

1. Hvor udbredt er fænomenet? Vi ved ikke præcist, hvor mange publicerede artikler der indeholder AI-hallusinerede referencer. Det er metodisk svært at måle, fordi detektion kræver manuel eller automatiseret verifikation af hver enkelt kilde. Det er ressourcekrævende og ikke systematisk implementeret i de fleste tidsskrifter.

2. Hvad gør det ved videnskabelig tillid? Videnskab bygger på akkumuleret viden. Hvis referencerne i en artikel ikke eksisterer, brydes kæden. Efterfølgende forskere, som citerer den pågældende artikel og stoler på dens kildeliste, kan bygge videre på et fundament, der ikke findes. Det er ikke et teoretisk problem — det er en konkret mekanisme for fejlspredning.

3. Hvilke procedurer kan afsløre det? Her er der en aktiv faglig diskussion. Spørgsmålet er, om AI selv kan bruges til at opdage AI-genererede fejl, og om tidsskrifter og institutioner har kapacitet og vilje til at implementere de nødvendige kontroller.

Analyse

Hallusinationer er ikke en kantfejl — de er en strukturel egenskab

Det er vigtigt at forstå, at AI-hallusinationer af referencer ikke er en bug, man kan lappes over med en softwareopdatering. Det er en konsekvens af, hvordan sprogmodeller fungerer: de genererer sandsynlig tekst, ikke verificeret fakta. En model, der er god til at skrive akademisk tekst, er præcis god til at lave referencer, der lyder rigtige.

En artikel fra 2026 publiceret via IEEE beskriver dette som et styringsproblem (governance problem) for akademiske institutioner: de samme AI-værktøjer, der øger hastighed og adgang, introducerer nye fejlkilder, som de eksisterende systemer ikke er designet til at håndtere. Forfatteren Julita Vassileva argumenterer for, at vi har brug for en egentlig ramme for AI-styring i forskningsinstitutioner — ikke blot vejledninger, men konkrete procedurer og ansvarsplaceringer.

Peer review er ikke skræddersyet til dette problem

Peer review er designet til at vurdere metode, logik og fortolkning. Reviewere antager typisk, at referencer er reelle — det er ikke standardpraksis at efterprøve hver enkelt kilde manuelt. I en verden, hvor AI-genererede referencer kan se fuldstændig troværdige ud, er denne antagelse ikke længere sikker.

En bibliometrisk analyse (en systematisk opgørelse over publiceringsmønstre) publiceret i 2024 dokumenterer, at integrationen af generativ AI i akademisk skrivning sker hurtigere, end institutioner og tidsskrifter kan formulere modtræk. Det skaber et vindue, hvor fejl kan passere igennem systemer, der ikke er gearet til at fange dem.

Teknologiske løsninger er på vej — men ikke fremme endnu

Forskning publiceret i Frontiers in Artificial Intelligence i 2025 peger på, at AI-baserede detektionsværktøjer i princippet kan bruges til at identificere hallusinerede referencer, fejlagtige dataattributioner og andre former for videnskabelig uredelighed i manuskripter. Forfatterne Pellegrina og Helmy argumenterer for, at automatiseret screening bør integreres i redaktionsprocessen hos tidsskrifter.

Men der er en klar begrænsning: disse systemer er endnu ikke bredt implementeret, og deres præcision er ikke perfekt. Et rammeværk for ansvarlig og troværdig AI i akademisk skrivning, beskrevet af Hadi og kolleger i 2026, understreger, at teknologiske løsninger alene ikke er tilstrækkelige — de skal kombineres med klare institutionelle politikker og uddannelse af forskere.

Institutionelt ansvar versus individuel fejl

KU-sagen er afgjort som et spørgsmål om individuel uagtsomhed. Men det er værd at spørge, om den institutionelle ramme er god nok. Hvis en hædret professor med årtiers erfaring ikke har de rutiner, der skal til for at verificere AI-genererede referencer, er det et signal om, at systemet — ikke blot individet — har et problem.

KU's egne retningslinjer for generativ AI i uddannelse drager parallellen til forskning: akademisk selvstændighed og kildekritik gælder begge steder. Men retningslinjer er passive dokumenter. De ændrer ikke adfærd, medmindre de følges op af konkrete procedurer, træning og konsekvenser — og det kræver ressourcer og institutionel vilje.

Hvad vi ikke ved

Det er vigtigt at være ærlig om videnshullerne. Vi har:

Ingen systematisk opgørelse over, hvor mange publicerede artikler der indeholder AI-hallusinerede referencer. Casestudier og enkeltafsløringer giver indikationer, men ikke repræsentative tal.
Ingen klar forståelse af, om fænomenet er mere udbredt i bestemte fag, tidsskrifter eller forskergrupper.
Ingen afprøvet standard for, hvilken form for screening der er effektiv og proportional i redaktionsprocessen.

Det vi ved er, at problemet er reelt, at det er anerkendt af videnskabelige institutioner, og at de eksisterende kontroller ikke er designet til at håndtere det systematisk.

Konklusion

KU-sagen er ikke et isoleret uheld. Den er en konkret, institutionel bekræftelse af et fænomen, som forskningen beskriver som strukturelt og voksende: generativ AI kan og vil producere overbevisende fiktive referencer, og de eksisterende systemer til videnskabelig kvalitetskontrol er ikke skræddersyet til at fange dem.

Det betyder ikke, at AI ikke kan bruges ansvarligt i forskning. Men det kræver, at brugen ledsages af klar ansvarlighed: forskeren, ikke AI-systemet, er ansvarlig for at verificere enhver reference, der indsættes i en publikation. Det lyder basalt — men KU-sagen viser, at det ikke er selvfølgeligt i praksis, selv for erfarne forskere.

På systemniveau peger den tilgængelige litteratur på tre nødvendige tiltag:

Institutionelle politikker med tænder — ikke blot vejledninger, men konkrete krav og procedurer for AI-brug i forskning, med klar ansvarsplacering.
Opdaterede redaktionelle processer hos videnskabelige tidsskrifter, herunder automatiseret eller manuel verifikation af referencer som del af peer review.
Uddannelse af forskere i de specifikke risici ved generativ AI — herunder hallusinationsfænomenet — som en integreret del af forskeruddannelsen.

Videnskabens troværdighed hviler på, at de påstande, der fremsættes, kan efterprøves — og at de referencer, der citeres, faktisk eksisterer. Det er ikke et højtravende ideal. Det er det absolutte minimum. Og det er det minimum, AI-alderen nu udfordrer på en måde, akademia endnu ikke har svaret tilstrækkeligt på.