Hvad ved vi om AI-genereret akademisk spam?

I hvilken udstrækning forurener AI-genererede falske og indholdsfattige forskningsartikler den videnskabelige litteratur, og hvad betyder det for vores fælles evidensbase?

Det korte svar

En voksende mængde publicerede akademiske artikler bærer tegn på at være helt eller delvist skrevet af AI uden tilstrækkelig menneskelig kontrol eller åbenhed. Omfanget er svært at opgøre præcist, men målinger peger på at problemet er massivt og voksende. Det underminerer tilliden til videnskabelig litteratur og rammer alt fra medicinske retningslinjer til klimapolitik — alt hvad vi bygger på, når vi siger "forskning viser...".

Det politiske spørgsmål

Videnskab er samfundets fælles hukommelse for, hvad der virker. Når politikere vedtager retningslinjer for kræftbehandling, trafiksikkerhed eller skolereformer, bygger de på systematiserede forskningsresultater. Det forudsætter at litteraturen faktisk indeholder det, den udgiver sig for: menneskelig tanke, metode og data.

Spørgsmålet om AI i akademisk publicering er derfor ikke kun et spørgsmål om akademisk redelighed. Det er et spørgsmål om, hvorvidt samfundets evidensbase er pålidelig. Og det spørgsmål angår enhver, der bruger forskning som grundlag for beslutninger — fra sundhedsmyndigheder til journalister til borgere, der vil vide hvad der er sandt.

Det empiriske spørgsmål bag

Det centrale spørgsmål er enkelt at stille og svært at besvare: Hvor stor en andel af de artikler, der publiceres i videnskabelige tidsskrifter, er helt eller delvist genereret af AI på en måde, der vildleder læserne — enten fordi forfatterne ikke oplyser om det, eller fordi indholdet er tomt og fabrikeret?

Det kræver at vi kan detektere AI-genereret tekst pålideligt. Det kan vi ikke. Det er det første store metodiske problem.

Hvad ved vi

Omfanget er måleligt, men usikkert

IEEE Spectrum rapporterede i 2025 om en undersøgelse, der fandt at op mod 57 procent af publicerede akademiske artikler i visse databaser udviste tegn på AI-genereret indhold. Det er et opsigtsvækkende tal, men det skal læses med forsigtighed: "tegn på AI-genereret indhold" er ikke det samme som "fuldstændig fabrikeret". Det dækker over et spektrum fra artikler, der bruger AI til sproglig polering, til artikler, der er genereret fra bunden uden meningsfuld menneskelig indsats.

~ Det er omtvistet, præcist hvad disse målinger viser — men tendensen er tydelig nok til at tage alvorligt.

Artikelfabrikker er et reelt og veldokumenteret fænomen ✓✓

Fænomenet "paper mills" — fabrikker der sælger forfatterskab til videnskabelige artikler — eksisterede før AI. AI har gjort det markant billigere og hurtigere at producere tilsyneladende plausibel akademisk tekst. En forsker fra IEEE demonstrerede personligt, hvordan han på få timer kunne producere en formatmæssigt overbevisende videnskabelig artikel om et emne, han ikke var ekspert i, ved hjælp af tilgængelige AI-værktøjer.

Peer review (fagfællebedømmelse) er under pres ✓

Den traditionelle kvalitetskontrol i akademisk publicering er fagfællebedømmelse: andre eksperter læser og vurderer artiklen, før den trykkes. Men systemet forudsætter, at bedømmerne bruger tid og ressourcer på opgaven. Forskning publiceret i PMC viser, at integrationen af AI, fremvæksten af mega-tidsskrifter (store kommercielle tidsskrifter der publicerer tusindvis af artikler om året) og manipulation af impact factor (et mål for et tidsskrifts indflydelse) tilsammen truer de grundlæggende principper for videnskabelig integritet.

Åbenhed er mangelvare ✓

Aalborg Universitetets retningslinjer for god akademisk praksis understreger, at brug af AI skal oplyses og dokumenteres, for at den akademiske integritet er intakt. Problemet er, at mange tidsskrifter mangler klare regler, og at det er svært at håndhæve dem, selv når de eksisterer. Studier publiceret i tidsskriftet BJOG og refereret i PMC foreslår, at løsninger som CONSORT-AI — en standard for gennemsigtighed i AI-assisteret forskning — bør gøres obligatoriske, men implementeringen halter.

AI-detektion er upålidelig ~

Det er ironisk, men sandt: vi kan ikke med sikkerhed bruge AI til at afsløre AI-skrevet tekst. Detektionsværktøjer som GPTZero og Turnitin er tilgængelige, men de giver både falske positiver (anklager ægte forfattere) og falske negativer (overser AI-tekst). En menneskelig forfatter med et usædvanligt formelt skrivestil kan fejlagtigt flages som AI; en kyndig bruger af AI-værktøjer kan skjule sporene ved at redigere outputtet. Det betyder, at de høje procenttal i undersøgelserne er estimater med betydelig usikkerhed — ikke hårde målinger.

Hvad ved vi ikke

Vi kender ikke det sande omfang. Tallene, der cirkulerer — herunder de 57 procent — er baseret på statistiske spor i teksten, ikke på verificeret gennemgang af hvert enkelt manuskript. Vi ved ikke, om den reelle andel er lavere eller højere.

Vi ved ikke, om kvaliteten lider. En artikel kan være AI-assisteret og stadig indeholde korrekte data og valide konklusioner. Det modsatte gælder også: menneskeskrevne artikler kan være fejlbehæftede og vildledende. Det empirisk relevante spørgsmål er ikke kun "er det skrevet af AI?", men "er indholdet pålideligt?" — og det er et separat spørgsmål, der kræver faglig vurdering.

Vi ved ikke, om vi måler problemet rigtigt. Nuværende detektionsmetoder er kalibreret mod bestemte AI-modeller og skrivestile. Når modellerne udvikler sig, forældes detektionsværktøjerne. Der er ingen grund til at tro, at vi har et stabilt metodisk grundlag under fødderne.

Vi ved ikke, hvem der er ansvarlige. Er det forfatterne? Tidsskrifterne? Universiteterne, der presser forskere til at publicere? Det kommercielle system, der tjener penge på volumen frem for kvalitet? Ansvaret er spredt, og det gør det vanskeligt at regulere.

Hvad eksperter er uenige om

Hvor alvorligt er det egentlig? ~

Nogle forskere argumenterer for, at AI-assisteret skrivning er en naturlig forlængelse af tidligere teknologier — stavekontrol, referencestyringsprogrammer, statistiksoftware — og at fokus på AI-detektion er en moralsk panik, der afsporer debatten fra det reelle problem: dårlig peer review og kommercielle incitamenter til at publicere meget frem for godt. Andre mener, at AI repræsenterer et kvalitativt nyt problem, fordi det muliggør masseproduktion af tekst, der er linguistisk plausibel men substantielt tom.

Skal AI forbydes eller reguleres? ⚖

Det er et værdispørgsmål klædt i empirisk tøj. Nogle tidsskrifter forbyder enhver brug af AI i manuskriptforberedelsen. Andre tillader det, hvis det oplyses. Forskning publiceret i BJOG og refereret på PMC foreslår en mellemvej: obligatorisk åbenhed kombineret med redefinering af kvalitetsmålinger, så reproducerbarhed og samfundsmæssig impact vægtes højere end citatantal. Det er en holdning, ikke et fund — men den hviler på empiriske observationer om, hvad de nuværende incitamenter producerer.

Er impact factor problemet? ~

Flere forskere peger på, at impact factor — det dominerende mål for et tidsskrifts prestige — utilsigtet belønner volumen og citation-cirkler frem for reel videnskabelig kvalitet. Mega-tidsskrifter kan booste deres impact factor ved at publicere ekstremt mange artikler og ved at artikler i tidsskriftet citerer hinanden. AI-genererede artikler, der fylder dette system, er et symptom på et bredere strukturelt problem. Andre forskere mener, at impact factor er et nyttigt, omend ufuldkomment, mål, og at problemet primært er håndhævelse af eksisterende regler.

Konklusion

Vi ved nok til at tage problemet alvorligt — men ikke nok til at kende dets præcise omfang.

Det er veldokumenteret, at AI-værktøjer gør det markant lettere at producere tekst, der ligner videnskabelige artikler, og at dette allerede udnyttes i stor skala. Det er veldokumenteret, at peer review-systemet er under pres fra kommercielle incitamenter, der belønner mængde frem for kvalitet. Det er understøttet, at transparenskrav — regler om at oplyse AI-brug — er en nødvendig, om end ikke tilstrækkelig, del af løsningen.

Det er omtvistet, hvor stor en andel af den publicerede litteratur der reelt er kompromitteret, fordi detektionsværktøjerne er upålidelige.

Det vi ikke ved, er mindst lige så vigtigt som det vi ved: vi mangler stabile målemetoder, klar ansvarsfordeling og konsensus om, hvad "acceptabel AI-brug" i videnskab overhovedet betyder.

For enhver der bruger forskningslitteratur som grundlag for beslutninger — og det gør vi alle, direkte eller indirekte — er det korrekte svar ikke panik, men skærpet kildekritik. Det gælder for journalister, politikere, sundhedsprofessionelle og borgere. Spørg ikke kun "hvad siger forskningen?". Spørg også: "Hvilken forskning, publiceret hvor, med hvilken metode og hvilken åbenhed om AI-brug?"

Det spørgsmål var relevant før AI. Det er mere presserende nu.