I hvilken grad underminerer AI-genereret indhold og strukturelle svagheder i peer review-systemet den videnskabelige litteraturs troværdighed?
Det politiske spørgsmål
Dansk forskning, sundhedspolitik og klimaindsats bygger på én grundlæggende forudsætning: at den videnskabelige litteratur er pålidelig. Hvis den forudsætning smuldrer, smuldrer også grundlaget for evidensbaseret politik.
Spørgsmålet er ikke hypotetisk. Tidsskrifter over hele verden trækker stigende antal artikler tilbage. Redaktører advarer offentligt om systemer under pres. Og med udbredelsen af kraftfulde sprogmodeller er bekymringen for AI-genereret videnskabeligt indhold af lav kvalitet — det man på engelsk kalder "AI-slop" — rykket fra teknologidebat til kernespørgsmål om forskningsintegritet.
Hvad ved vi egentlig om problemets omfang, og hvad kan der gøres?
Det empiriske spørgsmål bag
Bag den politiske diskussion gemmer sig mindst tre adskilte empiriske spørgsmål:
- Hvor udbredt er AI-genereret indhold i videnskabelige artikler og anmeldelser?
- Er AI-genereret peer review dårligere, bedre eller bare anderledes end menneskelig peer review?
- Kan AI selv bruges som del af løsningen på den krise, den er med til at skabe?
Svarene er ikke enkle — og de peger i forskellige retninger.
Hvad ved vi
Peer review-systemet er under reel pres ✓✓
Det er veldokumenteret, at antallet af videnskabelige artikler er eksploderet de seneste årtier, og at systemet med frivillige ekspertbedømmere ikke er skaleret med. Tidsskrifter modtager langt flere indsendte manuskripter end for ti år siden, mens puljen af kvalificerede bedømmere vokser langsommere. Resultatet er længere svartider, overbelastede redaktører og et stigende antal afslag på at bedømme artikler.
Ingeniørens artikel beskriver, hvordan denne strukturelle overbelastning skaber det, man kan kalde perverse incitamenter: Forskere belønnes for at publicere, ikke for at bedømme andres arbejde. Det presser kvaliteten fra begge ender.
AI bruges nu aktivt i peer review ✓
En undersøgelse af 11 artikler, som sammenlignede AI-genererede og menneskelige peer reviews, viste, at AI-genererede anmeldelser generelt var mere strukturerede og formelt korrekte — men at de menneskelige bedømmere i højere grad fangede metodologiske problemer og nuancerede svagheder i argumentationen. AI-anmeldelserne var med andre ord pæne, men ikke nødvendigvis skarpe.
En anden undersøgelse klassificerede videnskabelige peer reviews i tre kategorier: autentiske, generiske og AI-genererede. Studiet fandt, at AI-genererede anmeldelser var genkendelige som kategori, men at skellet mellem "generisk menneskelig" og "AI-genereret" er sværere at trække, end man måske skulle tro. Det peger på et reelt identifikationsproblem: ikke al dårlig peer review er AI-genereret, og ikke alt AI-genereret peer review er dårligt.
AI kan finde fejl i videnskabelige artikler — men ikke alle ✓
Et studie fra 2025 undersøgte, om store sprogmodeller — herunder modeller med særlige ræsonneringsevner — kan identificere kritiske problemer i videnskabelige artikler. Resultatet var blandet: Modellerne klarede sig rimeligt på visse typer logiske fejl og metodologiske inkonsistenser, men præsterede uens på tværs af fagområder og artikeltyper. De er ikke en erstatning for menneskelig ekspertise, men potentielt et nyttigt supplement i en første screeningsfase.
AI-bedømmere udviser systematiske skævheder ~
Et storskalaprojekt, der lod sprogmodeller bedømme mere end 1.000 økonomiartikler, fandt tegn på systematiske skævheder i, hvordan AI-modellerne vurderede forskning. Modellerne var ikke neutrale redskaber — de favoriserede visse metoder, skrivestile og argumentationsformer. Det er ikke nødvendigvis anderledes end menneskelige bedømmere, der også er kendte for at udvise skævheder, men det rejser spørgsmålet om, hvilke skævheder vi er villige til at acceptere i et system, der i stigende grad automatiseres.
Hvad ved vi ikke
Omfanget af AI-slop er svært at måle præcist. Der findes ikke en samlet opgørelse over, hvor stor en andel af publicerede artikler der er meningsfuldt AI-genererede — altså ikke blot sprogvasket med AI, men reelt produceret af sprogmodeller uden reel menneskelig intellektuel indsats bag. Detektionsværktøjer er upålidelige, og de bedste modeller efterlader færre spor.
Vi ved ikke, om AI-genererede anmeldelser skader videnskaben i praksis. Det er plausibelt, at en struktureret men overfladisk AI-anmeldelse sender en mangelfuld artikel videre til publikation. Men vi mangler systematiske studier, der dokumenterer kæden fra AI-anmeldelse til publiceret fejl til reel skade på forskning eller politik.
Vi ved ikke, hvad den rette regulatoriske respons er. Tidsskrifter håndterer problemet forskelligt: forbud mod AI i anmeldelser, krav om erklæring, eller ingen politik overhovedet. Der er ingen konsensus om, hvad der virker.
Vi ved ikke, om problemet er midlertidigt. Det er muligt, at normer og teknologi tilpasser sig, og at AI-slop bliver marginaliseret af bedre detektionsmetoder og stærkere redaktionelle processer. Det er også muligt, at problemet forværres i takt med at modellerne bliver bedre til at efterligne menneskelig akademisk prosa.
Hvad eksperter er uenige om
Er AI løsning eller problem? ~
Her er en reel faglig skillelinje. Nogle forskere argumenterer for, at AI-assisteret peer review er nødvendigt og ønskeligt: systemet er ved at bryde sammen under sin egen byrde, og sprogmodeller kan aflaste bedømmere på rutineopgaver som sproglig korrektur, formatcheck og initial screening. Andre er dybt skeptiske og peger på, at peer review ikke primært er et effektivitetsproblem — det er et ekspertiseproblem, og AI mangler den domænespecifikke intuition, der gør en god bedømmelse god.
Er peer review-krisen ny? ⚖
Nogle videnskabssociologer argumenterer for, at peer review aldrig har fungeret så godt, som myten om det hævder — at det har været præget af bias, tilfældighedernes spil og kameraderi i årtier. Fra det perspektiv er AI-slop blot en ny synlig manifestation af et gammelt problem. Andre mener, at der er noget kvalitativt nyt ved en situation, hvor indholdet i selve artiklerne kan produceres industrielt uden menneskelig erkendelse bag.
Skal Folketinget regulere? ⚖
Det er et åbent værdispørgsmål, om dette primært er et problem for tidsskrifter og forskningsinstitutioner at håndtere, eller om der er behov for lovgivningsmæssige krav — for eksempel til offentligt finansieret forskning. Ingen af de tilgængelige studier besvarer det normative spørgsmål om, hvornår regulering er proportional.
Konklusion
Det korte svar: Peer review-systemet er under dokumenteret pres fra strukturelle problemer, og AI tilføjer en ny dimension til den krise — men billedet er mere nuanceret end overskrifterne antyder.
Det vi ved med rimelig sikkerhed: Systemet var overbelastet, før AI kom ind i billedet. AI bruges nu af både forfattere og bedømmere, og AI-genererede anmeldelser er genkendeligt anderledes end de bedste menneskelige — men ikke altid dårligere end de svageste. AI-modeller kan finde visse typer fejl i videnskabelige artikler, men er ikke pålidelige nok til at stå alene.
Det vi ikke ved: Præcist hvor stort problemet med AI-genereret indhold er, om det rent faktisk skader videnskabens output i praksis, og hvad der er den rette respons fra tidsskrifter, institutioner og lovgivere.
Den dybere pointe, som Ingeniørens artikel fremhæver, er vigtig: AI-slop er et symptom, ikke en sygdom. Den egentlige sygdom er et incitamentsystem, der belønner volumen over kvalitet, og et peer review-system bygget på frivillig ekspertise, der ikke kan skalere. Selv uden AI ville systemet være under pres. Med AI bliver svaghederne blot synligere — og lettere at udnytte.
For dansk forskningspolitik betyder det, at fokus ikke bør ligge snævert på at detektere og forbyde AI i videnskaben, men på de strukturelle spørgsmål: Hvordan honorerer vi peer review? Hvordan sikrer vi, at offentligt finansieret forskning hviler på troværdig evidens? Og hvordan bygger vi systemer, der er robuste nok til at modstå industriel produktion af tilsyneladende videnskabeligt indhold?
De spørgsmål har ingen nemme teknologiske svar.