Hvad ved vi om konsekvenserne af AI-assisteret skrivning i biomedicinsk forskning?

En ny analyse dokumenterer at ni ud af ti biomedicinske artikler bærer sproglige tegn på AI-hjælp — men hvad betyder det for videnskabelig integritet, peer review og troværdigheden af den forskning, vi bygger sundhedsbeslutninger på?

Det centrale spørgsmål

Ni ud af ti biomedicinske videnskabelige artikler bærer nu sproglige spor af AI-assisteret skrivning. Det dokumenterer en ny analyse omtalt i Nature. Det er en drastisk stigning sammenlignet med tidligere målinger og rejser akutte spørgsmål: Bliver videnskabelig litteratur mere pålidelig eller mindre, når AI hjælper med at skrive den? Og hvad gør danske universiteter og forskningsinstitutioner ved det?

Det politiske spørgsmål

AI-assisteret akademisk skrivning er ikke længere et niche-fænomen eller en fremtidshypotese. Det er hverdagen i verdens forskningslaboratorier — inklusiv de danske. Det sætter Folketing, universiteter og forskningsråd under pres for at tage stilling til tre konkrete spørgsmål:

Hvornår er AI-hjælp til forskning legitimt, og hvornår er det uredeligt?

Hvem har ansvaret, når AI introducerer fejl eller hallucinerede referencer i publiceret forskning?

Kan vi stole på den videnskabelige litteratur, som sundhedsmyndigheder, læger og politikere bygger beslutninger på?

Der er endnu ingen samlet dansk lovgivning om AI i forskning. Ansvaret ligger foreløbig hos de enkelte institutioner og de overordnede retningslinjer for god forskningspraksis.

Det empiriske spørgsmål bag

Analysen, der er beskrevet i Nature, bygger på sproglige mønstre i biomedicinske artikler. Forskere har identificeret bestemte ord og vendinger — såkaldte "AI-fingeraftryk" — der optræder markant hyppigere i tekster produceret med hjælp fra store sprogmodeller (LLM'er, på engelsk: large language models). Ord som "intricate", "commendable" og "meticulous" dukker op i en frekvens, der er statistisk usandsynlig i menneskeskrevet akademisk prosa.

Resultatet: 90 procent af de analyserede biomedicinske artikler viser tegn på, at AI har været involveret i skrivningen — enten som primært redskab eller som hjælp til at polere og omformulere tekst.

Det er ikke i sig selv et bevis for videnskabelig uredelighed. Men det dokumenterer en transformation af, hvordan forskning produceres — og den transformation sker hurtigere end de institutioner, der skal overvåge forskningens integritet, kan følge med.

Hvad ved vi

✓✓ AI-brug i akademisk skrivning er udbredt og stigende

Analysen i Nature er den hidtil mest omfattende dokumentation for omfanget. 90 procent er et tal, der ikke efterlader meget tvivl om, at AI-assisteret skrivning er normen snarere end undtagelsen i biomedicinsk forskning globalt.

✓✓ Store sprogmodeller kan hallusinere referencer

Det er veldokumenteret, at LLM'er kan producere tilsyneladende troværdige kildehenvisninger, der ikke eksisterer. Citater, forfattere, tidsskrifter og årstal kan alle være opfundet af modellen. Hvis forskere inkorporerer AI-genereret tekst uden at verificere hver eneste reference, risikerer fejlcitater at ende i publicerede artikler — og derefter blive citeret videre af andre.

✓✓ Danske universiteter har retningslinjer, men ikke ensartede regler

Aalborg Universitets Bibliotek har publiceret vejledning om generativ AI og god akademisk praksis med udgangspunkt i den danske kodeks for integritet i forskning. Kodeksen fra 2014 fastslår, at forskere har ansvar for deres arbejdes rigtighed — uanset hvilke redskaber de bruger. AI fritager ikke den enkelte forsker fra det ansvar. Men kodeksen er skrevet før den nuværende generations sprogmodeller og tager ikke eksplicit stilling til dem.

✓ Peer review-processen er under pres

Peer review — den fagfællebedømmelse, der skal kvalitetssikre forskning før publicering — er designet til at fange fejl, metodiske svagheder og svindel. Men systemet er ikke gearet til at opdage AI-hallucinerede referencer i stor skala. Bedømmere læser og vurderer argumenter og metoder; de verificerer sjældent hver eneste kildehenvisning manuelt.

✓ Danmark investerer i egne sprogmodeller

Digitaliseringsministeriet har bevilget 30,7 millioner kroner til et dansk sprogmodels-projekt med deltagelse af blandt andre Syddansk Universitet og Alexandra Instituttet. Formålet er bæredygtige AI-løsninger baseret på anvendt forskning — og på sigt et dansk alternativ til de store amerikanske modeller. Aarhus Universitets Center for Humanities Computing arbejder desuden på en dansk sprogmodel. Disse initiativer handler ikke primært om forskningsintegritet, men de afspejler, at Danmark ønsker et forhold til AI-teknologi, der ikke er fuldstændig afhængigt af udenlandske aktører.

Hvad ved vi ikke

Vi ved ikke, om AI-hjælp faktisk forringer videnskabelig kvalitet

Det er fristende at sidestille "tegn på AI-brug" med "ringere forskning". Men det er ikke nødvendigvis sandt. Hvis en forsker bruger AI til at rette grammatik eller omformulere uklare sætninger — og selv verificerer alle fakta og referencer — er slutresultatet ikke nødvendigvis dårligere end uden AI. Vi mangler studier, der systematisk sammenligner fejlrater og reproducerbarhed i AI-assisterede versus rent menneskeskrevne artikler.

Vi ved ikke, hvor mange publicerede fejl der stammer fra AI-hallucinationer

Der er dokumenterede eksempler på AI-hallucinerede referencer i akademiske tekster, men ingen systematisk opgørelse over, hvor stor en andel af fejlcitater i den eksisterende litteratur der kan tilskrives AI. Det er metodisk svært at undersøge, og feltet er for ungt til at have langsigtede data.

Vi ved ikke, om AI-detektionsværktøjer er pålidelige nok

Den metode, analysen i Nature bruger, bygger på statistiske mønstre i ordvalg. Det er et indirekte mål. Ikke al tekst med "AI-fingeraftryk" er nødvendigvis AI-genereret — og ikke al AI-genereret tekst efterlader tydelige spor. Detektionsværktøjer som de kommercielt tilgængelige (f.eks. Turnitin's AI-detektor) har kendte fejlrater og kan producere både falske positive og falske negative resultater.

Vi ved ikke, hvilken regulering der virker

Nogle tidsskrifter forbyder AI-brug helt. Andre kræver blot, at forfattere oplyser, om og hvordan AI er brugt. Ingen ved endnu, hvilken tilgang der bedst beskytter forskningens integritet uden at afskære forskere fra nyttige redskaber.

Hvad eksperter er uenige om

~ Er AI-assisteret skrivning i sig selv et integritetsproblem?

Her er der reel uenighed. En position er, at AI blot er et nyt skriveværktøj — ligesom stavekontrol eller referencesoftware — og at det afgørende er, om det videnskabelige indhold er korrekt og ærligt fremstillet. En modsat position er, at videnskabelig skrivning ikke er adskillelig fra videnskabeligt tænkning: Når AI genererer formuleringer, formulerer den også implicitte valg om vægtning, nuancer og framing — og det er et ansvar, forskeren ikke kan delegere.

~ Bør AI-brug kræve eksplicit oplysning i alle artikler?

Mange tidsskrifter bevæger sig i retning af obligatorisk AI-oplysning (disclosure). Men kritikere påpeger, at grænsen er uklar: Skal man oplyse om AI, hvis man har brugt det til at opsummere litteratur? Til at generere figurtekster? Til at finde stavefejl? Og er oplysningskravet meningsfuldt, hvis ingen kan verificere, om det overholdes?

⚖ Hvem bærer det moralske ansvar for AI-fejl i forskning?

Det er ikke et rent empirisk spørgsmål — det er også et værdispørgsmål. Skal ansvaret ligge hos den individuelle forsker, som burde have verificeret AI-outputtet? Hos institutionen, som ikke har givet tilstrækkelig vejledning? Hos AI-udviklerne, der har skabt et system, der hallusinerer troværdigt? Eller hos tidsskrifterne, der publicerer uden tilstrækkelig kontrol? Sandsynligvis er svaret "alle parter har et ansvar" — men fordelingen er uklar og vil sandsynligvis blive afklaret gennem konkrete skandaler og efterfølgende regulering snarere end gennem principielle politiske beslutninger.

Konklusion

Dokumentationen er klar: AI-assisteret skrivning er ikke undtagelsen i biomedicinsk forskning — det er normen. Det er i sig selv ikke en katastrofe. Men det skaber reelle risici, som det videnskabelige system ikke er gearet til at håndtere endnu.

De største bekymringer er konkrete og tekniske: AI-modeller kan opfinde referencer, der ser ægte ud. Peer review-systemet er ikke designet til at opdage det. Og fejl, der slipper igennem, kan blive citeret videre og gradvist forurene den litteratur, som kliniske retningslinjer, medicinalforskning og sundhedspolitik bygger på.

Danmark har en kodeks for god forskningspraksis, men den er skrevet i en anden tid. Danske universiteter begynder at producere vejledninger, og der investeres i egne sprogmodeller — men der mangler stadig ensartede, konkrete regler for, hvad AI-hjælp må og ikke må i forskning, og hvem der bærer ansvaret, når det går galt.

Det mest ærlige svar på spørgsmålet om konsekvenserne er: Vi ved ikke præcist, hvor stor skaden er endnu. Men vi ved nok til at handle — og vi handler ikke hurtigt nok.