Når AI-systemer bidrager til videnskabelig forskning, er det uklart hvem der bærer det juridiske og institutionelle ansvar for fejl og vildledende resultater.
Det korte svar
AI-systemer bruges i stigende grad til at generere hypoteser, analysere data og skrive forskningsartikler. Men der findes ingen klar juridisk eller institutionel ramme for, hvem der hæfter, når AI-bidrag fører til fejl, tilbagetrukne artikler eller skadelige anbefalinger. Ansvaret falder i dag typisk på de menneskelige forfattere — men det er en løsning under pres, efterhånden som AI's rolle vokser.
Det politiske spørgsmål
Forskning er ikke bare vidensproduktion. Den danner grundlag for medicinske retningslinjer, klimapolitik, lovgivning og milliardinvesteringer. Når en forsker publicerer et studie, accepterer vedkommende et ansvar: for metode, for data, for konklusioner.
Men hvad sker der, når en stor del af arbejdet er udført af et AI-system? Hvem ringer redaktøren til, når et studie trækkes tilbage? Hvem sagsøger man, hvis et lægemiddel godkendes på baggrund af AI-genererede analyser, der viser sig at være fejlbehæftede?
Det er ikke hypotetiske spørgsmål. Nature rejser dem direkte i forbindelse med den accelererende udbredelse af AI i videnskabelig produktion — og konstaterer, at svarene endnu ikke eksisterer i nogen tilfredsstillende form.
Det empiriske spørgsmål bag
Spørgsmålet om ansvar hænger uløseligt sammen med, hvad AI faktisk gør i forskningen. Ikke hvad det kan i teorien, men hvad der sker i praksis:
- Genererer AI hypoteser, som mennesker så tester? Eller tester AI også?
- Skriver AI udkast til artikler, som mennesker retter igennem? Eller genererer AI argumenter og konklusioner, som mennesker ikke reelt kan efterprøve?
- Kan de menneskelige forfattere faktisk forstå og validere, hvad AI-systemet har gjort?
Svarene på disse spørgsmål afgør, om den eksisterende ansvarsmodel — at forfatterne er ansvarlige — er meningsfuld eller blot en juridisk fiktion.
Hvad ved vi
✓✓ AI bruges aktivt og bredt i forskning
Det er veletableret, at AI-systemer i dag anvendes på tværs af videnskabelige discipliner: til litteraturgennemgang, dataanalyse, billedfortolkning, protein-foldning, kliniske forsøgsdesign og manuskriptskrivning. Det er ikke en fremtidig mulighed — det sker nu og i stor skala.
✓✓ De menneskelige forfattere hæfter juridisk
Ifølge gældende praksis og de fleste tidsskrifters regler er det de navngivne menneskelige forfattere, der bærer det fulde ansvar for en artikels indhold. AI kan ikke være medforfatter. Denne regel er vedtaget af blandt andre Nature, Science og de fleste større medicinske tidsskrifter. Den løser imidlertid ikke problemet — den forskyder det.
✓✓ EU's AI-forordning stiller krav, men ikke specifikt til forskning
EU's AI-forordning, som er ved at blive implementeret, indfører et risikobaseret system, der pålægger virksomheder og myndigheder at bruge AI på en ansvarlig og bæredygtig måde, der beskytter sundheden, sikkerheden og borgernes grundlæggende rettigheder. Forordningen kategoriserer AI-systemer efter risikoniveau og stiller skærpede krav til høj-risiko-anvendelser. Videnskabelig forskning er ikke eksplicit defineret som høj-risiko i forordningens udgangspunkt, men forskning der direkte informerer sundhedsafgørelser eller sikkerhedskritiske beslutninger kan potentielt falde ind under skærpet regulering. Den konkrete grænsedraging er endnu ikke afklaret.
✓ Tilbagetrukne artikler kan have alvorlige konsekvenser
Det er dokumenteret, at tilbagetrukne videnskabelige artikler ofte fortsætter med at blive citeret og anvendt, selv efter tilbagetrækning. Fejl i den videnskabelige litteratur spreder sig og er svære at inddæmme. Hvis AI-fejl bidrager til flere tilbagetrækninger, forværres dette problem.
✓ Forfatterskab forudsætter forståelse — og den kan mangle
Videnskabeligt forfatterskab er traditionelt forbundet med et krav om, at forfatteren kan stå inde for og forklare arbejdet. Når AI udfører komplekse statistiske analyser eller genererer begrundelser, som de menneskelige forfattere ikke fuldt ud kan rekonstruere eller validere, er dette krav reelt undermineret — også selvom forfatternes navne står på artiklen.
Hvad ved vi ikke
~ Hvor meget AI reelt bidrager til publicerede studier
Der er ingen systematisk opgørelse over, i hvilken grad AI har bidraget til publicerede forskningsartikler. Mange forskere bruger AI-værktøjer uden at oplyse det, fordi reglerne er uklare eller ikke håndhæves konsekvent. Vi ved derfor ikke, hvor stor en del af den eksisterende litteratur der er AI-assisteret i en grad, der er relevant for ansvarsspørgsmålet.
~ Om menneskelig tilsyn reelt kan sikre kvalitet
Det er uafklaret, om det er muligt for menneskelige forskere at udøve meningsfuldt tilsyn (meaningful oversight) med AI-systemer, der opererer på et niveau af kompleksitet, som overskrider det menneskelig kognition kan følge i detalje. Forskning i menneske-AI-samarbejde peger på, at mennesker ofte har en tendens til at overse fejl, som AI har begået, særligt når outputtet præsenteres overbevisende.
~ Hvad der udgør en "fejl" i AI-assisteret forskning
Var det AI'ens fejl? Forskerens fejl i at vælge det forkerte AI-system? En fejl i træningsdataene? En fejl i den menneskelige verifikation? Ansvarsfordelingen kræver, at man kan udpege, hvad der gik galt og hvem der burde have fanget det — og det er langt fra altid muligt.
~ Hvordan domstole vil fortolke ansvaret
Der er endnu ikke etableret retspraksis for, hvordan domstole vil fordele ansvar i sager, hvor AI-bidrag til forskning har ført til skade. Det er ukendt territorium.
Hvad eksperter er uenige om
⚖ Skal AI kunne være medforfatter — og bære ansvar?
Nogle forskere argumenterer for, at den logiske løsning er at give AI en formel rolle som "bidragyder" eller endda "medforfatter" med tilhørende ansvarsdokumentation. Modstanderne påpeger, at AI ikke kan bære ansvar i nogen meningsfuld juridisk eller etisk forstand: det kan ikke straffes, suspenderes eller sagsøges. At give AI forfatterrolle løser ikke ansvarsproblemet — det skjuler det.
⚖ Skal AI-produceret forskning mærkes og spores systematisk?
En position er, at alle AI-bidrag til forskning skal oplyses detaljeret, så læsere, redaktører og myndigheder kan vurdere, hvad mennesker reelt har stået for. En modposition er, at dette krav er urealistisk at håndhæve, og at det vil skabe en falsk tryghed: oplysning om AI-brug fortæller ikke, om bidraget var korrekt.
~ Er AI-assisteret forskning mere eller mindre fejlbehæftet end traditionel forskning?
Det er omtvistet. Tilhængere peger på, at AI kan reducere menneskelige fejl i gentagne analyser og store datasæt. Kritikere peger på, at AI kan indføre systematiske fejl i stor skala — og at disse fejl er sværere at opdage, fordi de kan se ud som troværdige og velformulerede resultater. Der er endnu ikke tilstrækkelig empirisk dokumentation til at afgøre spørgsmålet.
⚖ Skal regulering ske på europæisk, nationalt eller institutionelt niveau?
EU's AI-forordning giver en ramme, men den er ikke designet specifikt til forskning. Nogle eksperter mener, at universiteterne og de videnskabelige tidsskrifter selv skal fastsætte bindende standarder. Andre mener, at national lovgivning er nødvendig for at sikre håndhævelse. En tredje position er, at internationale standardiseringsorganer — som dem der fastsætter regler for kliniske forsøg — bør tage lederskabet.
Konklusion
Vi befinder os i en situation, hvor et nyt og magtfuldt redskab er blevet en integreret del af videnskabelig produktion, uden at de institutioner der forvalter videnskabens troværdighed — tidsskrifter, universiteter, reguleringsmyndigheder og domstole — har fastlagt klare spilleregler for ansvar.
Det er ikke et teknisk problem, der venter på en teknisk løsning. Det er et institutionelt og juridisk problem, der kræver beslutninger om værdier: Hvad kræver vi af menneskelig forståelse og kontrol, for at noget kan publiceres som videnskab? Hvem hæfter, når det går galt? Og hvem betaler prisen, hvis tilliden til videnskab undergraves af fejl, som ingen kan placeres ansvarlige for?
EU's AI-forordning er et skridt på vejen, men den løser ikke spørgsmålet om ansvarlighed i videnskabelig forskning specifikt. Det arbejde er endnu ikke gjort.