AI-agenter kan nu gennemføre eksperimenter og skrive artikler – men mangler stadig den ræsonneringsevne, der adskiller ægte videnskab fra avanceret mønstergenkendelse.
Konklusion
Kunstig intelligens er rykket ind i laboratoriet. AI-agenter kan i dag gennemføre litteraturgennemgange, opstille hypoteser, planlægge eksperimenter, køre kode og skrive videnskabelige artikler – i et tempo og omfang, der overgår enhver menneskelig forsker. Men hastighed og omfang er ikke det samme som videnskabelig kvalitet. Det centrale problem, som Eric Schmidt og hans medforfattere rejser i MIT Technology Review, er, at de eksisterende systemer stadig primært er sofistikerede mønstertenkere – og at videnskab i sin kerne kræver noget andet: reel ræsonneringsevne.
Det er ikke en marginal skelnen. Den afgør, om AI kan blive en reel partner i videnskaben – eller om den forbliver et produktivitetsredskab, der arbejder hurtigere end os, men ikke klogere.
Baggrund
Siden 2022 er de store sprogmodeller (eng. large language models, LLM'er) rykket fra at være chatbotter til at blive det, man kalder AI-agenter: systemer der ikke blot svarer på spørgsmål, men planlægger og udfører skridt-for-skridt handlinger i et miljø. I forskningsmiljøer betyder det, at en agent kan søge i videnskabelige databaser, udvælge relevante studier, formulere en hypotese, designe en test, udføre beregninger og producere et udkast til en artikel – alt sammen automatisk.
Ifølge en nylig gennemgang af feltet fra arxiv kan disse agenter nu "gennemføre litteraturgennemgange, generere forskningsidéer, planlægge eksperimenter, køre kode, skrive artikler og iterativt udforske og raffinere videnskabelige hypoteser." Det er ikke fremtidsmusik. Det sker allerede i dag ved en række universiteter og teknologivirksomheder.
Det er baggrunden for, at Schmidt og hans kolleger nu rejser et mere grundlæggende spørgsmål: Hvad kræver videnskab egentlig? Og kan AI levere det?
Hvad sker der
Den teknologiske udvikling går stærkt. AI-agenter til forskning er ikke længere prototyper – de er redskaber, som allerede bruges i bl.a. biologisk og kemisk forskning, hvor mængden af tilgængelige data langt overstiger, hvad mennesker kan bearbejde manuelt.
Systemerne fungerer ved at kombinere sprogmodellers evne til at bearbejde tekst med adgang til databaser, programmeringsværktøjer og eksperimentelle miljøer. En agent kan i princippet starte med et forskningsspørgsmål og ende med et manuskript klar til peer review – og gøre det på timer frem for måneder.
Det lyder umiddelbart som en gevinst uden forbehold. Men artiklen i MIT Technology Review peger på et strukturelt problem: de nuværende systemer er primært trænet på eksisterende videnskabeligt indhold. De er usædvanligt gode til at genkende og kombinere mønstre i det, menneskeheden allerede ved. De er langt svagere, når opgaven kræver, at man bryder med etablerede mønstre – at man opdager noget genuint nyt.
Det er præcis det, videnskab på sit bedste gør.
De centrale spørgsmål
Tre spørgsmål er særligt vigtige i denne debat:
1. Hvad er forskellen på mønstergenkendelse og ræsonnement?
Mønstergenkendelse er evnen til at identificere strukturer i data – at se, at X og Y ofte optræder sammen, og at udnytte den sammenhæng til at forudsige eller kategorisere. Det er AI's store styrke, og det er ekstremt nyttigt i forskning.
Ræsonnement er noget andet. Det kræver, at man kan opstille en kausal forklaring – ikke blot "X og Y hænger sammen", men "X forårsager Y, fordi..." – og det kræver, at man kan vurdere, om en sådan forklaring holder under betingelser, der afviger fra de kendte data. Det kræver abstraktion, modellering og hvad filosoffer kalder kontrafaktisk tænkning: evnen til at forestille sig, hvad der ville ske, hvis verden var anderledes.
2. Er videnskabelig metode mere end effektiv informationsbehandling?
Det er et gammelt spørgsmål i videnskabsfilosofien, men AI giver det ny aktualitet. Hvis vi definerer videnskab som systematisk informationsindsamling og -analyse, er AI allerede exceptionelt god til det. Men videnskab handler også om at stille de rigtige spørgsmål – og det kræver en forståelse af, hvad vi ikke ved, og hvorfor det er vigtigt. Den forståelse er dybt menneskelig og kulturelt forankret.
3. Hvad er risikoen ved at overlade for meget til AI?
Arxiv-analysen af AI-forskningsagenter rejser en bekymring, der ikke må overses: disse systemer kan indsnævre den videnskabelige udforskning. Hvis AI-agenter primært genererer hypoteser og eksperimenter, der ligner dem, de allerede er trænet på, risikerer vi en slags algoritmisk konservatisme i videnskaben – mere af det samme, hurtigere leveret.
Analyse
Styrker: Hvad AI faktisk kan bidrage med
Lad os starte med det ubestridte. AI-agenter er allerede nyttige i videnskaben på måder, der ikke må undervurderes.
De kan bearbejde omfang af litteratur, som ingen enkelt forsker kan overskue. Inden for biomedicin alene publiceres der hundredtusindvis af artikler om året. En AI-agent kan systematisk kortlægge feltet, identificere modsigelser i eksisterende studier og pege på huller i forskningen. Det er tidskrævende rutinearbejde, som frigør menneskelige forskere til de mere kreative og vurderende opgaver.
De kan også accelerere det, man kalder hypotesegenerering: at foreslå mulige forklaringer og testbare forudsigelser på baggrund af eksisterende viden. Og de kan køre simuleringer og analysere data med en hastighed og præcision, der overgår mennesker.
Det er reelle bidrag. I discipliner med store datamængder – genomik, klimaforskning, partikelfysik – er det ikke en overdrivelse at sige, at AI-agenter allerede er med til at fremskynde videnskaben.
Svagheden: Ræsonnementsgabet
Problemet opstår, når vi ser på de opgaver, der kræver mere end effektiv databehandling.
For det første: kreativ hypotesedannelse. De bedste videnskabelige gennembrud – Darwins evolutionsteori, Einsteins relativitetsteori, Kekules struktur for benzenmolekylet – kom ikke af at kombinere eksisterende mønstre på en ny måde. De krævede et konceptuelt spring: en ny måde at se verden på, der ikke var indlejret i eksisterende data.
Nuværende sprogmodeller er designet til at producere sandsynlige næste skridt på baggrund af, hvad de er trænet på. Det er principielt i modstrid med den form for nybrud, der definerer videnskabelig revolution.
For det andet: fejldiagnose og selvevaluering. Et af de mest alvorlige problemer med AI-agenter i forskning er, hvad man kalder hallucination – at systemet producerer plausibelt klingende, men faktisk forkert indhold med stor selvtillid. I videnskab er det ikke blot en inconvenience, det er potentielt farligt. Fejlagtige resultater, der ser rigtige ud, kan forplante sig i litteraturen og koster tid og ressourcer at korrigere.
Det er ikke et problem, man har løst endnu. Og det er særlig akut i videnskab, fordi peer review-systemet – der traditionelt fungerer som kvalitetssikring – endnu ikke er tilpasset en verden, hvor AI kan producere et manuskript på timer.
For det tredje: kontekst og formål. Videnskab er ikke blot et teknisk projekt – det er et socialt og etisk foretagende. Hvad det er vigtigt at forske i, hvem forskningen tjener, og hvordan resultaterne skal formidles og bruges, er spørgsmål, der kræver menneskelig dømmekraft. AI kan ikke vurdere etiske afvejninger – den kan på sin højde gengive, hvad andre mennesker har skrevet om etik.
Det indsnævrende pres
Arxiv-analysens bekymring om algoritmisk konservatisme fortjener at blive taget alvorligt.
Videnskabelig udforskning er pr. definition åben. Man ved ikke på forhånd, hvad man leder efter. Men AI-agenter optimerer typisk mod mål, der er defineret på forhånd – og de trækker på en vidensbase, der afspejler det, der allerede er publiceret og anerkendt. Det betyder, at de har en strukturel tendens til at bevæge sig inden for det eksisterende paradigme.
Det er et problem, fordi videnskabelig fremgang ofte sker, når nogen bryder med det herskende paradigme – og det kræver netop den form for ræsonnement og kontrafaktisk tænkning, som AI endnu ikke behersker.
Hvad kræver det så?
Schmidt-artiklens centrale argument er, at vi skal ophøre med at betragte bedre data og større modeller som den primære vej frem. Det er ikke mere data, der mangler – det er dybere ræsonnement.
Det peger mod en række konkrete krav til næste generations AI-systemer til forskning:
Kausal modellering: Evnen til ikke blot at identificere korrelationer, men at opstille og teste kausale forklaringer – at skelne mellem "A hænger sammen med B" og "A forårsager B".
Usikkerhedshåndtering: Evnen til at kommunikere, hvad systemet ikke ved, og hvor sikkert det faktisk er på sine konklusioner. Nuværende systemer er notorisk dårlige til dette.
Anomalidetektion: Evnen til at identificere, hvornår et resultat er uventet – og behandle det som en mulighed snarere end en fejl. Mange videnskabelige gennembrud starter med en anomali, som nogen var nysgerrig nok til at undersøge nærmere.
Forklaringsevne: Evnen til at redegøre for, hvorfor et system konkluderer, som det gør – på en måde, der kan efterprøves og diskuteres af menneskelige eksperter.
Ingen af disse egenskaber er fuldt ud til stede i de systemer, vi har i dag.
Menneske og maskine: en mere nuanceret arbejdsdeling
Det praktiske perspektiv er, at de mest produktive forskningsmiljøer formentlig ikke vil være dem, der overlader mest til AI – men dem, der finder den bedste arbejdsdeling.
AI er stærk i omfang, hastighed og systematik. Mennesker er stærke i kreativt spring, etisk vurdering og kontekstforståelse. Den oplagte model er et tæt samspil, hvor AI håndterer det rutineprægede og datastunge, mens menneskelige forskere fastholder ansvar for de afgørende skridt: valg af forskningsspørgsmål, fortolkning af anomalier, vurdering af implikationer.
Det lyder fornuftigt – men kræver, at vi som samfund investerer i at uddanne forskere, der forstår, hvad AI kan og ikke kan. En forsker, der blindt stoler på AI-genererede resultater, er ikke mere produktiv – vedkommende er potentielt farlig.
Konklusion
AI-agenter har allerede ændret videnskabens tempo. Det er et reelt fremskridt. Men de har ikke ændret videnskabens natur – og det er en vigtig skelnen.
Videnskab kræver ikke blot informationsbehandling. Den kræver ræsonnement: evnen til at stille nye spørgsmål, opdage det uventede, bryde med etablerede mønstre og forstå, hvad resultaterne betyder. Det er evner, som de nuværende AI-systemer mangler i afgørende grad.
Schmidt og hans kollegers budskab er ikke en afvisning af AI i videnskaben. Det er et krav om, at vi tager den videnskabelige metode alvorligt, når vi designer og anvender disse systemer – og at vi ikke lader fascination over tempo og omfang forveksle med egentlig videnskabelig dybde.
Spørgsmålet er ikke, om AI kan hjælpe videnskaben. Det kan den. Spørgsmålet er, om vi forstår præcis hvad den kan hjælpe med – og hvad der stadig kræver et menneske.