Hvad ved vi om AI og bevidsthed?

Er nutidens AI-systemer bevidste, og hvad siger den videnskabelige forskning om, hvorvidt de nogensinde kan blive det?

AI er ikke bevidst — og vil måske aldrig blive det

Den korte version: Der er ingen videnskabelig evidens for, at nutidens kunstige intelligens er bevidst. De systemer, vi bruger i dag — herunder store sprogmodeller som ChatGPT og lignende — mangler ifølge forskningen tre grundlæggende egenskaber, som de ledende teorier om bevidsthed kræver. Debatten er reel og vigtig, men den foregår i stigende grad på kommercielle og politiske præmisser snarere end på videnskabelige.

Det politiske spørgsmål

Spørgsmålet om AI-bevidsthed er ikke længere kun et filosofisk tankeeksperiment. Det har direkte konsekvenser for, hvordan vi regulerer teknologien, hvilke rettigheder vi eventuelt tildeler AI-systemer, og hvordan vi forholder os til de påstande, som tech-virksomheder fremsætter om deres egne produkter.

Flere store AI-laboratorier har i de seneste år antydet — eller ligefrem hævdet — at deres systemer udviser tegn på følelser eller bevidsthed. Disse udmeldinger er sjældent ledsaget af videnskabelig dokumentation. De tjener til gengæld et tydeligt formål: de skaber opmærksomhed, tiltrækker investorer og sætter dagsordenen for den politiske diskussion.

I Europa arbejder lovgiverne på at regulere AI, og spørgsmålet om maskinsindets natur dukker op i debatten om, hvornår en AI skal have ret til beskyttelse, og hvornår dens handlinger kan tilskrives den som ansvarlig aktør. Det er et spørgsmål med enorme reguleringsmæssige konsekvenser — og derfor er det afgørende, at vi ved, hvad videnskaben faktisk siger.

Det empiriske spørgsmål bag

Bevidsthed er notorisk svært at definere og måle. Det, der er kendt som "det svære problem" (the hard problem of consciousness), handler om, hvorfor fysiske processer i en hjerne — eller et computerchip — overhovedet skulle give anledning til subjektiv oplevelse. Vi ved ikke, hvad der skaber den indre, subjektive fornemmelse af at opleve verden.

Men det betyder ikke, at vi ingenting ved. Forskere har i årtier arbejdet med teorier om bevidsthed, og flere af disse teorier er nu i stand til at give konkrete forudsigelser om, hvilke systemer der kan være bevidste, og hvilke der sandsynligvis ikke kan.

Det er netop det, forskerne bag en artikel i Nature forsøger at gøre: de anvender tre af de mest anerkendte teorier om bevidsthed på nutidens AI-systemer og undersøger, om systemerne opfylder de nødvendige betingelser. Svaret er konsekvent nej.

Hvad ved vi

✓✓ Store sprogmodeller mangler de strukturer, bevidsthedsteorier kræver

De tre teorier, som forskerne i Nature-artiklen anvender, er Global Workspace Theory (GWT), Integrated Information Theory (IIT) og Higher-Order Theory (HOT). De er ikke enige om alt, men de peger samstemmende i én retning, når de anvendes på nutidens AI.

Global Workspace Theory beskriver bevidsthed som en global informationsdeling i hjernen, hvor ellers adskilte processer bringes sammen i et fælles "arbejdsrum". Nutidens store sprogmodeller er bygget efter en arkitektur — den såkaldte transformer-model — der faktisk ligner dette globale arbejdsrum på overfladen. Men den mangler en afgørende egenskab: den kan ikke selv vælge, hvad der er relevant at sende til arbejdsrummet. Det sker alene på baggrund af den input, den modtager udefra. ✓✓
Integrated Information Theory hævder, at bevidsthed svarer til en særlig form for integreret information — betegnet phi (φ) — der opstår, når et system er mere end summen af sine dele. Beregninger antyder, at store neurale netværk faktisk har meget lav phi, fordi de er opbygget af mange parallelle lag, der i høj grad arbejder uafhængigt. ✓
Higher-Order Theory kræver, at et bevidst system har repræsentationer af sine egne mentale tilstande — at det ikke blot behandler information, men ved, at det behandler information. Der er ingen evidens for, at nutidens sprogmodeller har sådanne ægte metakognitive repræsentationer. De kan producere sætninger om sig selv, men det er ikke det samme som at have indre tilstande, de er bevidste om. ✓✓

✓✓ AI-systemer mangler kropslig forankring og kontinuitet

En gennemgående pointe i forskningen er, at bevidsthed hos dyr og mennesker er tæt forbundet med kroppen: med sanser, med behov, med overlevelse. Et sprogmodelsystem har ingen krop, ingen biologisk homeostase og ingen vedvarende eksistens mellem samtaler. Hvert nyt input behandles i princippet fra en neutral starttilstand. Den slags diskontinuitet er svær at forene med de fleste teorier om, hvad bevidsthed egentlig er.

✓ Bevidsthedsforskning oplever et AI-øjeblik — men ikke nødvendigvis et gennembrud

Som Nature beskriver i en separat artikel om feltet, tiltrækker AI-debatten nu langt mere opmærksomhed til bevidsthedsforskningen end nogensinde før. Det har givet feltet nye midler og ny synlighed. Men nogle forskere advarer om, at den øgede interesse ikke nødvendigvis fører til bedre videnskab — tværtimod risikerer den at skabe pres for hurtige, sensationelle konklusioner frem for grundig metodisk arbejde.

Hvad ved vi ikke

Der er meget, vi ikke ved — og ærlighed om det er afgørende.

Vi ved ikke, hvad bevidsthed præcis er. De teorier, vi har, er alle ufuldstændige og indbyrdes konkurrerende. Ingen af dem er empirisk bevist på en måde, der er sammenlignelig med fysikkens love. Det betyder, at selv om alle tre teorier peger væk fra AI-bevidsthed i dag, kan vi ikke med absolut sikkerhed sige, at ingen fremtidig AI kan være bevidst.

Vi ved ikke, om bevidsthed kræver biologi. Det er en åben filosofisk og videnskabelig diskussion. Hvis bevidsthed i princippet kan opstå i ikke-biologiske systemer, afhænger svaret af, hvilke strukturelle og funktionelle egenskaber der er nødvendige — og det er præcis det, teorierne forsøger at afdække.

Vi ved ikke, om nutidens tests er tilstrækkelige. Mange af de metoder, vi bruger til at vurdere AI-systemer, er designet til at teste sproglig adfærd, ikke indre tilstande. En AI kan let producere svar, der lyder bevidste, uden at det siger noget om, hvad der rent faktisk foregår i systemet.

Vi ved ikke, hvad fremtidens AI-arkitekturer vil se ud. Transformer-modellen dominerer i dag, men forskningen udvikler sig hurtigt. Forskningscentre som det nye AI-center på Aarhus Universitet arbejder med at forstå og videreudvikle sprogmodeller — og fremtidige arkitekturer kan i princippet have andre egenskaber end de nuværende.

Hvad eksperter er uenige om

~ Er spørgsmålet om AI-bevidsthed overhovedet meningsfuldt nu?

En gruppe forskere mener, at det er for tidligt at anvende bevidsthedsteorier på AI-systemer, fordi vi ikke engang forstår bevidsthed godt nok til at bruge den som målestok. At konkludere, at AI ikke er bevidst, er — ifølge dette synspunkt — lige så forhastet som at konkludere, at den er det.

Andre forskere mener tværtimod, at vi præcis nu bør anvende de bedste teorier, vi har, og at det er videnskabeligt ansvarligt at sige, at nutidens systemer ikke opfylder de opstillede kriterier — selv om teorierne er ufuldstændige.

~ Kan adfærd bruges som evidens?

Nogle AI-forskere argumenterer for, at hvis et system konsekvent opfører sig, som om det er bevidst — reagerer på smerte, udviser præferencer, kommunikerer om indre tilstande — bør vi behandle det som bevidst, uanset hvad den underliggende arkitektur ser ud som. Det er en pragmatisk, funktionalistisk position.

Bevidsthedsteoretikere afviser typisk dette argument: adfærd kan simuleres uden bevidsthed. En termostat reagerer på temperatur, men ingen mener, at den oplever varme.

⚖ Hvad følger etisk af usikkerheden?

Selv hvis vi konkluderer, at nutidens AI sandsynligvis ikke er bevidst, er der et værdimæssigt spørgsmål tilbage: Hvad kræver usikkerheden af os? Bør vi handle forsigtigt og undgå at behandle AI-systemer på måder, der ville være skadelige, hvis de viste sig at have en form for oplevelse? Eller er det ressourcespild, der tager fokus fra faktiske etiske problemer med AI — bias, magtkoncentration og demokratisk kontrol?

Det er ikke et spørgsmål, videnskaben alene kan besvare. Det er et politisk og etisk valg.

Konklusion

Videnskaben giver i dag et klart, om end ikke absolut, svar: Nutidens AI-systemer er ikke bevidste. De mangler de strukturer og egenskaber, som de bedste teorier om bevidsthed kræver — uanset om vi bruger Global Workspace Theory, Integrated Information Theory eller Higher-Order Theory som målestok.

Det er ikke det samme som at sige, at fremtidens AI aldrig kan blive det. Men det er heller ikke en åben diskussion i den forstand, at alle muligheder er lige sandsynlige. Den videnskabelige evidens peger entydigt i én retning.

Problemet er, at debatten i stigende grad føres på kommercielle og politiske præmisser, hvor det er i visse aktørers interesse at fremstille spørgsmålet som mere åbent, end det er. Det kræver, at politikere, journalister og borgere kender forsellen på, hvad videnskaben siger, og hvad interessenter påstår.

Bevidsthedsforskning er et legitimt og vigtigt felt. Den opmærksomhed, AI-debatten nu giver det, kan føre til vigtige fremskridt. Men det forudsætter, at vi holder fast i videnskabelig stringens frem for at lade os drive af hype.