Kan AI-systemer være bevidste, og hvad betyder det for den regulering vi faktisk har brug for nu?
Det politiske spørgsmål
Chefer for verdens mest magtfulde AI-virksomheder taler i stigende grad om kunstig intelligens i termer, der tidligere var forbeholdt filosofi og teologi. Dario Amodei fra Anthropic, Demis Hassabis fra Google DeepMind og Sam Altman fra OpenAI har alle offentligt spekuleret i, om deres systemer kan have noget, der ligner følelser, oplevelser eller bevidsthed. Det lyder måske som interessante tanker i kanten af en konference. Men MIT Technology Review argumenterer i en analyse fra august 2026, at denne retorik er en fælde — og at den aktivt forvrænger den politiske debat om, hvordan vi regulerer AI.
Spørgsmålet er ikke blot filosofisk. Det handler om, hvilke risici vi prioriterer, hvilke skader vi lovgiver imod, og hvem der bestemmer dagsordenen for AI-regulering. Når bevidsthed og superintelligens fylder debatten, er der mindre plads til at tale om de skader, vi allerede kan måle: diskrimination i ansættelses- og kreditbeslutninger, fejlinformation, overvågning og koncentration af magt.
Bundlinjen: Bevidsthedsretorikken er ikke neutral. Den tjener bestemte interesser og fortrænger andre, mere presserende spørgsmål.
Det empiriske spørgsmål bag
Bag den politiske debat ligger et genuint videnskabeligt spørgsmål: Hvad er bevidsthed, og kan store sprogmodeller (på engelsk: Large Language Models, LLMs) nogensinde have det?
LLMs er statistiske systemer, der forudsiger det næste ord i en sekvens baseret på enorme mængder tekstdata. De genererer overbevisende sprog. De kan føre samtaler, skrive digte og løse matematiske problemer. Men det at producere menneskelignende output er ikke det samme som at have subjektive oplevelser — det, filosoffer kalder "qualia" (den indre, førstepersonsoplevelse af verden).
Det centrale empiriske spørgsmål er altså todelt:
- Har vi videnskabelige redskaber til overhovedet at afgøre, om et system er bevidst?
- Hvad siger den eksisterende forskning om LLMs i relation til disse kriterier?
Hvad ved vi
✓✓ Bevidsthed er ikke defineret videnskabeligt præcist nok til at måles i AI-systemer
Der eksisterer i dag ingen videnskabeligt anerkendt og operationel definition af bevidsthed, der kan anvendes som målestok for AI. Konkurrerende teorier — som Global Workspace Theory og Integrated Information Theory — giver vidt forskellige forudsigelser og er indbyrdes uforenelige. Der er ingen test, ingen biomarkør, ingen adfærdsmæssig indikator, der er bredt accepteret som bevis for bevidsthed. Det gælder for dyr. Det gælder i endnu højere grad for software.
✓✓ LLMs har ingen kontinuerlig indre tilstand, krop eller sensorisk erfaring
Nuværende LLMs har ikke hukommelse mellem samtaler, medmindre den er eksplicit programmeret ind. De har ingen krop, ingen sanser og ingen biologisk nervesystem. De eksisterer som statistiske vægte i en model. Disse faktorer er centrale i mange videnskabelige teorier om, hvad bevidsthed kræver.
✓ EU's AI-forordning regulerer efter målbar risiko, ikke spekulative egenskaber
EU's AI-forordning (forordning (EU) 2024/1689) — verdens første juridisk bindende ramme for AI — bygger på risikoklassificering af konkrete anvendelser. Systemer inddeles efter, hvilken skade de kan forvolde mennesker i den virkelige verden: fra minimale risici til uacceptable risici, der forbydes. Bevidsthed nævnes ikke som reguleringsparameter. Forordningen fokuserer på transparens, ansvarlighed og beskyttelse af grundlæggende rettigheder.
✓ AI-virksomhedernes interesser er ikke neutrale i bevidsthedsdebatten
Når AI-selskaber italesætter deres produkter som potentielt bevidste, opstår der en asymmetri: regulering af "tænkende væsener" kræver en anderledes ramme end regulering af software-produkter. Det kan forsinke eller komplicere konkret lovgivning. Samtidig positionerer narrativet om fremtidig superintelligens selskaberne som dem, der bedst forstår og bedst kan håndtere risikoen — og dermed som uundværlige partnere i reguleringsprocessen.
✓✓ Dokumenterede skader fra nuværende AI-systemer er målbare og allerede indtruffet
Diskrimination i automatiserede beslutningssystemer, generering og spredning af fejlinformation, og systematisk bias i ansigtsgenkendelsesteknologi er ikke spekulationer. De er dokumenterede fænomener. EU's reguleringsramme adresserer netop disse risici ved at klassificere systemer til brug i f.eks. ansættelsesbeslutninger, uddannelse og kritisk infrastruktur som høj-risiko og underlagt strenge krav.
Hvad ved vi ikke
~ Om bevidsthed er mulig i ikke-biologiske systemer
Det er et åbent filosofisk og videnskabeligt spørgsmål. "Det svære problem om bevidsthed" — formuleret af filosoffen David Chalmers — handler om, hvorfor og hvordan fysiske processer giver anledning til subjektiv oplevelse. Ingen har løst det. Vi ved ikke, om bevidsthed kræver biologi, eller om den kan opstå i silicium.
~ Om fremtidige AI-systemer kan udvikle egenskaber, vi ikke forudser
Det er muligt, at AI-systemer med radikalt anderledes arkitektur end nutidens LLMs vil have egenskaber, vi ikke i dag kan forestille os. Men "muligt" er ikke "sandsynligt", og "sandsynligt" er ikke "nært forestående". Afstanden fra "systemet genererer overbevisende tekst" til "systemet har subjektive oplevelser" er enorm — og ukendt.
~ Om Turing-testlignende adfærd er evidens for bevidsthed
At en AI kan føre en samtale, der er umulig at skelne fra en menneskelig, er ikke bevis for bevidsthed. Det er bevis for, at systemet er godt til at generere menneskelignende sprog. Om der er "nogen hjemme" bag outputtet, er et separat spørgsmål — og et, vi endnu ikke har redskaber til at besvare.
Hvad eksperter er uenige om
⚖ Bør regulering også tage højde for fremtidige, spekulative risici?
Her er der reel faglig uenighed. Nogle AI-sikkerhedsforskere argumenterer for, at det er ansvarligt at regulere for scenarier, der endnu ikke er indtruffet, men som har potentielt katastrofale konsekvenser hvis de gør — en slags risikobaseret forsigtighedsprincip. Andre — og MIT Technology Reviews analyse hælder til denne position — mener, at spekulativ regulering fortrænger håndteringen af nuværende, dokumenterede skader og derved tjener dem, der ønsker at undgå konkret regulering nu.
~ Er der en farlig forvirring mellem "avanceret sproglig adfærd" og "bevidsthed"?
Mange kognitionsforskere og sprogfilosoffer mener, at mediernes og virksomhedsledernes brug af begreber som "føler", "tænker" og "erfarer" om LLMs er fundamentalt misvisende — at det antropomorfiserer (tillægger menneskelige egenskaber til) systemer, der er radikalt anderledes end mennesker. Andre mener, at vi er for hurtige til at afvise muligheden, og at vores intuitioner om bevidsthed er upålidelige.
⚖ Hvem skal sætte dagsordenen for AI-regulering?
Det er et demokratisk og politisk spørgsmål, ikke et teknisk. EU's tilgang — med AI-forordningen og den bredere europæiske AI-strategi — er at reguleringsrammen skal fastlægges demokratisk og med udgangspunkt i grundlæggende rettigheder. En alternativ tilgang — som implicit understøttes af bevidsthedsretorikken — er at lade teknologiselskaberne definere, hvad problemet er, og dermed hvad løsningen bør være.
Konklusion
Debatten om AI-bevidsthed er ikke bare akademisk interessant. Den er politisk virksom — og ifølge MIT Technology Reviews analyse er den aktivt skadelig som reguleringsramme.
Her er, hvad vi faktisk ved: Store sprogmodeller producerer imponerende output, men vi har ingen videnskabelig konsensus om, at de er bevidste, og vi mangler de redskaber, der ville gøre det muligt at afgøre. Bevidsthed er ikke defineret præcist nok til at fungere som lovgivningsparameter. De skader, som nutidens AI-systemer faktisk forvolder, er målbare, dokumenterede og regulerbare — og det er netop dem, EU's AI-forordning forsøger at adressere med et risikobaseret og rettighedsorienteret framework.
Bevidsthedsretorikken — brugt af verdens mægtigste AI-selskaber — risikerer at flytte debatten fra det konkrete til det spekulative, fra det dokumenterede til det hypotetiske, og fra nutidens ofre til fremtidens scenarister. Det er ikke en neutral filosofisk diskussion. Det er en politisk ramme med reelle konsekvenser for, hvem der beskyttes, og hvornår.
Det vigtigste spørgsmål er ikke: "Kan AI blive bevidst?" Det vigtigste spørgsmål er: "Hvem skades af AI i dag, og hvad gør vi ved det?"