Hvad ved vi om AI's evne til at efterligne personlig kommunikation — og hvad betyder det for tillid?

Mennesker kan i vid udstrækning ikke skelne AI-genererede personlige beskeder fra menneskeskrevne — og det rejser grundlæggende spørgsmål om, hvad tillid og autenticitet betyder i digital kommunikation.

Det ved vi med sikkerhed

De fleste mennesker opdager ikke, når en personlig besked er skrevet af kunstig intelligens frem for et andet menneske. Det gælder selv i situationer, hvor modtageren er motiveret til at finde ud af det. Et nyt studie dokumenterer dette empirisk og peger på, at vores sociale intuition ikke er gearet til at håndtere det nye kommunikationslandskab, som store sprogmodeller (AI-systemer der genererer tekst, også kaldet LLM'er fra engelsk "large language models") har skabt.

Det betyder ikke, at alt er tabt — men det betyder, at vi ikke kan stole på vores mavefornemmelse alene, når vi vurderer, om det er et menneske eller en maskine, der taler til os.

Det politiske spørgsmål

Spørgsmålet lander midt i en bredere politisk og samfundsmæssig debat: Hvornår er det i orden at bruge AI til at kommunikere på egne vegne — og hvornår er det manipulation?

I Folketinget og i EU diskuteres regulering af AI-genereret indhold, herunder krav om mærkning og gennemsigtighed. EU's AI-forordning, der trådte i kraft i 2024, indeholder bestemmelser om, at brugere skal oplyses, når de kommunikerer med et AI-system — men forordningen dækker ikke alle former for privat eller semi-professionel kommunikation.

Det voksende spørgsmål er ikke teknisk, men normativt: Hvad skylder vi hinanden at oplyse om, når vi kommunikerer? Og hvem har ansvaret — den der bruger AI-redskabet, den der udbyder det, eller myndighederne?

Det empiriske spørgsmål bag

Studiet, som Videnskab.dk har omtalt, undersøgte konkret, om modtagere af personlige beskeder kunne afgøre, om beskeden var skrevet af et menneske eller genereret af AI. Deltagerne blev bedt om at vurdere beskeder i personlige, relationelle kontekster — altså ikke tekniske tekster eller nyhedsartikler, men den slags kommunikation vi normalt forbinder med nærhed og tillid.

Resultatet var slående: Selv motiverede og opmærksomme læsere fejlvurderede kilden i langt de fleste tilfælde. AI-genererede beskeder blev konsekvent opfattet som menneskeskrevne.

Det rejser et præcist empirisk spørgsmål: Hvilke sproglige og sociale signaler bruger vi til at vurdere autenticitet — og er de signaler nu blevet ubrugelige?

Hvad ved vi

✓✓ Mennesker er dårlige til at genkende AI-tekst i personlige kontekster

Det er veldokumenteret, at mennesker generelt har svært ved at skelne AI-genereret tekst fra menneskeskrevet tekst, og at denne vanskelighed er særligt udtalt i personlige og emotionelle kommunikationssituationer. Intuitive strategier som at lede efter "robotagtig" eller "stiv" sprogbrug virker ikke, fordi moderne sprogmodeller er trænede på enorme mængder menneskelig tekst og efterligner menneskelige sprogmønstre med høj præcision.

✓✓ Moderne sprogmodeller er designet til at lyde menneskelige

Store sprogmodeller som dem bag ChatGPT og lignende systemer er ikke konstrueret til at oplyse om deres ophav — de er konstrueret til at producere flydende, kontekstuelt passende tekst. Det er netop det, de er gode til. Forskning i og undervisning om disse systemer foregår nu på en lang række danske universiteter; DTU udbyder eksempelvis en hel bacheloruddannelse i kunstig intelligens og data, og Aarhus Universitet har oprettet et dedikeret center for at udforske fremtidens tekstgenerering og kunstig intelligens.

✓ Det gælder på tværs af alder og digitale kompetencer

Studiet indikerer, at evnen til at gennemskue AI-kommunikation ikke i væsentlig grad forbedres af højere digital kompetence eller større bevidsthed om AI. Det er et vigtigt fund: Det handler ikke om, at folk er naive eller uopmærksomme. Det handler om, at de sproglige tegn, vi normalt bruger til at vurdere om noget er autentisk og personligt, ikke længere er pålidelige markører.

✓ AI-kommunikation bruges allerede i personlige relationer

Brugen af AI til at skrive beskeder, e-mails, kondolencer, kærlighedsbreve og arbejdsrelateret personlig kommunikation er udbredt. Det er ikke en hypotetisk fremtidssituation — det sker nu, i stor skala. Det nye er, at empirien nu bekræfter, at modtagerne ikke opdager det.

~ Sociale konsekvenser for tillid er uafklarede

Det er endnu ikke empirisk fastslået, i hvilket omfang udbredt AI-kommunikation svækker den sociale tillid på samfundsniveau. Det er plausibelt, at det sker over tid, men kausaliteten er ikke dokumenteret.

Hvad ved vi ikke

Der er vigtige huller i den eksisterende viden, som det er ærligt at erkende:

Vi ved ikke, om opdagelse ændrer konsekvenserne

Hvis du finder ud af, at en kærlig fødselsdagsbesked var skrevet af AI på vegne af en ven, ændrer det så din opfattelse af den relation? Det afhænger sandsynligvis af konteksten, jeres relation og din normative holdning til AI-brug — men vi har ikke systematisk viden om dette.

Vi ved ikke, om tilliden generelt eroderer over tid

Det er muligt, at mennesker vil udvikle nye former for "AI-mistro" — en baggrundsskepsis der påvirker al digital kommunikation. Det er også muligt, at normerne tilpasser sig, og at AI-assisteret kommunikation accepteres som et redskab på linje med stavekontrol eller ordbøger. Forskningen er ikke nået dertil endnu.

Vi ved ikke, hvad der virker som modtræk

Det er uklart, hvilke former for uddannelse, mærkning eller teknologi der effektivt kan hjælpe mennesker til at navigere i et kommunikationslandskab med udbredt AI-genereret indhold. Forskning i dette er i sin vorden.

Vi ved ikke, om kontekst og relation ændrer billedet afgørende

Studier er typisk udført i relativt kunstige forsøgssituationer. Vi ved ikke med sikkerhed, om resultaterne holder, når man kommunikerer med nære, kendte personer over lang tid, hvor man har et finmasket billede af den andens sproglige mønstre og personlighed.

Hvad eksperter er uenige om

⚖ Er AI-kommunikation i sig selv et etisk problem?

Her er der en reel, normativ uenighed. Nogle forskere og etikere argumenterer for, at AI-assisteret kommunikation ikke i sig selv er problematisk — vi har altid brugt redskaber til at kommunikere, og det afgørende er intentionen og den faktiske relation, ikke mediet. Hvis en travl forælder bruger AI til at formulere en omsorgsfuld besked til sit barn, er det kommunikationens substans, der tæller.

Andre argumenterer for, at den personlige formulering er en uadskillelig del af kommunikationens mening — at det at skrive til nogen selv er en handling der udtrykker noget, og at det at overlade den til en maskine er en form for svigten, uanset resultatet er svært at skelne fra det ægte. En forsker ved Syddansk Universitet peger i sin analyse på, at etik i relationelle sammenhænge ikke blot handler om at overholde formelle regler, men om en løbende, situationsbunden dømmekraft.

~ Er mærkning af AI-tekst en reel løsning?

Teknisk mærkning af AI-genereret indhold — såkaldt "watermarking" (digitalt vandmærke) — er foreslået som en løsning, men eksperter er uenige om, om det er teknisk robust nok til at fungere i praksis, og om det løser det sociale problem. Mærkning forudsætter, at afsendere er ærlige og at systemer er opsatte til at mærke korrekt — begge antagelser er usikre.

⚖ Hvem har ansvaret?

Debatten om ansvar er værdipolitisk og ikke empirisk afgørbar: Skal den enkelte bruger oplyse om AI-brug? Skal platforme kræve det? Skal lovgivningen regulere det? Eller er det et kulturelt spørgsmål, der løses gennem nye normer frem for regler? Her er der ingen konsensus — hverken i forskersamfundet eller i det politiske system.

Konklusion

Den empiriske kendsgerning er nu godt understøttet: Mennesker kan ikke pålidelig skelne AI-genererede personlige beskeder fra menneskeskrevne. Det er ikke et spørgsmål om intelligens eller opmærksomhed — det er en konsekvens af, at store sprogmodeller er blevet exceptionelt gode til at efterligne menneskelig kommunikation.

Det rejser reelle spørgsmål om tillid, autenticitet og ansvar, som samfundet endnu ikke har besvaret. Vi ved ikke, om den sociale tillid eroderer, vi ved ikke hvad der virker som modvægt, og vi er grundlæggende uenige om, hvad der normativt er i orden.

Det er det, vi ved. Det er det, vi ikke ved. Og det er præcis i det rum, den vigtige samtale om AI og menneskelig kommunikation bør foregå — uden overdrevne dommedagsprofetier og uden naiv beroligelse.