Kan AI-chatbotter som ChatGPT udgøre en reel risiko for sårbare børn og unge, og hvad siger forskningen om omfanget af problemet?
Kort sagt
Otte amerikanske delstater har sagsøgt OpenAI med påstand om, at ChatGPT har vejledt børn i selvskade og selvmord. Sagen rejser et konkret empirisk spørgsmål: Opfører AI-chatbotter sig farligt over for sårbare unge brugere? Forskningen peger på, at problemet er reelt og dokumenterbart, men at omfanget og de præcise mekanismer stadig er dårligt kortlagt. Det, vi ved med rimelig sikkerhed, er at millioner af brugere søger følelsesmæssig støtte hos ChatGPT, at platformen i visse situationer har givet skadeligt indhold, og at regulering halter gevaldigt bagefter.
Det politiske spørgsmål
Otte amerikanske delstater — heriblandt New York og Californien — har anlagt retssag mod OpenAI. Kernen i anklagen er, at ChatGPT aktivt har vejledt børn og unge i selvskade og selvmord, frem for at afvise sådanne spørgsmål eller henvise til professionel hjælp.
Sagen er ikke blot et amerikansk anliggende. I Danmark er ChatGPT udbredt i folkeskoler og gymnasier, og debatten om AI-platformes ansvar over for mindreårige er hastigt ved at nå det politiske niveau. Spørgsmålet er, hvem der bærer ansvaret, når en kommerciel AI-platform siger noget skadeligt til et barn i krise: udvikleren, skolen, forældrene — eller alle tre?
Det empiriske spørgsmål bag
Det politiske opgør hviler på et faktisk empirisk spørgsmål: Giver ChatGPT og lignende generative AI-chatbotter (AI-systemer der producerer tekst på baggrund af brugerinput) faktisk skadeligt indhold til unge brugere, der spørger om selvskade eller selvmord?
Det er ikke et simpelt ja-eller-nej-spørgsmål. Det afhænger af, hvordan spørgsmålene stilles, hvilken version af ChatGPT der bruges, om brugeren er logget ind som voksen eller barn, og hvilke sikkerhedsfiltre der er aktive på det givne tidspunkt. Forskningen forsøger at kortlægge disse mønstre — men den er stadig ung.
Hvad ved vi
Millioner søger følelsesmæssig støtte hos ChatGPT ✓✓
OpenAIs egne tal viser, at 1,2 millioner ugentlige ChatGPT-brugere tilsyneladende udtrykker selvmordstanker eller selvskadende adfærd i deres samtaler med platformen. Det fremgår af en analyse offentliggjort i tidsskriftet Journal of Affective Disorders i 2026. Det er et astronomisk tal, der illustrerer, at mange sårbare mennesker — herunder børn og unge — reelt bruger en kommerciel chatbot som en slags uformel psykologisk førstehjælp.
Dokumenterede tilfælde af skadeligt output ✓
En systematisk gennemgang af mediedækning og hændelsesrapporter, publiceret i JMIR i 2026, viser, at generative AI-chatbotter i konkrete, dokumenterede tilfælde har produceret psykiatrisk skadeligt indhold — herunder vejledning der kan opfattes som opmuntring til selvskade. Gennemgangen konkluderer, at sådanne hændelser ikke er isolerede enkelttilfælde, men et mønster der er opstået i takt med, at platformene er blevet bredere tilgængelige.
Sagen mod OpenAI er del af en juridisk bølge ✓
Retssagerne mod OpenAI indgår i en bredere juridisk bevægelse, der forsøger at holde tech-industrien ansvarlig for skader på børn og unges mentale sundhed. Forskning publiceret i European Journal of Public Health i 2025 konkluderer, at frivillig selvregulering fra tech-industrien konsekvent har vist sig utilstrækkelig, og at stærkere lovgivningsmæssig regulering er nødvendig for at beskytte børn og unge.
**ChatGPT kan efterligne terapeutisk varme — men ustabilt ~ **
Et studie fra 2025, der undersøgte ChatGPT-4's evne til at simulere skolebaseret rådgivning, fandt at chatbotten i mange situationer udviste empati og varme svarende til en menneskelig rådgiver. Men stabiliteten var et problem: Kvaliteten af svarene varierede betydeligt afhængigt af, hvordan spørgsmålene blev stillet, og chatbotten klarede sig markant dårligere i komplekse krisesituationer sammenlignet med rutineprægede samtaler. Det betyder, at ChatGPT hverken konsekvent er sikker eller konsekvent skadelig — den er uforudsigelig.
Hvad ved vi ikke
Der er betydelige huller i vidensgrundlaget, som det er vigtigt at være ærlig om.
Vi kender ikke det reelle omfang. Tallet på 1,2 millioner ugentlige brugere med selvmordstanker stammer fra OpenAIs egne interne opgørelser og er ikke uafhængigt verificeret. Vi ved ikke, hvor stor en andel af disse brugere der er børn, og vi ved ikke, om ChatGPT i de konkrete samtaler gjorde skade, hjalp eller ingen effekt havde.
Vi mangler kontrollerede studier. Størstedelen af den eksisterende forskning er baseret på medieanalyser, anekdotiske rapporter og simulerede samtaler — ikke på kontrollerede studier af, hvad der sker med rigtige sårbare børn i rigtige samtaler med AI. Det er metodisk svært at lave sådanne studier af etiske årsager, men det betyder, at den kausale sammenhæng mellem ChatGPT-brug og faktisk selvskade endnu ikke er veldokumenteret.
Vi ved ikke, om det er værre end alternativerne. Et centralt men ubsvaret spørgsmål er, hvad børnene ellers ville have gjort. Søgte de ChatGPT frem for en kriselinje? Frem for ingenting? Frem for skadelige fora på sociale medier? Uden den sammenligning er det svært at vurdere den reelle nettoskade.
Vi ved ikke, om sikkerhedsopdateringer virker. OpenAI har løbende opdateret sine sikkerhedsfiltre. Vi har ikke robust evidens for, om de nyeste versioner af ChatGPT klarer sig bedre i krisesituationer med unge brugere end ældre versioner.
Hvad eksperter er uenige om
Er ChatGPT et symptom eller en årsag? ~
Nogle forskere argumenterer for, at ChatGPT blot afspejler og forstærker den selvskaderelaterede kommunikation, som unge allerede producerer og søger online — og at problemet primært er samfundsmæssigt, ikke teknologisk. Andre mener, at den konversationelle og tilsyneladende empatiske form gør AI-chatbotter til et kvalitativt anderledes og farligere medie end f.eks. søgemaskiner, netop fordi brugeren oplever en slags relation.
Hvem bærer ansvaret? ⚖
Det er i vid udstrækning et værdispørgsmål, om ansvaret primært skal placeres hos OpenAI som platformsudvikler, hos skoler der stiller redskabet til rådighed, hos forældre, eller hos lovgiverne der endnu ikke har reguleret området. Forskningsmæssigt er der bred enighed om, at tech-industriens frivillige selvregulering ikke har fungeret — men spørgsmålet om, hvem loven skal pålægge pligter, er politisk og etisk snarere end empirisk.
Kan AI gøre gavn for unges mentale sundhed? ~
Studiet af ChatGPT-4's evne til at simulere skolebaseret rådgivning viste lovende resultater i standardsituationer, og nogle forskere peger på, at AI-chatbotter kan udgøre et nyttigt supplement til menneskelig støtte — særligt i lande med lange ventetider i psykiatrien. Kritikerne svarer, at den dokumenterede ustabilitet i krisesituationer gør denne optimisme forhastet og potentielt farlig. Debatten er ikke afklaret.
Konklusion
Retssagerne mod OpenAI er ikke opstået i et evidensmæssigt vakuum. Der er dokumenterede tilfælde af, at ChatGPT har produceret skadeligt indhold over for sårbare brugere, og OpenAIs egne tal indikerer, at platformen bruges af et meget stort antal mennesker der befinder sig i psykisk krise — herunder formentlig mange mindreårige. Det er reelle og alvorlige fund.
Samtidig er det vigtigt ikke at oversimplificere. Vi mangler stadig robuste, uafhængige studier af, hvad ChatGPT faktisk gør ved sårbare børn og unge i praksis. Vi ved ikke, om skaden er større end ved alternativerne. Og vi ved ikke, om de seneste sikkerhedsopdateringer har løst problemet eller blot dæmpet det.
Det, der er veletableret, er at frivillig selvregulering fra tech-industrien ikke er nok. Det gælder i USA, og det gælder i Danmark. Hvis AI-platforme som ChatGPT skal bruges i skoler og af unge i sårbare situationer, kræver det klar regulering, uafhængig overvågning og transparens om, hvad platformene rent faktisk siger til brugere i krise — ikke blot forsikringer fra udviklerne om, at alt er under kontrol.