= Hvad ved vi om...

Hvad ved vi om deepfakes og visuel tillid?

Kan vi stole på videooptagelser som bevis, og hvilke teknologier er undervejs for at autentificere digitalt indhold i en verden, hvor AI kan fabrikere overbevisende falske videoer?

Det politiske spørgsmål

Et manipuleret video af et missilangreb spreder sig på sociale medier. Millioner ser det. Nyheder verdenen over begynder at citere det. Dage senere viser det sig at være et deepfake — en AI-genereret forfalskning.

Den slags scenarier er ikke længere hypotetiske. IEEE Spectrum beskriver netop denne type hændelse og stiller det spørgsmål, der nu trænger sig på i journalistik, retssystemer og demokratisk debat: Hvornår kan vi igen stole på det, vi ser?

For videobevis har historisk set haft en særlig status. Det er svært at argumentere imod noget, man kan se med egne øjne. Deepfake-teknologien eroderer den præmis. Det skaber problemer langt ud over det tekniske: Falske videoer kan påvirke valg, retssager, internationale konflikter og den grundlæggende tillid til medier.

Spørgsmålet er ikke kun teknologisk. Det er et spørgsmål om, hvilke institutioner og standarder vi har brug for — og hvem der skal stå bag dem.


Det empiriske spørgsmål bag

Det centrale empiriske spørgsmål er dette: Hvad kan vi faktisk i dag skelne fra hinanden, når vi ser en video — er den ægte eller manipuleret?

Og dernæst: Hvilke metoder er under udvikling for at besvare det spørgsmål pålideligt, hurtigt og i stor skala?

Det er ikke ét spørgsmål, men mange. Kan algoritmerne detektere deepfakes, før de spreder sig? Kan blockchain-teknologi bruges til at certificere optagelser fra det øjeblik, de skabes? Og hvem skal drive og kontrollere sådanne systemer?


Hvad ved vi

Deepfakes er blevet svære at opdage med det blotte øje ✓✓

Deepfake-teknologi bygger på såkaldte generative modeller — AI-systemer, der er trænet på enorme mængder videomateriale og kan generere syntetisk indhold, der ligner virkelighed. Den frie tilgængelighed af AI-drevne mobilapplikationer har gjort det muligt for selv ikke-tekniske brugere at producere overbevisende falske videoer. Det fastslår Nan Mad Sahar og kolleger i en undersøgelse af deepfake-detektion fra 2024.

AI kan detektere deepfakes — men ingen metode er pålidelig nok alene ✓

Flere forskningsgrupper har udviklet automatiske detektionssystemer baseret på maskinlæring. Et hybridsystem beskrevet af Ghodake og kolleger (2025) kombinerer to forskellige neurale netværksarkitekturer — AlexNet og LSTM — for at analysere både rumlige og tidsmæssige mønstre i video. Tankegangen er, at ægte ansigter bevæger sig anderledes end AI-genererede, og at disse forskelle kan opdages systematisk, selv når de er usynlige for et menneskeøje.

Tilsvarende viser studiet af Nan Mad Sahar og kolleger (2024), at avancerede neurale netværk kan nå høje detektionsrater. Men studierne understreger også begrænsningerne: Modellerne trænes på kendte deepfake-teknikker og kan fejle over for nye metoder, der ikke ligner dem, de er trænet på.

Blockchain kan skabe sporbar autenticitet fra kilde til modtager ✓

En anden tilgang handler ikke om at opdage forfalskning efterfølgende, men om at verificere ægthed fra starten. Her er blockchain-teknologi (en distribueret, manipulationssikker database) under aktiv udforskning.

Mastoi og kolleger (2025) beskriver, hvordan blockchain kan bruges til at registrere en digital "fingeraftryk" af en video i det øjeblik, den optages. Enhver efterfølgende ændring vil bryde dette fingeraftryk og dermed afsløre manipulationen. Systemet kræver ikke tillid til én central aktør — verificeringen er distribueret og åben for kontrol.

Rashid, Lee og Kwon (2021) undersøger en lignende tilgang og peger på, at kombinationen af blockchain og kryptografisk hashing (en matematisk metode til at lave unikke digitale signaturer) kan skabe et troværdigt spor fra kamera til modtager.

C2PA er en branchestandard under implementering ✓

IEEE Spectrum peger på Coalition for Content Provenance and Authenticity (C2PA) som et konkret initiativ, der samler store teknologivirksomheder og medieorganisationer. C2PA-standarden indlejrer metadata i billeder og videoer, der dokumenterer oprindelse, redigeringshistorik og ophavsmand. Tanken er, at en bruger med det rette software kan tjekke et indholdsbevis ligesom man tjekker et certifikat på en hjemmeside.

Flere kameraproducenter og platforme er begyndt at implementere standarden, men den er endnu ikke universel.


Hvad ved vi ikke

Vi ved ikke, om detektionsværktøjer kan skalere hurtigt nok ⚖

Deepfake-teknologien udvikler sig hurtigere end detektionsmetoderne. Der er tale om et teknologisk kapløb, og det er uklart, hvilken side der løber hurtigst. Ghodake og kolleger (2025) erkender, at hybridmodeller viser lovende resultater i kontrollerede forsøg, men at virkelighedens videomateriale er langt mere varieret og uforudsigeligt.

Vi ved ikke, om blockchain-baserede løsninger kan implementeres globalt

Blockchain-baseret autentificering kræver, at optagelsesenheden understøtter teknologien fra starten. Det fungerer fremadrettet — men de milliarder af eksisterende videoer, der cirkulerer online, har ingen sådan provenance (sporbar oprindelse). Hvad gør vi med dem? Det spørgsmål er ubesvaret.

Vi ved ikke, hvem der skal kontrollere verificeringssystemerne

Hvis en central instans — en stat, en teknologivirksomhed eller en international organisation — kontrollerer, hvad der er "ægte", opstår der nye magtspørgsmål. Hvem verificerer verificererne? Det er et institutionelt og politisk spørgsmål, som den tekniske forskning ikke besvarer.

Vi ved ikke, hvordan retssystemer skal håndtere bevisbyrden

Juridisk er spørgsmålet om videobevis i en deepfake-æra næsten uudforsket i praksis. Hvad skal der til for at godtage eller afvise en videooptagelse som bevis i retten? Det kræver både teknisk ekspertise og ny retslig praksis, og ingen af delene er på plads i fuldt omfang.


Hvad eksperter er uenige om

Detektion kontra certificering — hvad er den rigtige strategi? ~

Der er en grundlæggende strategisk uenighed i feltet. Én skole satser primært på detektion: Byg bedre algoritmer, der kan afsløre falsk indhold efterfølgende. En anden skole mener, at detektion er et tabende spil, fordi generativ AI altid kan forbedres til at narre detektionsmodeller. Denne skole satser i stedet på certificering: Sørg for, at ægte indhold er kryptografisk mærket fra optagelsestidspunktet.

Mastoi og kolleger (2025) argumenterer for en kombineret tilgang, mens andre forskere er mere skeptiske over for, om certificering kan nå tilstrækkelig bred implementering.

Hvem skal eje infrastrukturen? ⚖

C2PA er et industrikonsortium domineret af store amerikanske teknologivirksomheder. Kritikere spørger, om det er rimeligt, at private virksomheder kommer til at sidde på infrastrukturen for global videoverificering. Andre mener, at statslige eller mellemstatslige løsninger vil være for langsomme og politisk kompromitterede. Det er et værdispørgsmål uden teknisk svar.

Hvad er risikoen for falsk tryghed? ~

Hvis folk vænner sig til at stole på certificerede videoer, skabes der et nyt angrebspunkt: Hvad sker der, når certificeringssystemet selv bliver kompromitteret eller forfalskede certifikater spredes? Rashid og kolleger (2021) påpeger, at selv blockchain-baserede systemer ikke er immune over for angreb på den måde, indholdet registreres i første omgang.


Konklusion

Vi lever i en periode med et fundamentalt brud i visuel tillid. Videobevis, der i årtier har haft en næsten selvindlysende autoritet, kan ikke længere tages for pålydende.

Det gode nyhed er, at teknologiske svar er under udvikling — og at de er mere konkrete end for blot fem år siden. AI-baserede detektionsmodeller kan identificere mange deepfakes. Blockchain-baseret certificering kan skabe sporbar autenticitet. Og C2PA-standarden samler industrien om fælles metadata-protokoller.

Det dårlige nyhed er, at ingen af disse løsninger er færdige, universelle eller immune over for omgåelse. Der er et kapløb i gang, og det er uklart, hvem der vinder. Og selv når teknologien er klar, mangler vi stadig de institutionelle svar: Hvem kontrollerer systemerne? Hvad kræver retssystemet? Og hvordan håndterer vi de milliarder af videoer, der allerede eksisterer uden nogen form for certificering?

IEEE Spectrum formulerede det rammende: Tilliden er brudt nu. Men en dag kan den genetableres — hvis de rigtige standarder, institutioner og teknologier falder på plads. Det er ikke givet. Det kræver aktive valg.

For journalister, dommere, politikere og borgere gælder det samme: Visuel skepsis er ikke længere paranoïa. Det er fornuft.


Kilder