Det er ingen enkel oppgave å identifisere deepfakes; metoder for å skape dem blir mer avanserte for hver dag.
Teknologien er som et tveegget sverd. Den kan brukes til gode formål, men den kan også misbrukes.
Dette er en realitet i dagens samfunn, og kunstig intelligens (AI) er et godt eksempel på hvordan dette kan manifestere seg.
Deepfakes er en teknologi som bruker AI til å lage svært realistiske videoer, bilder og lydklipp. Disse manipulasjonene er så overbevisende at det ofte krever en overmenneskelig innsats for å skille dem fra virkeligheten.
Hva er egentlig deepfakes?
Enkelt sagt er deepfakes falske medier som er produsert ved hjelp av applikasjoner tilgjengelig på datamaskiner og smarttelefoner. Disse applikasjonene bruker avanserte algoritmer for å erstatte deler av originalt materiale med andre elementer, noe som gir en følelse av at det er autentisk.
Målet med disse manipulasjonene er å enten lure eller underholde publikum med syntetisk medieinnhold.
Tidligere var det en stor utfordring å skape så realistiske videoer, men med dagens teknologi er det tilstrekkelig med et kraftig grafikkort og noen få dager med arbeid.
Det krever mer enn bare teknisk kompetanse for å skape virkelig overbevisende deepfakes, inkludert stemmekloning, ansiktsuttrykk og andre detaljer.
Imidlertid blir denne teknologien stadig mer tilgjengelig, med algoritmer som blir mer effektive på enklere maskinvare. Det er derfor sannsynlig at vi vil se mer av dette i fremtiden.
Det er viktig å være oppmerksom på potensielle farer ved misbruk av deepfakes, og vi må være årvåkne for å skille dem fra ekte innhold.
Hvordan avsløre deepfakes?
Ikke alle deepfakes er like gode, og derfor fungerer ikke alle metoder for avsløring i alle tilfeller. Noen deepfakes har lett gjenkjennelige tegn på at de er maskinproduserte, mens andre krever nøye observasjon eller til og med bruk av andre AI-verktøy for å identifisere.
Hudtone
Et av de første tegnene du bør se etter, er variasjoner i hudtone. Den delen av videoen som er manipulert (vanligvis ansiktet), kan ha små fargeforskjeller som skaper et avvik i forhold til resten av kroppen.
Bildet over viser et eksempel på en falsk video av Ukrainas president Volodymyr Zelenskyj, der han oppfordrer sine styrker til å overgi seg til Russland. Denne dårlige imitasjonen ble raskt avslørt som en deepfake.
Uttrykk
Et annet avslørende tegn er unaturlige ansiktsuttrykk. Spesielt amatørskapte deepfakes kan ofte lide av unaturlige leppebevegelser og mangel på menneskelige pauser, noe som gjør dem lettere å identifisere som falske.
Noen algoritmer kan inneholde pusteuttrykk, men du kan likevel se repeterende stopp og hodebevegelser som følger lignende mønstre. Det kan virke for mekanisk til å ignorere.
Blinking er også et element som kan avsløre deepfakes. Blinking skjer i sykluser, som er forutsigbare i koden, og dette kan virke mindre naturlig enn i en ekte video av samme person.
Øyebevegelsene kan også gi ledetråder. En AI, som mangler følelser, vil ofte virke mer fokusert enn et ekte menneske mens det snakker.
Oppsummert er det enklere å oppdage deepfakes, så lenge de ikke er laget med perfeksjon, slik som eksemplet under.
Detaljer
Hvordan kan man for eksempel vite at det ikke er den ekte Morgan Freeman på videoen?
En av de beste måtene å avsløre en deepfake på er å se på den i høyest mulig kvalitet (4K om mulig). Dette gir deg bedre sjanse til å oppdage eventuelle uregelmessigheter.
Det er også en fordel å se videoen på en stor skjerm. Du kan eventuelt ta et skjermbilde og zoome inn for å sjekke om det ligger manipulering bak det du ser.
Legg merke til huden. Her svikter algoritmene, uansett hvor sofistikert de er. Små detaljer blir gjerne glemt.
Huden kan se litt ujevn ut, og håret virker ofte pålimt i stedet for naturlig.
Dette gir deg et bedre grunnlag for å analysere videoen.
Jeg kan tydelig se den syntetiske huden, spesielt rundt bart, skjegg og hårfeste.
Kinnene, øyenbrynene, ansiktet (som er slankere i virkeligheten), nesen osv. – hvis du sammenligner deepfake-utgaven med et ekte bilde av personen (til høyre), blir det lett å se forskjellen.
Sammenligninger er en god måte å avsløre en deepfake på.
Detaljrikdom
Mye skjer når vi snakker. Alle har sin egen unike måte å bevege lepper, tunge, hake, kinn osv. på.
Deepfake-teknologien har ennå ikke full kontroll over innsiden av munnen. For eksempel er det vanskelig å se de individuelle tennene i underkjeven (mandibula) i en deepfake av Obama.
Det eneste man ser er en hvit stripe nederst, og det er ingen tegn til tungebevegelse.
Hvis du ser en ekte video av Obama, vil du se at han er mye mer uttrykksfull og har mer ansiktsbevegelse enn denne AI-replikaen.
I tillegg er kvaliteten på videoen ofte dårlig. Det kan være komprimert for å skjule realiteten eller på grunn av databegrensninger.
Overganger
En av begrensningene i deepfake-skapelsen er at den genereres bilde for bilde. Hvert enkelt bilde må sjekkes for at det ser perfekt ut, slik at illusjonen ikke brytes.
De mest overbevisende deepfake-videoene viser derfor svært begrensede ansiktsbevegelser. De viser som oftest bare ansiktet forfra, fordi overganger fra side til front kan avsløre svakhetene i teknologien.
Her er et eksempel på en deepfake av Tom Cruise:
Hvis du ser videoen i sakte film og observerer nøye fra 35-40 sekunder, ser du at det er noen uskarpheter i overgangene fra side til front.
Disse overgangene er en av de vanskeligste tingene å skjule, og det kan være en av de beste måtene å avsløre denne type AI-produksjoner.
Her er en oppsummering av hvordan du kan avsløre deepfakes for å begrense feilinformasjon:
| 1. | Se etter variasjoner i hudtone. |
| 2. | Se etter unaturlig leppesynkronisering, robotiske bevegelser eller manglende blinking. |
| 3. | Zoom inn for å sjekke hudtekstur, hårkvalitet og andre detaljer. |
| 4. | Sammenlign ansiktsuttrykk og talestil med ekte videoer. |
| 5. | Sjekk om det finnes høykvalitetsversjoner av videoen. |
| 6. | Gjør et raskt Google-søk for å se om den er stemplet som falsk. |
| 7. | Legg merke til ansiktsdimensjoner og sammenlign dem med ekte bilder. |
| 8. | Spill av videoen i sakte film for å se etter dårlige overganger. |
| 9. | Sjekk om munnhulen ser ekte og detaljert ut. |
| 10. | Del videoen med venner og familie for å få tilbakemelding hvis du er usikker. |
Deepfakes er ikke perfekte!
Denne veiledningen fokuserer på deepfake-videoer, men AI-generert lyd har lignende begrensninger. Teknologien forbedres stadig, men den vil nok alltid være et stykke unna den ekte varen.
Det er viktig å være aktiv for å lære å identifisere deepfakes. Vi har derfor laget denne veiledningen om hva deepfakes er og hvordan du kan lage dem.