Et billede dukker op i dit feed: en brandmand med en kat i armene foran et brændende hus, lyset er perfekt, og følelserne sidder lige i skabet. Det deles tusindvis af gange. Problemet er bare, at der måske aldrig har stået nogen brandmand foran det hus. Billedet kan være skabt af en computer på få sekunder ud fra en kort tekstbeskrivelse.
For at kunne vurdere den slags billeder hjælper det at vide, hvordan de bliver til. Teknikken bag kaldes oftest en diffusionsmodel, og den er mindre mystisk, end navnet lyder. Her er idéen i hverdagssprog, og bagefter nogle konkrete vaner, der gør dig sværere at snyde.
Fra tv-støj til motiv
Husk et gammelt fjernsyn uden signal, hvor skærmen blot var et vrimmel af tilfældige prikker. En diffusionsmodel starter på samme måde: med et billede af ren støj. Derefter fjerner den støjen i mange små trin, og for hvert trin dukker der lidt mere form og sammenhæng frem. Først en uklar skygge, så en silhuet, så detaljer, og til sidst noget, der ligner et foto eller en illustration.
Det er lidt som at se et motiv i skyerne, bare med en computer, der hjælper tydeligheden på vej. Modellen tegner altså ikke linje for linje som et menneske. Den »renser« et billede frem af støj, indtil det passer til den beskrivelse, den har fået.
Grunden til, at det sker i mange små trin og ikke i ét stort spring, er, at det er langt nemmere at forbedre et billede en smule ad gangen end at gætte et færdigt motiv ud af ingenting. Hvert trin behøver kun at gøre billedet en lille smule mindre støjende og en lille smule mere sammenhængende. Efter mange trin summer det op til noget, der ligner virkeligheden.
Hvordan lærer en model at fjerne støj?
Under træningen går processen den modsatte vej. Modellen får et enormt antal billeder, hvor der trin for trin bliver tilføjet støj, indtil motivet er helt væk. Opgaven er at lære, hvordan man går baglæns, altså hvordan man gætter, hvad der lå under støjen. Gør man det godt nok og ofte nok, opbygger modellen en fornemmelse for, hvordan katte, ansigter, bygninger og sollys typisk ser ud.
Ofte er billederne i træningsdataene parret med tekstbeskrivelser. Præcis hvilke billeder en given model er trænet på, er ikke altid offentligt kendt, og spørgsmålet om rettigheder til træningsmaterialet er genstand for debat og retssager i flere lande. Hvis det interesserer dig, så tjek de aktuelle regler og afgørelser frem for at stole på gamle nyheder.
Hvordan styrer din tekst resultatet?
Når du skriver en beskrivelse, bliver den omsat til en talrepræsentation, som modellen kan arbejde med. Den fungerer som kompas under hele støjfjernelsen: for hvert trin skubbes billedet i retning af det, der passer til din tekst. Skriver du »en rød cykel op ad en mur ved solnedgang«, bliver de enkelte trin trukket mod noget, der ligner netop det.
Fordi starten er tilfældig støj, giver den samme tekst forskellige billeder hver gang. Det forklarer også, hvorfor modellen sjældent gengiver ét bestemt billede, men i stedet laver noget nyt, der minder om mønstrene fra træningen.
Hvorfor går det galt med hænder og tekst?
Modellen forstår ikke en hånd som en hånd med knogler og led. Den har lært, hvordan hænder typisk ser ud i billeder, og de optræder i et utal af stillinger og vinkler. Derfor kan der af og til komme for mange fingre, sammensmeltede led eller et greb, der ikke giver fysisk mening. Nyere modeller klarer sig ofte bedre, men fejltyper af den slags findes stadig.
Det samme gælder tekst i billedet. Skilte, bogstaver og logoer kan ligne tekst uden at give mening, og detaljer som spejlinger, skygger og symmetri kan bryde sammen i de små hjørner. Se efter den slags, men regn ikke med, at fejlene altid er der. Et billede uden åbenlyse fejl er ikke dermed ægte.
Der er heller ikke noget galt i selve teknikken. AI-billeder bruges til illustrationer, idéskitser, kunst og leg, og mange gør det helt åbent. Problemet opstår, når et genereret billede præsenteres som dokumentation for noget, der er sket.
Sådan er du kritisk uden at blive paranoid
Teknikker til at afsløre AI-billeder bliver hele tiden overhalet af bedre modeller, så detaljejagt alene er ikke nok. Det mest pålidelige er at tænke som en journalist og spørge, hvor billedet kommer fra, snarere end hvordan det ser ud.
Find oprindelsen
Hvem har delt billedet først? Står der en fotograf, et medie eller et sted på billedet? Lav en omvendt billedsøgning, og se, om det optræder i troværdige sammenhænge. Hvis en opsigtsvækkende begivenhed kun findes som ét billede på sociale medier, men ikke i nogen nyhedsdækning, er det et advarselssignal.
Tjek sammenhængen
Passer vejret, tøjet, skiltene og baggrunden til det sted og det tidspunkt, billedet angiver? Er der flere billeder fra samme situation i andre vinkler? Ægte begivenheder efterlader som regel mange spor, mens et genereret billede står alene.
Læg også mærke til din egen reaktion. Billeder, der er skabt til at vække vrede, medlidenhed eller begejstring, spreder sig hurtigt, og den slags følelser gør os mindre kritiske. Mærker du et stærkt behov for at dele med det samme, er det netop det øjeblik, du bør vente lidt og undersøge sagen.
Mærkning og vandmærker: nyttigt, men ikke en garanti
Nogle tjenester lægger skjulte mærker eller metadata i de billeder, de genererer, og flere initiativer arbejder på fælles standarder for at dokumentere et billedes oprindelse. Det er et fint supplement. Men metadata forsvinder let, når et billede bliver beskåret, taget som skærmbillede eller delt via en tjeneste, der komprimerer filer, og ikke alle værktøjer mærker deres billeder. Mangler mærket, er det altså ikke et bevis på, at billedet er ægte.
Der er også kommet regler om mærkning af AI-indhold i flere dele af verden, blandt andet i EU. Detaljerne ændrer sig, så tjek de aktuelle regler, hvis du selv udgiver billeder, for eksempel på en hjemmeside eller i en virksomhed.
Hvad betyder det for dig?
Et billede er ikke længere et automatisk bevis for, at noget er sket. Det er ikke grund til at afvise alt, men til at skrue lidt op for nysgerrigheden. Spørg, hvem der står bag, og om andre kilder bekræfter det, før du deler. Og bliver du selv fristet til at lave et sært realistisk billede af en rigtig person, så husk, at det kan såre, og at der kan være regler, du skal overholde.
