Guider

Guide: Här är tecknen på att en bild är AI-genererad

5 April 2023  |  |

Att genomskåda AI-bilder och deepfakes är väldigt svårt att göra med blotta ögat, men det finns tecken du kan leta efter – och det gäller att använda samma källkritiska metoder som med allt annat på nätet.

Den senaste tidens mest virala AI-bilder. Foto: Skärmdump/Midjourney

De senaste veckorna har flera AI-bilder spridits som om de vore verkliga fotografier – på påven i en minst sagt unik stil, på en lidande Julian Assange inifrån fängelset och på USA:s förre president Donald Trump i samband med hans gripande.

Det är hög tid att vi betraktar alla bilder med vaksamhet. Vad kan man då göra så här i AI-bildernas tid?

Håll dig ajour

Ett problem är takten i utvecklingen och tipsen för att genomskåda AI-genererade bilder och filmer blir snabbt utdaterade. Råden i två-tre år gamla guider kanske inte gäller längre – men det är å andra sidan sant för många av de tips man kan hitta om research i sociala medier. Så, kontrollera att råden är färska!

Onaturliga detaljer

Vad vet vi just nu då, när det just skett en tempoväxling i AI-utvecklingen? En sak som kan hjälpa för stunden är att AI-modellerna ännu inte har så stor förståelse för hur världen hänger ihop, säger Daniel Gillblad, föreståndare för AI-forskningscentret på Chalmers tekniska högskola.

Han tar exemplet med påve-bilden.

Facebook-inlägg med AI-genererade bilder av påven.

– Modellen vet inte att kedjan hänger i två delar eller att glasögon är en separat del från ansiktet. Den saknar kunskap om världen och behöver mer data, mer träning, mer förfining.

Inzoomning i bilden.

– Det kan även bli rörigt med ställningar och kroppsdelar, säger Daniel Gillblad.

Så, leta efter delar av bilden som ser onaturliga ut. Verkar kroppen och föremålen på bilden lyda fysikens lagar?

Suddigt på detaljrika områden

Många AI-bilder ser väldigt snygga ut, nästan som målningar. Ibland kan det ge ett lite plastigt intryck.

– Modellen genererar texturer, men är fortfarande inte bra på vissa saker. AI:n smetar ut komplicerade områden som öron och fingrar till exempel. Man kan se på till exempel textdetaljer på uniformer att det är suddigt där, säger Gillblad.

En av AI-bilderna som spreds under gårdagen i samband med att Trump var i rätten. (Falsk-stämpel är tillagd av Källkritikbyrån.)

Tydligast av allt är att det inte finns något vattentätt sätt att avgöra att en bild är AI-genererad. AI-verktyg kan användas, men än så länge så går det inte att lita helt och hållet på resultaten.

– Man får gå på omständigheterna kring bilden, säger Josefin Rosén, AI-expert på programföretaget SAS institute.

Hon påminner om att det även finns många sätt att manipulera vanliga bilder också.

– Man kan titta på ögonen, hudtoner och suddiga delar, men nu för tiden finns det också väldigt sofistikerade applikationer för att retuschera och piffa originalbilder, vilket gör det svårt att veta HUR den egentligen modifierats och om det verkligen handlar om en deepfake.

Så vi landar tillbaka i att ha ett kritiskt öga till det du ser och läser på nätet.

Undersök som vanligt

► Vad påstås om bilden, alltså i textytor runtom kring den? Undersök den informationen. Leta ledtrådar i själva bilden och i kommentarsfälten.

I till exempel fallet med den AI-genererade bilden av Wikileaks-grundaren Julian Assange som spreds i helgen så hade den en vattenmärkning, en detalj som var värd att undersöka. Medier plockade inte upp bilden som en nyhetsbild och den spreds inte av Assange närstående. I stället gick hans hustru ut och dementerade bilden lite senare.

► Hantera en dramatisk bild som sprids i ett upptrissat nyhetsläge på samma sätt som du skulle göra med ett påstående. Sprid inte obekräftade uppgifter och ha is i magen tills du har tillräckligt med information.

► Går det att spåra bilden med exempelvis bildsökningar?

Ta hjälp av våra guider:

Så här granskar du en bild
Så söker du på filmer och videoklipp
Så kollar du en bild i mobilen
Sökmotor-tricks för dig som letar svar på nätet


Har du tips på saker som du vill att vi ska skriva om så hör av dig!

Här kan du läsa mer om Källkritikbyrån och vår journalistik och arbetssätt!