Facebook översvämmas med AI-genererade bilder och snyfthistorier. Målet? Klickfiske.

Förra veckan publicerade Facebook-sidan “Underbar” en bild på en äldre dam tillsammans med en historia om hennes ensamma liv.

Jag köpte en tårta till mig själv på min födelsedag – men ingen kom.
Idag är det min 97:e födelsedag.
Jag vaknade utan ljus, utan kort, utan samtal.

Utdrag ur inlägg på Facebook 16 maj

Kvinnan berättar om en son som inte hört av sig på fem år och om en ensam och sorglig födelsedag.

Men bilden är AI-genererad och historien är uppdiktad.

Inlägget har hittills fått nära 3 000 interaktioner.

Många gratulerar damen på födelsedagen och skickar olika hälsningar i kommentarsfältet. En del försöker påpeka att det rör sig om en fejkad historia.

Andra säger att det inte spelar någon roll. Några tycker att man lätt kan se att det är en påhittad berättelse.

Men alla hänger inte med på det. I kommentarsfältet märks att många utgår från att historien är verklig och kommer med olika råd.

En person undrar var hon bor och erbjuder sig att komma och fika. Någon uppmanar henne att gå med i Pensionärernas riksorganisation, PRO. En annan tycker att hon ska stryka sonen ur sitt testamente.

“Meeen gud jag svimmar. Blir så ledsen. Vad finns det för människor och vad är det för fel på ens barn! Så ledsen för din skull”, skriver en kvinna.

Klicksida ligger bakom

Bilden på kvinnan är AI-genererad och hennes historia är publicerad av en sida vars syfte är att skapa engagemang i sociala medier för att tjäna pengar. Samma historia, fast på engelska, finns på ett stort antal ställen på nätet, exempelvis på Facebook-sidan “I Love Chihuahuas”.

Vi går igenom hur de här inläggen sprids och hur du själv kan undersöka Facebook-sidor innan du delar fejkade bilder och historier.

Hitta ledtrådar i inlägget

Först, ställ dig själv frågan: kan det här vara påhittat eller fejkat? Läs igenom texten ordentligt. Finns det ledtrådar? Namn, platser, någon konkret beskrivning av en händelse som du kan söka vidare på?

► Guide: Sökmotor-tricks för dig som letar svar på nätet

I fallet med damen och tårtan får vi minimalt med uppgifter. Vi får inte veta hennes namn eller var hon bor, bara att hon är 97 år. Det i sig är ett varningstecken. Den som vill skriva en historia som inte går att kolla utelämnar gärna detaljer som går att kontrollera.

Leta även i kommentarsfältet till inlägg. Just i det här fallet har klicksidan lagt upp en länk till en artikel, som är en version av samma historia.

Om man jämför Facebook-inlägget och artikeln, med exempelvis en jämföringstjänst på nätet, så ser man en mängd små skillnader i texten.

Det här är troligtvis ett tecken på att texten AI-genererats med målet att få fram en variant av samma text. Om en text bara kopieras och sprids i mängder så finns nämligen en risk att den blockeras av sociala medier-plattformarna.

Kolla sajten

Gör en whois-sökning. Googla på whois och välj en tjänst. Då kan du exempelvis få se när sajten skapades och var den är registrerad. Gäller det i stället en sajt med slutledet .se så kan du söka på Internetstiftelsens domänsöktjänst.

Sajten som Facebook-sidan “Underbar” länkar till heter Pandanino.net och är registrerad i Armenien. Den publicerar texter på svenska och franska för tillfället – och ser mycket snarlik ut andra klicksidor runtom i världen.

Om man i stället går till Facebook-sidan “Underbar” och klickar på fliken Sidtransparens så syns länken Mediainfo.su. Den ändelsen står för Sovjetunionen och sköts av det ryska institutet RIPN.

Kolla upp Facebook-sidan

Gå också igenom själva Facebook-sidan.

•  Kolla om sidan är nystartad.

•  Kolla antalet följare.

•  Är det exempelvis ett känt varumärke eller en organisation? Sök på dess namn på plattformen du befinner dig på för att dubbelkolla så att det inte är en kopia.

•  Om avsändaren är mindre känd så kolla upp namnet på nätet. Vad säger andra om den här aktören?

•  För att se när en sida startats, om den ändrat namn och vilka länder som sidan sköts från kan du klicka på rutan “Sidtransparens”.

• Här kan du också kolla vilka annonser sidan har kört. Under Sidtransparens-fliken hittar du en länk till Facebooks annonsbibliotek där du kan se alla annonser som en Facebook-sida lagt ut. Där kan du söka på formuleringar i en sökruta. Välj Sverige och alla annonser.

När det gäller sidan “Underbar” så startades den i somras och styrs från Armenien. Där publiceras olika sorters historier, ofta där det är synd om någon. Den här bilden delades i fredags med beskrivningen “MIN PAPPA ÖVERGAV MIG NÄR JAG BLEV FUNKTIONSVARIERAD”:

Kolla bilderna

Det första steget är att söka på bilden. Vi går igenom i detalj hur du gör det här! Det kan också röra sig om en AI-genererad bild, och ibland har de inte lagts upp någon annanstans på nätet tidigare.

Det är inte alltid lätt att se igenom AI-genererade bilder, men det finns tecken man kan leta efter. Bilderna ser ofta ganska slätstrukna ut, ibland blir det fel i detaljer kring svåra områden som öron och händer och AI har generellt problem att skapa trovärdiga skyltar eller loggor.

I bilden på den 97-åriga damen kan man zooma in på ögonen och se att glaset i glasögonen ser ganska märkligt ut.

Även öronen ser konstiga ut, de sitter olika högt och i det ena örat kan anas ett örhänge, men inte på andra sidan.

I kanterna syns en oskärpa som också är en ledtråd. Skärpa och oskärpa fördelar sig ofta onaturligt i AI-genererade bilder.

Många liknande historier

När man gjorde en omvänd bildsökning på bilden av den 97-åriga damen så dök den upp på andra sajter. Och eftersom vi misstänker att det är något skumt med den här historien så sökte vi helt enkelt på en beskrivning av den här bilden och historien. De exakta orden vi sökte på i det här fallet var “elderly bought cake but no one came”, men man kan testa sig fram.

Fram kom bilden på vår dam i historier på andra språk, men även flera andra snarlika historier med andra äldre personer.

Facebook-sidan “Underbar” använder också flera varianter på samma sorts historia. “Ingen från hennes familj dök upp till vår äldre stammis födelsedag på caféet, men jag försökte ordna det”, börjar den här historien från 20 maj:

Sammantaget: Bilden på kvinnan är framtagen av en sida som försöker få trafik genom människors engagemang i rörande berättelser. Både texter och bilder bär tydliga tecken på att vara AI-genererade och massframställda.

Här hittar du våra andra guider och artiklar om AI och bedrägerier:

► Muslimska mannen med “helgmust” är AI-genererad
► Svenska experter deepfejkade i bluffvideo om covid-19-vaccin
► AI-genererad bild sprids – påstås vara Imane Khelif

Har du tips om saker du vill att vi ska granska så hör av dig!