Bedragare köper Facebook-annonser där kändisar utnyttjas för att locka människor in i investeringsbedrägerier – enligt en dansk granskning kan upplägget ge ägarbolaget Meta hundratals miljoner kronor. Just nu utnyttjas Sveriges kronprinsessa Victoria i bluffen.

Facebook-sidan “Viktiga svenska nyheter” har lagt upp 170 annonser sedan i höstas, de flesta av dem med deepfejkade videor med kronprinsessan – här kan du se hur en sådan ser ut.

Annonserna är del av en omfattande internationell kampanj där målet är att lura in människor i investeringsbedrägerier.

I videorna kan man se Victoria röra på munnen och ut kommer orden:

Kära svenska medborgare, det är med stor glädje jag delar med mig av den glada nyheten om den officiella lanseringen av investeringsplattformen Immediate edge som utvecklats tillsammans med Sveriges riksdag.

Nu kan varje svensk medborgare tjäna mer än 50 000 kronor per månad från sitt eget hem genom att köpa 20 aktier till ett värde av 2 700 kronor.

Ur AI-genererad bluffilm på Facebook

Men det hela rör sig alltså om ett välkänt bluffupplägg – kändisar utnyttjas för uppmärksamhet, i många fall med AI-genererade eller manipulerade bilder där de ser blåslagna ut. Annonserna leder till fejkade nyhetssidor där kändisen påstås berätta om knep för att bli rik.

Knepen i det här fallet är en slags AI-driven investeringsplattform, en tjänst som offren uppmanas att köpa och senare investera pengar i.

Själva Facebook-sidan “Viktiga svenska nyheter” startades med ett persiskt uttryck som namn “Javānān-e Nabī al-Raḥmah” 2017 och innehållet var då på persiska. I november bytte sidan namn till “Viktiga svenska nyheter” och har sedan dess lagt upp ett par AI-genererade bilder, förutom de 170 bluffannonserna. Den styrs från Filippinerna och Vietnam.

Du kan själv kontrollera vad en Facebook-sida har lagt upp för annonser genom att använda Facebooks annonsbibliotek. I den här guiden lär vi dig hur du gör det!

“Viktiga svenska nyheter” är bara en Facebook-sida som gör detta – på plattformen sprids enorma mängder med likartade annonser på ett stort antal språk. Källkritikbyrån har rapporterat om bluffarna och våra danska faktagranskarkollegor Tjekdet har nyligen gjort en stor genomgång.

Bedragarna betalar Facebook

Meta, som bland annat äger Facebook och Instagram, har fått skarp kritik, inte bara för att bedrägerierna ligger kvar, trots att människor anmäler dem – utan för att man tjänar stora pengar på bluffannonserna.

Tjekdet har gjort beräkningar på bluffannonser som handlar om en specifik dansk kändis i en dryg vecka i januari. Det handlade om över 500 annonser och dessa har dykt upp i människors Facebook-flöden över 670 000 gånger under den här perioden.

Annonsörer betalar Meta för räckvidd – ju mer pengar, desto större “reach”, alltså desto fler människor når man ut till med sin reklam. Tjekdet bad experter på marknadsföring att uppskatta vad bedragarna kan ha fått betala för den här räckvidden och kom fram till att Meta tjänat motsvarande kring 340 000 svenska kronor på de här 500 annonserna.

Tjekdet har i sin granskning hittat totalt över 9 000 bluffannonser om samma kändis och noterar att med samma pris så skulle Meta tjäna miljontals kronor på bara en av dessa kändisbluffar. I Danmark har Tjekdet identifierat 49 olika kändisar som utnyttjats i bedrägerierna.

– Det här kan lätt bli ett tresiffrigt miljonbelopp om vi tittar på det på en global nivå. Och det säger något om omfattningen på den här bedrägerikarusellen. Det är en stor och välskött verksamhet, säger Peter Kruse, en expert på cybersäkerhet som följt kändisbedrägerierna i åratal, till Tjekdet.

Kritiska drabbade

Många kändisar har försökt att nå Meta i frågan, men utan att ha fått hjälp och TV4 har rapporterat om att över 500 personer stämt Facebook Sweden för att inte göra nog mot bedrägerierna.

Bedragarna skaffar sig tillgång till stora Facebook-sidor bland annat genom att hacka dem. Källkritikbyrån kontaktade i vintras en av Facebook-sidornas ägare – Science Cara, en vetenskapsprofil med det verkliga namnet Cara Santa Maria – och det visade sig att sidan blivit hackad.

– Det stämmer att vi inte längre har kontroll över Caras Facebook-sida. Vi blev lurade att aktivera något som tillät dem att ta kontroll och låsa oss ute. Vi har varit i kontakt med Meta, men supporten är seg på gränsen till obefintlig, svarade representanter för Cara Santa Maria.

I dag har bedragarna fortfarande kontroll över Facebook-sidan, trots att Källkritikbyrån meddelat Meta att sidan är hackad. Den skickar i skrivande stund ut bluffannonser.

Källkritikbyrån har liksom andra medier försökt att nå Meta för att få svar på frågor om de här bluffarna, däribland TV4 21.30 in i det här inslaget.

Metas svar

Till danska Tjekdet säger Martin Ruby, Metas policychef i Norden, att man använder AI för att upptäcka bluffannonser och att systemen är bättre än för ett par år sedan.

– Vi har inget som helst intresse av att ha den sortens annonser på våra plattformar, då de förstör upplevelsen för våra användare och lockar dem till bluffbudskap. Pengarna som bedragarna betalar för annonserna vill vi väldigt gärna slippa, de väger på inget sätt upp för den dåliga publiciteten som våra plattformar får till följd av det här.

Enligt Martin Ruby på Meta är det helt enkelt för svårt att bli av med bedragarna.

– Om vi bara kunde ta bort bedragarna på en gång så skulle vi gärna göra det, men det är svårare än man kan tro för stora plattformar som oss.

Meta har länge fått kritik för undlåtenhet att stoppa kändisbluffannonser.

– Det är uppenbart att varken Meta eller Google gör allt de skulle kunna för att sätta stopp för annonserna, säger Dagens nyheters techreporter Linus Larsson till Källkritikbyrån.

– De skulle kunna införa striktare förhandsgranskning och hårdare kontroller. Vi ser till exempel samma kändisar dyka upp i annons efter annons, självklart har de ansiktsigenkänningssystem som skulle kunna rödflagga dem. Men kanske skulle de ha svårt att stoppa dem helt utan att nagga sitt framgångsrecept i kanten. Kanske skulle inte annonsköpen kunna vara fullt så automatiska och snabba som i dag.

Linus Larsson påpekar att Meta därmed väljer vinsten – drygt 400 miljarder kronor 2023 – över att skydda användarna i en kommentar i Dagens nyheter.

– Antagligen ser de inte bedrägerierna som ett tillräckligt stort problem för att agera på allvar, säger Larsson.

LÄS MER:
► Guide: Så kollar du upp en bluffannons på Facebook
► Birgitta föll för Lidl-bluffen: Jag blev så arg på mig själv
► Detta händer när du går på bedrägerier på Facebook
► Stora listan över bedragarnas metoder på Facebook

Notering; Källkritikbyrån samarbetar med Facebook som tredjepartsfaktagranskare. Det innebär att du kan komma att se våra granskningar i anslutning till bilder eller inlägg på plattformen, men samarbetet gäller faktagranskning och inte moderering. Vi kommer alltså inte att kunna hjälpa dig som blivit hackad eller drabbad av bluffar, annat än att vi belyser frågan genom att skriva artiklar om det, på samma sätt som andra medier som rapporterar om hackare och bedrägerier på Facebook. Vill du veta mer om samarbetet så läs här.

Har du tips på saker som du vill att vi ska skriva om så hör av dig!