Mängder med deepfejkade videor med svenska kändisar sprids via annonsystemet till Meta, Facebooks ägarbolag. Just nu figurerar kungafamiljen och statsminster Ulf Kristersson i bluffarna.

För att “komma igång” måste offren skicka motsvarande cirka 2 500 kronor till bedragarna och sedan lockas man ge ifrån sig kontrollen över sin dator och skicka stora belopp pengar. I vissa fall har enskilda drabbade svindlats på långt över en miljon kronor.

Just nu sprids annonser som ska suga in människor i bluffen – så här fungerar det:

Från start till mål

“Det här är slutet på världen som vi känner den”. Så står det i annonsen som sprids med en intetsägande bild på en duva.

I andra fall är det dramatiska manipulerade bilder på blåslagna kändisar som används. Den som klickar på annonsen får se starten på vad som ser ut som en TV4-sändning.

En deepfejkad nyhetsuppläsare säger:

“Människor var upprörda när de fick reda på att Ulf Kristersson har redan i flera månader hemligt tjänat enorma belopp på ett projekt som ursprungligen var avsedd för vanliga medborgare”.

Sedan beskrivs hur mångmiljardären Elon Musk givit svenskarna, som första land i världen, tillgång till en app som man kan tjäna stora pengar på.

Statsminister Ulf Kristersson hörs i det fejkade nyhetsinslaget säga att han och flera i hans närhet redan tjänat pengar på appen. Ett klipp från riksdagen har manipulerats, med dålig läppsynkning för att matcha den pålagda rösten.

Klickar man vidare till sajten som annonsen länkar till så innehåller den stulna element från tidningen Expressen. Det ser i annonsen ut som att man ska komma till “expressen.se” men man kommer i själva verket till domänen “organisation.tinyhouse-design.com”.

Så här ser det ut:

Bedragarna blandar även in fler beståndsdelar från stora svenska medier, exempelvis en video med SVT-ankaret Katarina Sandström.

“Artikeln” är reklam för en AI-investeringsplattform som heter Immediate bitwave och det står att Sveriges statsminister “Ulf Christersson” har fattat “det viktiga beslutet om finansiering av plattformen”.

Klickar du på länkar till “Immediate bitwave” hamnar du längst ner i artikeln där det finns en registreringsruta som du uppmanas fylla i.

Därefter kommer du att bli uppringd av en bedragare – något som Tjekdets journalist testade och låtsades vara en investeringssugen privatperson. Bedragaren som ringde upp använde andra personers identiteter och falska dokument för att övertyga offret om att det inte handlade om en bluff.

Även journalister på sajten 404 Media har testat att gå med i bluffen och uppmanades då inne i stängda forum att betala pengar.

Det här handlar inte om en enstaka deepfejkad film utan ett dussintal. Ett par av dessa har tagits ner med hänvisning till att de bryter mot Metas regler för annonser.

Filmen som vi beskriver här ovan har i skrivande stund över 106 000 visningar. Många varnar i kommentarsfälten för att det är en bluff, medan enstaka personer ser ut att tro på det som sägs. En skriver att Ulf Kristersson “hann före alla andra”, en annan att den förlorat 2 500 kronor på bedrägeriet.

Utbredd bluffkampanj

Även kungen och kronprinsessan Victoria har de senaste veckorna dykt upp i otaliga liknande deepfejkade videor i bluffannonser på Facebook.

Där ser kungen ut att säga:

“Kära seniorer, kära ungdomar, kära damer och herrar, jag är glad att kunna tillkännage den officiella lanseringen av projektet Immediate edge…”

Till sajten Nyheter24 säger Hovet att de pratat med Facebooks ägarbolag Meta. “Vi är i kontakt med Meta angående annonserna och anmäler dem så snart vi får kännedom om dem. Vi ber även den allmänhet som hör av sig att anmäla de falska annonserna.”

Bluffarna är likartade och gör alla reklam för att människor ska investera pengar i AI-drivna investeringsappar som har namn där ordet Immediate ingår på olika sätt.

I annonserna antyds ofta att något hemskt eller skandalöst har skett med en kändis i fokus. De drar sig inte för att få det att se ut som om personen dött, som i det här fallet med influencern Bianca Ingrosso:

Källkritikbyrån har sedan januari sökt Meta för att ställa frågor om bluffannonserna och de intäkter som företaget får in från bedragarnas annonsköp.

Martin Ruby, Metas policychef i Norden, har svarat danska Tjekdet att man använder AI för att upptäcka bluffannonser och att systemen är bättre än för ett par år sedan.

– Om vi bara kunde ta bort bedragarna på en gång så skulle vi gärna göra det, men det är svårare än man kan tro för stora plattformar som oss.

LÄS MER:
► Kronprinsessan Victoria utnyttjas i AI-bluff – som Meta tjänar på
► Nej, Jenny Strömstedt vill inte visa hur du “blir rik utan att stiga upp ur soffan”
► Guide: Så här navigerar du i Facebooks annonsbibliotek

Notering; Källkritikbyrån samarbetar med Facebook som tredjepartsfaktagranskare. Det innebär att du kan komma att se våra granskningar i anslutning till bilder eller inlägg på plattformen, men samarbetet gäller faktagranskning och inte moderering. Vi kommer alltså inte att kunna hjälpa dig som blivit hackad eller drabbad av bluffar, annat än att vi belyser frågan genom att skriva artiklar om det, på samma sätt som andra medier som rapporterar om hackare och bedrägerier på Facebook. Vill du veta mer om samarbetet så läs här.

Har du tips på saker som du vill att vi ska skriva om så hör av dig!