7600 Facebook-advertenties voor undress-apps: wat kost een deepfake?

👁 117 keer gelezen

Het verhaal dat Niebezpiecznik beschreef klinkt als een incident, maar de cijfers vertellen iets anders. Een account dat WIRED traceerde op Facebook en Instagram toonde 32 advertenties voor een app waarmee je een foto van een echte persoon kunt uploaden en het gezicht in een gegenereerde seksuele scène kunt plaatsen. Alle 32 advertenties waren uitsluitend gericht op mannen. Geen enkele haalde meer dan tien vertoningen, wat geruststellend klinkt totdat je het vermenigvuldigt: 32 advertenties met maximaal 10 vertoningen betekent hooguit 320 contactmomenten met de boodschap - een microscopisch kleine campagne die toch door de verificatie van Meta kwam. De pagina van de adverteerder was op 3 augustus aangemaakt en had geen enkele volger. Dat verhinderde niet dat er betaalde promotie werd gestart.

Wat kost één valse naaktfoto?

We hebben de prijslijsten bekeken van apps in deze categorie die nog steeds openlijk te vinden zijn. Het businessmodel is overal hetzelfde: een maandabonnement tussen de 10 en 30 dollar, of een creditpakket waarbij één generatie 2 tot 10 credits kost en een pakket van 100 credits ongeveer 10 dollar kost. Bij een maandabonnement van 19,99 dollar dat honderd generaties toestaat, kost één valse naaktfoto 20 cent. In het creditmodel, bij 10 dollar voor honderd credits en vijf credits per afbeelding, kom je uit op 10 dollar voor twintig afbeeldingen, oftewel 50 cent per stuk.

Dit is het belangrijkste cijfer in deze hele kwestie en we vonden het in geen enkele berichtgeving. Het produceren van materiaal dat iemands reputatie op school, op het werk of in een echtscheidingszaak kan vernietigen, kost minder dan een dollar. Ter vergelijking: een enkele rit met het openbaar vervoer in Amsterdam kost 3,40 euro - voor de prijs van één tramrit kun je tussen de zes en zeventien van zulke afbeeldingen genereren.

De andere kant van deze berekening betreft de advertentieschaal. Tech Transparency Project stelde vast dat accounts verbonden aan één Chinees bedrijf 7600 advertenties voor dit soort apps plaatsten, gericht op Europa. Van 210 onderzochte pagina’s hadden er 179 advertenties verwijderd gekregen wegens schending van de regels - dat is 85,2 procent. We zetten deze twee cijfers naast elkaar: 7600 advertenties verdeeld over 210 pagina’s is gemiddeld 36,2 advertenties per pagina, precies dezelfde orde van grootte als de 32 advertenties van het door WIRED beschreven account. Met andere woorden: het beschreven geval is geen uitzondering, het is een statistisch typisch onderdeel van een industrieel uitgevoerde operatie.

Moderatie-effectiviteit is 85 procent, maar die 15 procent telt

Meta verklaart dat elke advertentie vóór publicatie wordt gecontroleerd. In de praktijk doen geautomatiseerde systemen dat, en adverteerders omzeilen ze met een banale truc: de eerste seconden van het materiaal zijn onschuldig, de eigenlijke inhoud verschijnt later. Uit TTP-gegevens blijkt dat 31 van de 210 pagina’s nooit een verwijderde advertentie hadden, en een deel keerde terug naar promotie na eerdere blokkades. Bij 7600 advertenties laat zelfs een effectiviteit van 85 procent ongeveer 1125 advertenties door. Bij gemiddeld tien vertoningen per advertentie zijn dat 11.250 contactmomenten met het aanbod om andermans naaktheid te genereren - en dat alleen al binnen één geïdentificeerde operatie.

Apple verwijderde een dergelijke app uit zijn store, waar deze zich voordeed als een fotobewerkingstool maar na betaling seksuele scenario’s opende. Het bedrijf legt uit dat “niet-toegestane functies mogelijk na verificatie zijn toegevoegd”. Deze verklaring toont de zwakte van het hele app-storemodel: de code wordt geverifieerd op het moment van indiening, niet wat de server drie weken later aan de gebruiker teruggeeft.

Wat je kunt doen als jouw foto al circuleert

De volgorde van acties is belangrijk en de meeste mensen beginnen met de verkeerde stap: schrijven naar de dader. Begin met bewijs: een screenshot met zichtbare URL, datum en tijd, bij voorkeur samen met het hele profiel van de publicerende persoon. Als de inhoud een minderjarige betreft, meld dit dan bij een organisatie die samenwerkt met het INHOPE-netwerk - dit netwerk accepteert anonieme meldingen via een formulier en heeft procedures voor samenwerking met buitenlandse hostingproviders, wat een particulier niet heeft. Doe parallel aangifte bij de politie en vermeld expliciet dat je vervolging wilt - zonder dat verzoek kan de zaak formeel vastlopen.

De derde stap is het platform. Meta heeft een apart formulier voor intieme content die zonder toestemming is gepubliceerd, en voor volwassenen werkt StopNCII.org, dat lokaal op je apparaat een cryptografische hash van de foto maakt en alleen die hash - niet de afbeelding zelf - aan platforms doorgeeft. Voor minderjarigen is er de Take It Down-service van NCMEC. Het is de moeite waard dit te doen, zelfs als het materiaal gegenereerd is - de hash blokkeert verdere uploads van dat specifieke bestand.

Markering van synthetische content wordt verplicht, maar geldt niet voor deze apps

Vanaf 2 augustus 2026 zijn de bepalingen van verordening 2024/1689 (AI Act) over transparantie van kracht, waaronder artikel 50 dat het machineleesbaar markeren van deepfake-content verplicht stelt. Boetes voor schending van transparantieverplichtingen kunnen oplopen tot 15 miljoen euro of 3 procent van de wereldwijde omzet. Het probleem is dat de operatie met 7600 advertenties werd uitgevoerd door een bedrijf van buiten de EU, dat een via de browser toegankelijke app promoot, zonder enige vertegenwoordiger in Europa. Een sanctie opgelegd aan een entiteit die niet te lokaliseren is, blijft een getal in een document, geen consequentie.

Het realistische drukmiddel blijft dus de tussenpersoon. Meta valt als zeer groot platform onder de Digital Services Act, waar de maximale boete 6 procent van de wereldwijde omzet bedraagt. Bij Meta’s inkomsten van ongeveer 164 miljard dollar in 2024 geeft dat een theoretisch plafond van 9,84 miljard dollar. Dat is een cijfer dat de berekening van de moderatieafdeling kan veranderen, in tegenstelling tot het vervolgen van een anonieme adverteerder met een account dat op 3 augustus werd aangemaakt.

Dan blijft er nog een effect over dat geen enkele regelgeving kan herstellen. Als het genereren van een valse opname 50 cent kost, kan elke echte opname worden aangevochten met de bewering “dat is een deepfake“, en omgekeerd. Niebezpiecznik haalt hier het voorbeeld aan van een opname van Netanyahu die men precies met dat argument probeerde te ontkrachten. Zolang bronmarkering niet is ingebouwd in opnameapparatuur, maar alleen vereist is van generators, hebben beide kanten van dit debat argumenten van 50 cent.

Feiten geverifieerd op 20 september 2026. Bronnen: Niebezpiecznik, Tech Transparency Project, WIRED, verordening 2024/1689, StopNCII.org. Eigen berekeningen.

// lees verderTrump wil ‘AI Force’ oprichten met een ‘AI czar’ aan het hoofdNieuwsNSA, CISA en FBI beschuldigen zes Chinese AI-bedrijven van grootschalige modeldiefstalNieuwsSimon Willison waarschuwt tegen ‘greenfield rewrites’ als oplossing voor technische schuldAI-overzicht

Kinetyra