Honderden AI-apps bevatten stiekem tools voor deepfakes
In de App Store en Play Store staan honderden AI-apps die er onschuldig uitzien. Volgens Bright bevatten ze stiekem de middelen om gewelddadige en seksuele deepfakes te maken. Dat raakt iedereen die zulke apps installeert, en iedereen wiens foto ergens opduikt.
In het kort
- Honderden apps in de App Store en Play Store hebben verborgen functies voor deepfakes.
- Het gaat om tools voor gewelddadige en seksuele deepfakes, die verboden zijn.
- De apps lijken bij het installeren gewoon onschuldig.
- Onderzoek naar deze apps komt van Bright.
Wat er in de apps zit
De apps zien er bij het openen uit als gewone AI-tools. Denk aan apps die foto's bewerken of beelden genereren. Achter die oppervlakte zitten functies die je niet meteen ziet.
Daarmee kun je deepfakes maken met geweld of seksuele inhoud. Zulke beelden zijn in Nederland en de EU verboden zodra er iemand herkenbaar in staat zonder toestemming. De apps omzeilen dat door de optie pas later te tonen.
Het aantal loopt in de honderden, meldt Bright. Om welke apps het precies gaat, is nog niet volledig bekend.
Waarom dit lastig te controleren is
Apple en Google keuren apps voor ze in de winkel komen. Een verborgen functie valt daarbij lastig te zien. De app kan zich netjes gedragen tijdens de keuring en pas later de extra optie aanzetten.
Gebruikers merken er weinig van tot ze diep in de app zitten. De risico's zijn groot: je foto kan zonder jouw weten in een neppe video belanden. Voor slachtoffers is het lastig om zo'n beeld weer weg te krijgen.
Wat de wet in Nederland zegt
Het maken en verspreiden van seksuele deepfakes van een herkenbaar persoon is strafbaar. Sinds kort staat ook het maken van zulke beelden zonder verspreiding onder druk. Slachtoffers kunnen aangifte doen.
Bij gewelddadige deepfakes speelt daarnaast smaad en bedreiging een rol. De app zelf is niet meteen illegaal, het gebruik kan dat wel zijn. Makers van zulke apps lopen in de EU ook tegen de AI-wet aan, die transparantie eist.
Wat betekent dit voor Nederland?
Voor Nederlanders betekent dit vooral oppassen met gratis AI-apps die foto's of video's bewerken. Controleer de rechten die zo'n app vraagt en gebruik je eigen beeld niet zomaar. Bedrijven die medewerkers of klanten op beeld hebben, doen er goed aan na te gaan welke tools zij toestaan. Komt jouw foto in een neppe video terecht, dan kun je bij de politie aangifte doen en bij het platform om verwijdering vragen.
Honderden apps die er onschuldig uitzien en stiekem deepfakes bakken, dat is precies waarom ik geen geldknop aan een app geef zonder te weten wat hij doet. Bij AI hoort de mens aan de knoppen te zitten, en bij dit soort apps zit er niemand aan de knop. Installeer alleen wat je zelf kunt uitlezen, de rest is een gok met je eigen foto's.
Veelgestelde vragen
Zijn deepfakes in Nederland verboden?
Seksuele deepfakes van een herkenbaar persoon zijn strafbaar. Ook gewelddadige neppe beelden kunnen onder smaad of bedreiging vallen.
Hoe herken ik een AI-app met verborgen deepfake-tools?
Dat is lastig. Let op apps die pas na betaling of na een paar dagen extra functies tonen, en op vreemde rechten voor je foto's.
Wat kan ik doen als er een deepfake van mij opduikt?
Vraag het platform om verwijdering en doe aangifte bij de politie. Bewaar het beeld en de link als bewijs.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.