Politie waarschuwt in viral bericht: AI maakt stickers op kinderfoto’s zinloos

Gezicht kind afschermen met een emoji

Je dochter op haar eerste loopfiets of je zoon die aan het zwemmen is: het zijn momenten die trotse ouders graag delen op social media. Om de privacy te waarborgen, schermen ouders vaak het gezicht van hun kind af met een emoji. Toch is dat niet genoeg als je de privacy van je kind wilt beschermen. "De realiteit is dat deze manier van beschermen in het huidige AI-tijdperk niet meer werkt", waarschuwt de politie Zuidoost Fryslân in een Facebookbericht dat inmiddels viral is gegaan.

"Sterker nog, stickers kunnen juist een extra herkenningspunt worden voor AI", gaat het in het bericht verder. "Moderne AI-systemen zijn in staat om ontbrekende informatie te reconstrueren. Lege pixels worden ingevuld op basis van patronen, context, eerdere beelden, lichaamshouding, haarlijn, omgeving en metadata. Een afgedekt gezicht of lichaamsdeel betekent niet dat de rest van de foto onbruikbaar is voor analyse."

{{ trans('customs.newsletter_signup.responsemsg') }}

{{ trans('customs.buttons.signup') }}

Vul een geldig emailadres in. {{ errors . email[0] }}

Bad- en strandbeelden zijn extra zorgelijk

De politie waarschuwt dat het extra zorgelijk is als je een foto deelt waarbij je kindje in bad zit en de geslachtsdelen met een sticker bedekt. "Dit gebeurt met de beste bedoelingen, maar juist dit type beeld is extreem gevoelig. Het feit dat iemand ervoor kiest een sticker te plaatsen, geeft al context weg. Voor AI is zo’n sticker geen blokkade, maar een signaal. Het markeert een plek waar iets wordt verborgen en kan juist helpen bij het zoeken, classificeren of reconstrueren van vergelijkbaar beeldmateriaal op het darkweb."

Als je de privacy van je kind wilt beschermen, is het volgens de politie niet genoeg om simpelweg gezichten of geslachtsdelen af te plakken. "Waar wij geruststelling voelen omdat iets is afgedekt, ziet een algoritme patronen, verhoudingen en ontbrekende informatie die met grote nauwkeurigheid kan worden aangevuld. Met slechts een paar foto’s van sociale media zijn systemen tegenwoordig in staat om zeer realistische beelden te genereren. Daar is geen technische kennis meer voor nodig en veel tools zijn vrij beschikbaar."

De politie voegt daaraan toe dat een groot deel van de internationale deepfake- en AI-gemanipuleerde content een seksuele component heeft, waarbij minderjarigen onevenredig vaak het slachtoffer zijn.

Bewustwording

Met dit bericht wil de politie ouders geen angst aanjagen, maar hen bewust maken dat een sticker of ander afplakmiddel geen bescherming is tegen AI. "De belangrijkste bescherming blijft de afweging die je maakt vóórdat je deelt." Vraag je daarom af voordat je een foto deelt wie de foto kan zien, waar deze terechtkomt en of je deze foto überhaupt wel wil plaatsen. "Misschien is de belangrijkste vraag niet hoe we iets afplakken, maar of we het wel moeten plaatsen.