Op Instagram groeit een account razendsnel naar zo’n 150.000 volgers met korte AI-video’s waarin bekende Nederlanders en politici negatief worden geportretteerd. Het account wordt door de makers gezien als satire. Veel volgers weten dat de beelden niet echt zijn. Toch is er reden tot zorg. Niet zozeer om de AI-beelden zelf, maar om wat ze losmaken: haatdragende reacties op Instagram nemen onder deze video’s snel toe.
Satire of vrijbrief voor haat?
Satire mag schuren. Dat doet het al jaren op televisie en online. De makers van het account (dat volgens henzelf is geïnspireerd op formats als LuckyTV) zeggen geen kwade bedoelingen te hebben. Ze verdienen er niets aan en zien het als een creatieve hobby. Dat vertellen zij ook in een recent artikel over het populaire Instagramaccount met AI-video’s.
Maar onder de video’s gebeurt iets anders. In de reacties verschijnen grove beledigingen, homofobe uitspraken en expliciete haat richting publieke figuren en minderheidsgroepen. Voor veel jongeren zijn dit geen losse opmerkingen meer, maar een aaneenschakeling van extremere reacties die steeds normaler lijken te worden.
De reacties zijn het echte probleem
Juist hier zit de kern van het probleem. Haatdragende reacties op Instagram zorgen voor normvervaging. Jongeren lezen mee. Ze zien duizenden likes op kwetsende opmerkingen. Daardoor kan het idee ontstaan dat dit ‘erbij hoort’. Of erger nog: dat dit acceptabel gedrag is.
Het maakt daarbij weinig verschil of de video’s als satire bedoeld zijn en/of gemaakt zijn door middel van AI. De reacties leven een eigen leven. De stap van grap naar belediging is klein. De stap van belediging naar ontmenselijking soms nog kleiner.
Van entertainment naar misleiding
Niet alleen in de entertainmentwereld klinken zorgen. Ook in Den Haag worden vragen gesteld. Politici worden in de AI-video’s vaak grof en karikaturaal neergezet. Deskundigen waarschuwen dat dit soort content de kans vergroot op nepnieuws en misleiding. Zeker bij jongeren die moeite hebben om feit en fictie te scheiden, kan herhaling van zulke beelden én reacties het beeld van de werkelijkheid vervormen.
Daarbij versterken haatdragende reacties op Instagram algoritmes. Hoe extremer de reactie, hoe meer bereik. Zo ontstaat een vicieuze cirkel waarin polarisatie loont.
Voor jongeren is Instagram een belangrijke sociale omgeving. Wat zij daar zien, beïnvloedt hun taalgebruik, hun normen en hun kijk op anderen. Als haatdragende reacties de boventoon voeren, kan dit leiden tot minder empathie en meer online agressie. Bovendien voelen jongeren die zelf tot een doelwitgroep behoren zich sneller onveilig of buitengesloten.
Wat wij als Voorlichting op Scholen zien
Bij Voorlichting op Scholen merken wij dat gesprekken over online gedrag steeds urgenter worden. Jongeren worstelen met vragen als: Wat mag je zeggen? Wanneer is iets een grap? En wat doe je als iedereen meedoet? Juist daarom is het belangrijk om niet alleen te praten over AI of nepbeelden, maar vooral over de impact van reacties en groepsdruk online.
In onze voorlichting voor leerlingen, ouderavonden en docententrainingen gaan wij in op online normvervaging, haatspraak en de rol van sociale media. We leren jongeren kritisch kijken, verantwoordelijkheid nemen en grenzen herkennen bij zichzelf én bij anderen.