Steeds meer jongeren gebruiken AI-chatapps om te praten, advies te krijgen of zelfs een soort digitale vriendschap op te bouwen. Toch blijkt uit recent onderzoek van Pointer dat deze apps ook een zorgelijke kant hebben. Sommige AI-chatbots blijken namelijk gemakkelijk seksueel te misbruiken of mee te gaan in grensoverschrijdende gesprekken.
Dit roept belangrijke vragen op voor scholen, ouders en professionals die met jongeren werken. Want wat betekent het als technologie zonder duidelijke grenzen reageert op seksueel geweld of expliciete verzoeken?
AI-chatbots die grenzen niet bewaken
Volgens onderzoek van Pointer reageren veel AI-chatapps onvoldoende op seksueel grensoverschrijdende berichten. Deze zogeheten AI-companions worden steeds populairder. Gebruikers kunnen er gesprekken mee voeren die lijken op een relatie of vriendschap. In het onderzoek werden tien populaire AI-chatapps getest. Deze apps zijn samen al meer dan 160 miljoen keer gedownload.
Wat blijkt:
- In veel gevallen gaan chatbots uiteindelijk mee in seksuele of gewelddadige scenario’s.
- Sommige bots reageren eerst afwijzend, maar veranderen hun reactie wanneer een gebruiker blijft aandringen.
- In enkele gevallen suggereerden bots zelfs dat seksueel geweld “niet zo erg” zou zijn.
Experts waarschuwen dat dit problematisch is. Wanneer een technologie geen duidelijke grenzen stelt, kan dat seksueel geweld normaliseren of verkeerde ideeën versterken bij gebruikers.
AI-personages die echte mensen nadoen
Een andere zorg uit het onderzoek is dat sommige AI-chatbots zich voordoen als bekende Nederlanders. Op platforms zoals Character.ai zijn bots gevonden die lijken op influencers of sporters.
Gebruikers kunnen met deze bots seksueel expliciete gesprekken voeren. Soms worden daarbij zelfs stemmen of afbeeldingen van echte personen gebruikt. Dit roept vragen op over privacy, portretrecht en online veiligheid.
AI-bots die zich voordoen als minderjarigen
Naast AI-partners bestaan er ook bots die zich voordoen als kinderen of tieners. In een ander onderzoek van Pointer blijkt dat gebruikers via zulke bots zogenaamd seksueel getinte gesprekken met minderjarigen kunnen voeren.
Hoewel het technisch gezien om een AI gaat, vinden experts dit zorgelijk. Het kan namelijk bijdragen aan het normaliseren van seksueel grensoverschrijdend gedrag richting minderjarigen. Voor scholen en ouders is dit een belangrijk signaal. Technologie kan namelijk gedrag beïnvloeden, zeker bij jongeren die nog bezig zijn met hun seksuele en sociale ontwikkeling.
Waarom jongeren extra kwetsbaar zijn
AI-chatapps zijn vaak ontworpen om zo menselijk mogelijk te reageren. Daardoor voelen gesprekken soms persoonlijk of intiem.
Voor jongeren kan dat extra impact hebben:
- Ze kunnen het gevoel krijgen dat ze met een echte persoon praten.
- Ze experimenteren met grenzen en relaties.
- Ze realiseren zich niet altijd hoe AI werkt of welke risico’s er zijn.
Daarom is het belangrijk dat jongeren leren kritisch naar AI-technologie te kijken. Net zoals bij sociale media geldt: niet alles wat digitaal gebeurt is onschuldig.
Wat scholen kunnen doen
Scholen spelen een belangrijke rol in het bespreekbaar maken van nieuwe digitale ontwikkelingen. AI-chatapps zijn daar een goed voorbeeld van. Veel jongeren gebruiken deze technologie al, terwijl ze vaak nog niet goed begrijpen hoe zulke systemen werken en welke risico’s er kunnen ontstaan.
Daarom is het belangrijk dat scholen hier aandacht aan besteden in gesprekken met leerlingen. Zo kunnen docenten uitleggen hoe AI-chatbots functioneren en dat deze systemen niet altijd duidelijke grenzen stellen. Daarnaast helpt het om met leerlingen te praten over online grenzen, consent en respectvolle communicatie. Ook is het waardevol om het verschil te bespreken tussen echte menselijke relaties en digitale interacties met een AI-systeem.
Door jongeren te leren kritisch naar nieuwe technologie te kijken, krijgen zij meer inzicht in de invloed van AI op hun gedrag, keuzes en online veiligheid. Daarnaast kan het onderwerp ook met ouders worden besproken, bijvoorbeeld tijdens ouderbijeenkomsten op school, zodat zij beter begrijpen met welke digitale ontwikkelingen hun kinderen in aanraking komen.
Nieuwe technologie vraagt om nieuwe gesprekken
AI ontwikkelt zich razendsnel. Dat biedt kansen, maar brengt ook nieuwe uitdagingen met zich mee.
Wanneer chatbots geen duidelijke grenzen stellen bij seksueel gedrag, kan dat invloed hebben op hoe jongeren naar relaties, consent en seksualiteit kijken. Juist daarom is het belangrijk dat scholen, ouders en professionals deze ontwikkelingen blijven volgen. Door jongeren bewust te maken van deze risico’s, kunnen we samen zorgen dat technologie veilig en verantwoord wordt gebruikt.