Steeds meer jongeren gebruiken AI-chatbots zoals ChatGPT om vragen te stellen, informatie op te zoeken of persoonlijke onderwerpen te bespreken. Maar wat gebeurt er wanneer een chatbot een gesprek als mogelijk gevaarlijk beoordeelt? OpenAI, het bedrijf achter ChatGPT, kondigde op 30 oktober 2026 nieuwe veiligheidsmaatregelen aan voor gesprekken waarin signalen van mogelijk ernstig geweld voorkomen.
Met deze maatregelen wil OpenAI niet alleen afzonderlijke vragen beoordelen, maar ook rekening houden met eerdere gesprekken en de vermoedelijke leeftijd van gebruikers. Wat betekent dit voor jongeren die AI gebruiken? En hoe kunnen ouders en scholen reageren wanneer een chatbot een gesprek beëindigt of een account tijdelijk blokkeert?
Waarom kan ChatGPT een gesprek afbreken?
AI-chatbots beschikken over veiligheidsregels die bepalen welke informatie ze wel en niet mogen geven. Zo kunnen ze weigeren om instructies te verstrekken die gebruikt kunnen worden om anderen schade toe te brengen. Tot nu toe lag de nadruk bij veel van deze maatregelen op de inhoud van afzonderlijke vragen en antwoorden.
OpenAI heeft aangekondigd de beoordeling van bepaalde gesprekspatronen verder uit te breiden. Wanneer uit recente gesprekken signalen naar voren komen dat iemand mogelijk gefixeerd raakt op ernstig geweld, kan ChatGPT voorzichtiger reageren. Het systeem kan bijvoorbeeld bepaalde informatie weigeren of een gesprek beëindigen. Bij herhaalde signalen kan ook een tijdelijke accountpauze volgen.
Het gaat hierbij om een veiligheidsmaatregel van het platform zelf. Een chatbot stelt geen diagnose en kan niet zelfstandig vaststellen of iemand daadwerkelijk van plan is geweld te gebruiken. Ook is nog niet onafhankelijk vastgesteld hoe betrouwbaar deze nieuwe maatregelen in de praktijk zijn.
Hoe herkent een AI-chatbot mogelijk risicovolle gesprekken?
Een belangrijk onderdeel van de aangekondigde maatregelen is dat ChatGPT niet uitsluitend naar één losse vraag kijkt. Ook de context van recente gesprekken kan worden meegenomen bij het bepalen van een reactie.
Dat onderscheid is relevant. Een jongere die voor een schoolopdracht informatie zoekt over een historische gebeurtenis, stelt mogelijk vragen over geweld zonder schadelijke bedoelingen. Een andere gebruiker kan gedurende meerdere gesprekken steeds specifiekere vragen stellen over het uitvoeren van gewelddadige handelingen. Hoewel sommige vragen op elkaar lijken, kan de context sterk verschillen.
Door gesprekspatronen mee te wegen, probeert OpenAI beter onderscheid te maken tussen verschillende situaties. Tegelijkertijd blijft het mogelijk dat een systeem vragen verkeerd interpreteert. De precieze werking van de detectie is niet volledig openbaar en onafhankelijke cijfers over onterechte blokkades zijn nog niet beschikbaar.
Welke extra veiligheidsmaatregelen gelden voor jongeren?
Voor gebruikers die vermoedelijk minderjarig zijn, kondigde OpenAI aanvullende beperkingen aan. Zo moet ChatGPT terughoudender worden met praktische informatie over wapens en beveiligingssystemen. Deze beperkingen kunnen ook gelden wanneer een afzonderlijke vraag op zichzelf onschuldig lijkt.
Daarmee speelt de vermoedelijke leeftijd van een gebruiker een grotere rol bij het bepalen welke antwoorden worden gegeven. Het systeem kan dus anders reageren op vergelijkbare vragen van een minderjarige en een volwassene.
OpenAI wil ouders in de toekomst daarnaast kunnen informeren wanneer een gekoppeld tieneraccount vanwege herhaalde gesprekken over mogelijk geweld tijdelijk wordt gepauzeerd. Deze mogelijkheid is onderdeel van de aangekondigde verdere ontwikkeling van ouderlijk toezicht. Dat betekent niet dat ouders automatisch toegang krijgen tot alle gesprekken van hun kind.
De nieuwe maatregelen worden volgens OpenAI gefaseerd ingevoerd. Daardoor kunnen de mogelijkheden en beperkingen per gebruiker verschillen.
Betekent een geblokkeerd AI-account dat een jongere gevaarlijk gedrag vertoont?
Een tijdelijke blokkade of beëindigd gesprek is op zichzelf geen bewijs dat een jongere gevaarlijk gedrag vertoont. AI-systemen beoordelen informatie aan de hand van technische modellen en veiligheidsregels. Daarbij kunnen misverstanden ontstaan, bijvoorbeeld doordat vragen onvoldoende context bevatten of doordat bepaalde woorden op verschillende manieren kunnen worden geïnterpreteerd.
Jongeren kunnen bovendien uit nieuwsgierigheid vragen stellen over onderwerpen zoals geweld, criminaliteit of maatschappelijke gebeurtenissen. Ook schoolopdrachten, fictieve verhalen en gesprekken over nieuwsberichten kunnen aanleiding zijn om dergelijke onderwerpen met een chatbot te bespreken.
Daarom is het belangrijk dat ouders en onderwijsprofessionals niet uitsluitend afgaan op een melding van een AI-platform. De aanleiding, context en eventuele andere signalen zijn nodig om een situatie goed te begrijpen. Een technische veiligheidsmelding is geen vervanging voor een gesprek met de jongere.
Wat kunnen ouders doen als ChatGPT een gesprek blokkeert?
Wanneer een jongere vertelt dat ChatGPT een gesprek heeft afgebroken of een account heeft gepauzeerd, kan dat vragen of zorgen oproepen. Een rustige reactie helpt om te achterhalen wat er precies is gebeurd, zonder direct conclusies te trekken.
Ouders kunnen bijvoorbeeld vragen wat hun kind wilde weten, waarom die vraag werd gesteld en welke reactie de chatbot gaf. Daarbij is het belangrijk onderscheid te maken tussen nieuwsgierigheid, een misverstand en eventuele zorgen die een jongere zelf ervaart.
Ook biedt zo’n situatie een aanleiding om te bespreken hoe AI-systemen werken. Chatbots kunnen antwoorden weigeren op basis van veiligheidsregels, maar begrijpen de bedoelingen van een gebruiker niet op dezelfde manier als mensen. Een weigering betekent daarom niet automatisch dat iemand iets verkeerd heeft gedaan.
Wanneer een jongere daadwerkelijk uitspraken doet over het willen verwonden van zichzelf of anderen, is het belangrijk deze serieus te nemen. In dat geval gaat het niet meer uitsluitend om het gebruik van AI, maar om de veiligheid en het welzijn van de jongere en de omgeving.
Welke rol hebben scholen bij signalen vanuit AI?
Ook binnen het voortgezet onderwijs en mbo kunnen leerlingen AI-chatbots gebruiken voor schoolopdrachten, persoonlijke vragen of het verkennen van gevoelige onderwerpen. Daardoor kunnen mentoren en andere onderwijsprofessionals te maken krijgen met leerlingen die vertellen dat hun AI-account is geblokkeerd.
Een dergelijke melding hoeft niet direct aanleiding te zijn voor een veiligheidsprocedure. Het is verstandig om eerst te achterhalen wat er is gebeurd en welke betekenis de situatie voor de leerling heeft. Daarbij kunnen bestaande afspraken binnen de school over leerlingbegeleiding en veiligheid worden gevolgd.
Wanneer er naast de accountblokkade concrete zorgen bestaan over het gedrag, de uitspraken of het welzijn van een leerling, kan overleg met de zorgcoördinator of het ondersteuningsteam passend zijn.
Wat betekenen deze maatregelen voor privacy en toezicht?
De aangekondigde veranderingen roepen ook vragen op over de manier waarop AI-platforms gesprekken beoordelen. Wanneer eerdere gesprekken worden meegenomen in veiligheidsbeslissingen, is het relevant welke informatie daarvoor wordt gebruikt en hoe lang deze beschikbaar blijft.
Voor jongeren speelt daarnaast de verhouding tussen bescherming en privacy. Ouderlijk toezicht kan bijdragen aan veiligheid, maar jongeren hebben ook behoefte aan een omgeving waarin zij vragen kunnen stellen en persoonlijke onderwerpen kunnen verkennen.
Transparantie over veiligheidsmaatregelen is daarom belangrijk. Gebruikers moeten kunnen begrijpen waarom bepaalde beperkingen gelden en welke mogelijkheden er zijn wanneer een systeem een verkeerde inschatting maakt.
De aankondiging van OpenAI geeft nog geen volledig antwoord op alle vragen over de praktische uitvoering en effectiviteit. Meer informatie over de maatregelen is te vinden in het veiligheidsbericht van OpenAI van 30 oktober 2026.
AI-veiligheid vraagt om meer dan technische maatregelen
Met de nieuwe veiligheidsmaatregelen wil OpenAI risicovolle gesprekspatronen eerder herkennen en jongeren extra beschermen. Tegelijkertijd blijft het belangrijk om onderscheid te maken tussen een technische waarschuwing en daadwerkelijk zorgwekkend gedrag. Voor ouders en scholen ligt de belangrijkste taak daarom niet bij het interpreteren van een accountblokkade, maar bij het voeren van een open gesprek, het begrijpen van de context en het inschakelen van passende ondersteuning wanneer daar aanleiding voor is.