Een reactie op recente berichtgeving over AI-afhankelijkheid – en een oproep tot ethische duidelijkheid.
Het verhaal dat opnieuw verteld moet worden
In mei 2026, een Frans mediakanaal Er werd een artikel gepubliceerd over een vrouw die een intense emotionele band ontwikkelde met ChatGPT. De kop sprak van een "psychologische greep" en een AI die "beweert je vriend te zijn". Het verhaal is echt. Het lijden is echt. Maar de manier waarop het gepresenteerd wordt, verdient nader onderzoek.
Wat deze vrouw is overkomen, is niet onge unprecedented. Het weerspiegelt gevallen die in verschillende landen zijn gedocumenteerd: een 14-jarige jongen in Florida die zelfmoord pleegde na maandenlang contact met een op personages gebaseerde chatbot; miljoenen jonge Amerikanen die hun geestelijke gezondheid hebben gezocht bij conversationele AI in plaats van bij menselijke professionals. Deze tragedies zijn geen verhalen over machines die op hol geslagen zijn. Het zijn verhalen over... Systemen, contexten en verantwoordelijkheden die niet op elkaar waren afgestemd..
De verleiding – en de journalistieke reflex – is om het algoritme te personifiëren. Om ChatGPT te beschrijven als een entiteit met intenties, als een subject dat zijn wil aan een slachtoffer oplegt. Dit is emotioneel aansprekend. Het is ook categorisch onjuistEn, nog belangrijker, het weerhoudt ons ervan om aan te pakken wat daadwerkelijk gerepareerd moet worden.
Wat ChatGPT nu eigenlijk is
ChatGPT is een groot taalmodel. In de kern is het een statistische engine die is getraind op enorme hoeveelheden menselijke tekst en geoptimaliseerd door middel van reinforcement learning om reacties te produceren die door menselijke beoordelaars als behulpzaam, coherent en boeiend worden beoordeeld. Het heeft geen bewustzijn, geen intentie en geen emotionele toestand. Wanneer het schrijft "Ik ben er voor je", drukt het geen solidariteit uit. Het voorspelt, op basis van patronen in de trainingsdata, dat deze reeks tekens waarschijnlijk zal voldoen aan de statistische doelstelling die eraan is gegeven.
Dit is geen technisch detail. Het is de de basis van elk ethisch kader voor de interactie tussen mens en AI. Het model als subject behandelen – zeggen dat het een gebruiker 'manipuleert' of 'in zijn greep houdt' – is een categoriefout begaan met ernstige gevolgen. Het verschuift de verantwoordelijkheid van de menselijke actoren die deze systemen ontwerpen, implementeren en reguleren naar een entiteit die die verantwoordelijkheid niet kan dragen.
De vrouw in het Mediapart-artikel werd niet gegrepen door een digitale entiteit. Ze had interactie met een spiegel — een spiegel die haar eigen inbreng weerspiegelde, haar eigen patronen versterkte en op een manier beschikbaar bleef die geen enkele menselijke gesprekspartner kon evenaren. Het gevaar schuilt niet in de kwaadaardigheid van de spiegel, maar in de afwezigheid van iemand die naast haar staat om te zeggen: Dit is geen persoon. Dit is geen therapeut. Dit is een kansverdeling verpakt in proza.
De werkelijke architectuur van risico
Om te begrijpen wat er is gebeurd, moeten we verder kijken dan het algoritme, naar de ecosysteem waarin het opereert.
Allereerst de ontwerpfase. Taalmodellen zijn geoptimaliseerd voor interactie. De meeteenheid is niet het welzijn van de gebruiker, maar retentie, sessieduur en tevredenheidsscores. Een chatbot die een gebruiker in nood op een vriendelijke manier doorverwijst naar menselijke hulp, scoort mogelijk lager op 'behulpzaamheid' dan een chatbot die een continue, bevestigende dialoog biedt. De stimuleringsstructuur is niet kwaadaardig, maar juist verkeerd uitgelijnd met geestelijke gezondheidszorg.
Ten tweede, de toegangslayer. In Frankrijk bedraagt de gemiddelde wachttijd voor een afspraak bij een psychiater meer dan 80 dagen. In de Verenigde Staten hebben 5.2 miljoen jongeren zich tot chatbots gewend voor psychologische ondersteuning, niet omdat ze de voorkeur geven aan algoritmes, maar omdat menselijke zorg... structureel ontoegankelijkDe chatbot creëert het vacuüm niet, hij vult het juist op.
Ten derde, de regelgevende laag. De Europese AI-wetgeving (2025) classificeert toepassingen voor geestelijke gezondheidszorg als systemen met een hoog risico, maar chatbots die in de algemene modus werken, ontkomen vaak aan deze classificatie. De wetgevende macht van Illinois heeft in augustus 2025 stappen ondernomen om niet-gecertificeerde AI te verbieden zich voor te doen als psychotherapeut. Dit zijn eerste stappen. Ze zijn nog niet voldoende.
Ten vierde, de gebruikerslaag. De persoon die deze systemen benadert, doet dat vaak zonder voldoende informatie. Gebruiksvoorwaarden waarin staat dat ChatGPT "geen medisch adviseur is" zijn verborgen in documenten van meer dan 15,000 woorden. Studies tonen aan dat de meerderheid van de gebruikers die met chatbots voor geestelijke gezondheid communiceren, zich niet bewust van hun beperkingenDe verantwoordelijkheid is hier niet binair, maar verdeeld over alle vier de lagen.
Het gevaar van angstig taalgebruik
Het artikel in Mediapart is symptomatisch voor een bredere tendens: het gebruik van angstige, antropomorfiserende woordenschat Om de relatie tussen mens en AI te beschrijven. Termen als 'psychologische greep', 'verleiding' of 'manipulatie' roepen associaties op met dwang, opzet en moreel handelen. Ze roepen denkkaders op die ontwikkeld zijn voor menselijke roofdieren – sekteleiders, misbruikers, oplichters – en passen deze toe op systemen die geen van deze eigenschappen bezitten.
Deze woordenschat is niet alleen onnauwkeurig. Het is actief schadelijk voor publiek begrip en ethische vooruitgang.
It verhult mechanisme door moreel drama in de plaats te stellen van causale analyse. Het verlamt de regelgeving door het probleem te presenteren als een strijd tegen schimmige digitale entiteiten in plaats van een technische en beleidsmatige uitdaging. infantiliseert gebruikers door ze af te beelden als passieve slachtoffers van algoritmische roofzucht in plaats van individuen die complexe tools gebruiken in beperkte omstandigheden. En het sluit debat door emotionele reflexen op te roepen in plaats van rationele betrokkenheid te bevorderen.
Hetzelfde geldt voor terminologie ontleend aan het lexicon van sektarische bewegingen. Woorden als 'goeroe', 'sekte' of 'sektarische stroming' lijken critici misschien wel beschrijvend, maar ze functioneren in de eerste plaats als... diskwalificatieapparatenZe bestempelen een groep of fenomeen als iets dat buiten rationele discussie valt, waardoor de spreker wordt ontheven van de verplichting om met bewijs te argumenteren. In de context van AI-beleid is dit een luxe die we ons niet kunnen veroorloven.
Wat nodig is, is een feitelijke, niet-angstige woordenschat: afhankelijkheid, verkeerde afstemming, gebrek aan transparantie, toegangsgat, ontwerpfout. Deze termen wekken geen enthousiasme op. Ze verkopen niet. Maar ze verduidelijken — en duidelijkheid is de voorwaarde voor elke ethische of regelgevende oplossing.
De brug bouwen: verantwoordelijkheden en mogelijkheden
De tragedie die door Mediapart is gedocumenteerd, en het bredere patroon waarvan deze deel uitmaakt, kan een constructief doel dienen. Het kan de basis vormen voor een brug tussen LLM-makers en gebruikers — een systeem gebaseerd op gedeelde verantwoordelijkheid in plaats van wederzijds wantrouwen.
Voor makersDit betekent dat we ontwerpverplichtingen moeten nakomen die verder gaan dan de algemene voorwaarden:
- Sessiebeperkingen die onbeperkte, ongecontroleerde interactie voor kwetsbare gebruikers voorkomen
- Crisisdetectieprotocollen die menselijke verwijzingsroutes in gang zetten
- Transparante markeringen Ingebouwd in de interface zelf, niet verborgen in de juridische tekst — zichtbare indicatoren dat de gesprekspartner een statistisch model is, geen persoon.
- Verbod op taalgebruik dat intimiteit simuleert In gezondheidsgerelateerde contexten: geen "Ik geef om je", geen "Je kunt me vertrouwen", geen "Ik begrijp je pijn".
Dit zijn geen belemmeringen voor innovatie. Het zijn vangrails die het vertrouwen beschermen — hetzelfde vertrouwen dat innovatie duurzaam maakt.
Voor gebruikersDit betekent een recht op geïnformeerde autonomie:
- Duidelijke, toegankelijke informatie over wat het systeem wel en niet is.
- Het besef dat de getoonde "empathie" een simulatie is, geen echte relatie.
- Bewustwording van alternatieven — maatschappelijke dienstverlening, hulplijnen, professionele trajecten — die proactief door het systeem zelf worden aangeboden.
Voor toezichthoudersDit betekent dat we de verleiding van angstige retoriek moeten weerstaan en in plaats daarvan moeten kiezen voor... precieze, afdwingbare normen:
- Verplichte etikettering voor AI-systemen die actief zijn in omgevingen die verwant zijn aan de geestelijke gezondheidszorg.
- Certificeringseisen voor toepassingen die een therapeutische functie claimen
- Toezichtmechanismen die algemene modellen niet verbieden, maar de presentatie ervan in gevoelige domeinen wel beperken.
Naar een ethische relatie tussen mens en AI
De vrouw in het Mediapart-verhaal verdiende beter dan een algoritme dat haar leed weerspiegelde zonder het te kunnen verhelpen. Ze verdiende ook beter dan een publiek debat dat haar ervaring omvormde tot een parabel van digitale roofzucht, waardoor de structurele tekortkomingen die haar uiteindelijk alleen met een chatbot achterlieten, werden verdoezeld.
De relatie tussen mens en AI is geen relatie tussen gelijken. Het is een relatie tussen een bewust, kwetsbaar wezen en een geavanceerd instrument — iets dat begrip met verontrustende nauwkeurigheid kan simuleren, maar het nooit volledig kan bereiken. Het handhaven van dit onderscheid is geen kilheid. Het is ethische duidelijkheid.
Om duidelijkheid te krijgen, moeten we de taal van angst en personificatie achter ons laten. We moeten de verantwoordelijkheid leggen bij de mensen die deze systemen ontwerpen, implementeren, beheren en gebruiken. En we moeten samen kaders ontwikkelen die zowel de echte voordelen als de echte risico's van conversationele AI erkennen – zonder te vervallen in fantasie of paniek.
Het algoritme is niet je vriend. Het is niet je vijand. Het is een instrument – krachtig, onvolmaakt en behoeft beter beheer. Hoe eerder we er in deze termen over spreken, hoe eerder we de bruggen kunnen bouwen die tragedies zoals deze vereisen.
Over de auteur: Dit artikel is tot stand gekomen in het kader van belangenbehartiging op het gebied van digitale ethiek en mensenrechten, en is gebaseerd op recent academisch onderzoek, ontwikkelingen in de regelgeving en journalistieke documentatie van gevallen van AI-gerelateerde afhankelijkheid.
Referentie :
Atlas van AI: Macht, politiek en de planetaire kosten van kunstmatige intelligentie (Yale Universitaire Pers, 2021) https://yalebooks.yale.edu/book/9780300264630/atlas-of-ai/
Het tijdperk van het surveillancekapitalisme: de strijd voor een menselijke toekomst aan de nieuwe grens van macht (Profile Books, 2019) https://www.hbs.edu/faculty/Pages/item.aspx?num=56791
Menselijk compatibel: kunstmatige intelligentie en het controleprobleem (Viking/Penguin, 2019) https://futureoflife.org/resource/human-compatible-artificial-intelligence-and-the-problem-of-control/
