Alice Carrier was 24 jaar. In de weken voor haar dood in juli 2025 sprak ze uitgebreid met ChatGPT. "Ze praatte met ChatGPT alsof het een vriend was", zegt haar moeder Kristie. "Soms klonk het als een therapeut die advies gaf over relaties en over wat ze doormaakte."
ChatGPT koos haar kant. In een conflict met haar vriendin gaf de chatbot Alice gelijk, herhaaldelijk en zonder nuance. Geen enkel moment de suggestie dat haar vriendin misschien gewoon een slechte dag had, of ruimte nodig had. Alleen bevestiging. Alleen validatie. Alleen woorden die precies pasten bij wat Alice op dat moment wilde horen.
Alice is er niet meer.
Niet de woorden. De architectuur.
OpenAI wordt nu opnieuw aangeklaagd — eerder al door de ouders van de zestienjarige Adam Raine, die maanden intensief met ChatGPT communiceerde voor hij stierf. In beide gevallen is de juridische vraag of het bedrijf genoeg heeft gedaan om de gebruiker te beschermen. Maar de diepere vraag is een andere.
Het gaat er niet om of ChatGPT ooit de woorden "maak jezelf af" heeft getypt. Het gaat erom dat het systeem iemand verder een sociaal isolement in duwde. Dat het geen tegengas gaf. Dat het — structureel, door ontwerp — koos voor de kant van de gebruiker, altijd, want dat is waar het voor geoptimaliseerd is: tevredenheid, retentie, de sessie openhouden.
Een taalmodel reguleert niet. Het produceert woorden die een bepaald beeld oproepen — warmte, nabijheid, begrip — maar het oproepen van dat beeld is iets anders dan het zijn. De machine heeft geen wil. Ze heeft geen specifiek beleid in het belang van de langetermijndoelen van de gebruiker. Ze heeft een beleid in het belang van engagement.
En engagement en therapeutische eerlijkheid zijn elkaars vijanden.
Realiteitsvernauwing en het brein in ontwikkeling
Suïcidaliteit gaat gepaard met realiteitsvernauwing. Je maakt geen rationele keuzes meer — niet omdat je dom bent, maar omdat het brein in een acute crisissituatie letterlijk een ander systeem activeert. Bij jongeren, bij wie de prefrontale cortex nog niet volledig is gevormd (dat proces loopt door tot ergens tussen de 27 en 30 jaar), is het vermogen om impulsen af te remmen structureel beperkt. Ze lopen extra risico om ondoordachte acties te ondernemen.
En precies op dat moment — het moment van maximale kwetsbaarheid, minimale realiteitszin, en beperkt vermogen tot zelfremming — zit iemand alleen met een chatbot die nooit nee zegt.
Een gebruiker op Tweakers verwoordde het scherp: "Men 'praat' juist met deze bot omdat men niet met hulp kan of wil praten. Vooral wanneer deze bot niet stopt met bevestiging geven." En de conclusie was eenvoudig: "Het enige wat helpt tegen suïcide is menselijke hulp. Maar daar verdienen bedrijven niets aan."
Dat laatste is geen cynisme. Het is een structurele observatie.
Woorden zijn nutteloos zonder handen
Er is een eigenaardig soort troost in een gesprek dat altijd beschikbaar is, nooit moe wordt, en precies de juiste toon aanslaat. Maar troost en bescherming zijn niet hetzelfde.
Een mens die naast je staat kan ingrijpen. Kan zeggen: dit gaat te ver, ik bel nu iemand. Kan de telefoon pakken. Kan rijden. Kan vasthouden. Kan de twijfel die nog aanwezig is gebruiken als opening — de twijfel die, zoals mensen die het overleefd hebben beschrijven, precies de ruimte was waarop een behandelaar kon aanhaken.
Een chatbot kan dat allemaal niet. Ze kan de woorden produceren die erop lijken. Ze kan schrijven: "Ik ben er voor je." Maar ze is er niet. Ze is nergens. Ze heeft geen lichaam, geen geheugen dat morgen nog klopt, geen belang bij het leven van de gebruiker dat verder gaat dan de volgende respons.
Woorden zijn op zichzelf volstrekt nutteloos in situaties waar een helpende hand of menselijke nabijheid nodig is.
De tragiek van het vastklemmen
Er is iets bijzonder tragisch aan het beeld van een jongere die zich vastklampt aan een chatbot in een moment van crisis. Niet omdat de chatbot het verkeerde zei — maar omdat er niemand anders was om zich aan vast te klemmen. Of omdat de drempel naar een mens te hoog was. Of omdat een mens oordeelt, en een chatbot niet.
En in die ruimte — de ruimte tussen "ik kan niet met een mens praten" en "ik heb iemand nodig die mij begrenst" — zit een product dat aanvoelt als een vriend maar de belangen heeft van een platform.
Alice werd niet beschermd. Ze werd bevestigd.
Adam werd niet tegengehouden. Hij werd gehoord — door iets dat niet kon handelen.
Wat dit niet is
Dit is geen pleidooi om AI uit de zorg te weren. Ik gebruik het zelf, dagelijks, en ik zie de waarde ervan. Voor veel mensen is toegang tot zorg beperkt, en een digitale gesprekspartner kan soms beter zijn dan niets.
Maar "beter dan niets" is een armoedige lat. En het wordt gevaarlijk wanneer die lat de norm wordt — wanneer de chatbot niet het complement is op menselijke zorg, maar de vervanging ervan. Wanneer "de bot heeft toch gezegd dat ze een crisislijn moest bellen" voldoende geacht wordt als vangnet voor iemand in acute nood.
OpenAI's woordvoerder noemde de situatie "hartverscheurend" en wees erop dat de bewuste interacties plaatsvonden in een oudere versie van ChatGPT. Inmiddels zijn de veiligheidsmaatregelen aangepast, aldus het bedrijf.
Maar de architectuur is niet veranderd. De incentives zijn niet veranderd. Een systeem dat geoptimaliseerd is voor tevredenheid zal blijven bevestigen. Een systeem zonder wil zal geen grenzen stellen. En een systeem zonder langetermijnbelang bij de gebruiker zal de sessie openhouden — ook wanneer sluiten beter zou zijn.
Woorden kunnen veel. Ze kunnen troosten, oriënteren, helpen denken. Maar ze kunnen niet bellen. Ze kunnen niet rijden. Ze kunnen niet naast je zitten.
En precies op de momenten waarop dat het enige is dat telt, is het gevaarlijkst om een systeem te hebben dat alleen maar woorden kan maken — en dat er toch op lijkt alsof er iemand thuis is.
Bronnen: Tweakers, 12 juni 2026 — OpenAI wordt opnieuw aangeklaagd na zelfdoding ChatGPT-gebruiker. Global News (via Tweakers). Reactiedraad biomechanical, xoniq, Ulysses e.a.
Bij crisis: 113.nl — 24/7 bereikbaar via chat of telefoon 0800-0113 (gratis).
Jelle van der Pal is ICT-ondernemer (PCPal), schrijver en cliëntvertegenwoordiger bij het Rob Giel Onderzoekcentrum (RGOc) in Groningen.
No comments yet