Scholen wenden zich steeds meer tot kunstmatige intelligentie om de groeiende geestelijke gezondheidscrisis onder studenten aan te pakken. Geconfronteerd met krimpende budgetten en overweldigd adviespersoneel, zetten districten als Putnam County, Florida, AI-platforms in die studentenchats scannen op waarschuwingssignalen van zelfbeschadiging of angst. Het doel? Om in te grijpen voordat crises escaleren.
Deze systemen, zoals Side, signaleren taalproblemen en waarschuwen adviseurs als Brittani Phillips. Ze vertelt over een geval waarin een AI-waarschuwing haar leidde tot een potentieel levensreddende interventie bij een leerling uit de achtste klas. De voorstanders van het platform beweren dat het betere toegang biedt tot middelen voor geestelijke gezondheidszorg, vooral in onderbezette plattelandsscholen. Maar experts en gezinnen worden steeds huiveriger voor tieners die te veel afhankelijk zijn van AI voor emotionele steun.
De opkomst van digitale vertrouwelingen
Een van de belangrijkste redenen waarom studenten AI vertrouwen, is het waargenomen gebrek aan oordeelsvermogen. In tegenstelling tot een menselijke hulpverlener observeert een chatbot geen gezichtsuitdrukkingen of lichaamstaal; elementen die adolescenten angstig kunnen maken. Voor een generatie die is opgegroeid met instant messaging, voelen AI-interfaces vertrouwd en toegankelijk aan. Studenten vinden het vaak gemakkelijker om hun problemen naar een bot te sms’en dan een afspraak te maken of persoonlijk te spreken.
Sarah Caliboso-Soto, een klinisch maatschappelijk werker bij het USC, erkent het potentieel van AI als een ‘eerste verdedigingslinie’, waarbij ze regelmatig contact opneemt met studenten en hen doorverwijst naar professionele hulp wanneer dat nodig is. Ze waarschuwt er echter voor om menselijke interactie niet volledig te vervangen. AI mist het genuanceerde onderscheidingsvermogen van een getrainde arts, die subtiele signalen kan interpreteren en beter geïnformeerde begeleiding kan bieden.
De prijs van automatisering
De diensten van Side beginnen bij ongeveer $ 10 per leerling per jaar, waardoor het een betaalbare optie is voor scholen met beperkte middelen. Toch waarschuwen deskundigen voor overafhankelijkheid. De technologie kan kritische emotionele signalen over het hoofd zien en kan zelfs onrealistische positiviteit versterken, waardoor echte vooruitgang mogelijk wordt belemmerd.
Bovendien brengen deze AI-platforms zorgen over de privacy met zich mee. In tegenstelling tot erkende therapeuten houden chatbots zich niet altijd aan dezelfde vertrouwelijkheidsnormen. In sommige gevallen kunnen waarschuwingen aanleiding geven tot betrokkenheid van de politie, zoals Phillips toegeeft te doen wanneer een student zelfmoordgedachten uitte.
Voorbij het algoritme
Critici stellen dat AI-instrumenten eerder een symptoom aanpakken dan de hoofdoorzaak: wijdverbreide eenzaamheid en sociale ontkoppeling. Sam Hiner, directeur van The Young People’s Alliance, is van mening dat technologieplatforms het isolement vaak verergeren door een ‘steunpilaar’ te bieden in plaats van een echte gemeenschap te bevorderen. Hij vreest voor ‘parasociale relaties’, waarbij studenten eenzijdige emotionele gehechtheid aan AI ontwikkelen, waardoor hun sociale vaardigheden verder worden uitgehold.
Een over het hoofd gezien probleem is de mogelijkheid van manipulatie. Sommige studenten testen de grenzen van deze systemen door provocerende uitspraken te typen (“Mijn oom raakt mij aan”) om te peilen of iemand luistert. Phillips heeft dit gedrag waargenomen en merkte op dat sommige jongens gewoon willen zien of het iemand iets kan schelen.
Het menselijke element blijft essentieel
Hoewel AI zaken kan beoordelen en tijd kan vrijmaken voor adviseurs, zijn experts het erover eens dat het de menselijke verbinding niet mag vervangen. De echte waarde van de technologie ligt in het vergroten en niet vervangen van het klinische oordeel. Zoals Phillips opmerkt, is de sleutel tot het opbouwen van vertrouwen bij studenten hen te laten zien dat een echte persoon het systeem in de gaten houdt en er echt om geeft.
Uiteindelijk is AI op scholen een tweesnijdend zwaard. Het kan de broodnodige ondersteuning bieden, maar alleen als het op verantwoorde wijze wordt geïmplementeerd, met menselijk toezicht en met een duidelijk besef dat technologie het empathie en het kritische denken van getrainde professionals niet kan vervangen.
