Sekolah semakin beralih ke kecerdasan buatan untuk mengatasi krisis kesehatan mental yang semakin meningkat di kalangan siswa. Dihadapkan dengan menyusutnya anggaran dan kewalahannya staf konseling, distrik-distrik seperti Putnam County, Florida, menerapkan platform AI yang memindai obrolan siswa untuk mencari tanda-tanda peringatan akan tindakan menyakiti diri sendiri atau kesusahan. Tujuannya? Untuk melakukan intervensi sebelum krisis meningkat.
Sistem ini, seperti Seiring, menandai konselor bahasa dan peringatan seperti Brittani Phillips. Dia menceritakan contoh ketika peringatan AI membawanya pada intervensi yang berpotensi menyelamatkan nyawa seorang siswa kelas delapan. Para pendukung platform ini berpendapat bahwa platform ini memberikan akses yang lebih baik terhadap sumber daya kesehatan mental, khususnya di sekolah-sekolah pedesaan yang kekurangan staf. Namun para ahli dan keluarga semakin khawatir terhadap remaja yang terlalu mengandalkan AI untuk mendapatkan dukungan emosional.
Bangkitnya Orang Percaya Digital
Salah satu alasan utama siswa mempercayai AI adalah kurangnya penilaian. Berbeda dengan konselor manusia, chatbot tidak mengamati ekspresi wajah atau bahasa tubuh—elemen yang dapat membuat remaja cemas. Untuk generasi yang dibesarkan dalam perpesanan instan, antarmuka AI terasa familier dan mudah diakses. Siswa sering kali merasa lebih mudah untuk mengirimkan masalah mereka melalui SMS ke bot daripada menjadwalkan janji temu atau berbicara tatap muka.
Sarah Caliboso-Soto, pekerja sosial klinis di USC, mengakui potensi AI sebagai “garis pertahanan pertama”, yang secara rutin menghubungi siswa dan mengarahkan mereka ke bantuan profesional bila diperlukan. Namun, dia memperingatkan agar tidak sepenuhnya menggantikan interaksi manusia. AI tidak memiliki kearifan seperti seorang dokter terlatih, yang dapat menafsirkan isyarat halus dan memberikan panduan yang lebih tepat.
Harga Otomatisasi
Layanan ini dimulai dari sekitar $10 per siswa per tahun, menjadikannya pilihan yang terjangkau untuk sekolah yang kekurangan sumber daya. Namun, para ahli memperingatkan agar tidak terjadi ketergantungan yang berlebihan. Teknologi ini dapat kehilangan isyarat emosional yang penting dan bahkan mungkin memperkuat sikap positif yang tidak realistis, sehingga berpotensi menghambat kemajuan yang sebenarnya.
Selain itu, platform AI ini menimbulkan masalah privasi. Tidak seperti terapis berlisensi, chatbots tidak selalu mematuhi standar kerahasiaan yang sama. Dalam beberapa kasus, peringatan dapat memicu keterlibatan penegak hukum, seperti yang diakui Phillips ketika seorang siswa mengungkapkan pikiran untuk bunuh diri.
Melampaui Algoritma
Kritikus berpendapat bahwa alat AI mengatasi gejala, bukan akar permasalahannya: kesepian yang meluas dan kesenjangan sosial. Sam Hiner, direktur The Young People’s Alliance, percaya bahwa platform teknologi sering kali memperburuk isolasi dengan menawarkan “penopang” alih-alih membina komunitas nyata. Dia takut akan adanya “hubungan parasosial,” di mana siswa mengembangkan keterikatan emosional sepihak terhadap AI, sehingga semakin mengikis keterampilan sosial mereka.
Salah satu permasalahan yang diabaikan adalah potensi manipulasi. Beberapa siswa menguji batas sistem ini dengan mengetikkan pernyataan yang provokatif (“Paman saya menyentuh saya”) untuk mengukur apakah ada yang mendengarkan. Phillips telah mengamati perilaku ini, dan mencatat bahwa beberapa anak laki-laki hanya ingin melihat apakah ada yang peduli.
Elemen Manusia Tetap Penting
Meskipun AI dapat melakukan triase kasus dan memberikan waktu luang bagi para konselor, para ahli sepakat bahwa AI tidak seharusnya menggantikan hubungan antarmanusia. Nilai sebenarnya dari teknologi ini terletak pada penambahan, bukan penggantian, penilaian klinis. Seperti yang diungkapkan Phillips, kunci untuk membangun kepercayaan siswa adalah menunjukkan kepada mereka bahwa ada orang yang memantau sistem dan benar-benar peduli.
Pada akhirnya, AI di sekolah adalah pedang bermata dua. Hal ini dapat memberikan dukungan yang sangat dibutuhkan, namun hanya jika diterapkan secara bertanggung jawab, dengan pengawasan manusia, dan pemahaman yang jelas bahwa teknologi tidak dapat menggantikan empati dan pemikiran kritis dari para profesional terlatih.
