Aux États-Unis, les écoles utilisent de plus en plus des applications d'intelligence artificielle pour évaluer les élèves sur les risques potentiels de suicide. Ces systèmes sont intégrés dans les appareils des élèves pour identifier des mots ou phrases clés indiquant des intentions nuisibles.
Les parents et les éducateurs rapportent que les alertes de ces systèmes électroniques permettent des interventions rapides lors de moments critiques pour les adolescents. Cette approche proactive connecte les élèves à risque à des consultations avant qu'ils n'atteignent un point dangereux.
Les outils de surveillance par IA supervisent désormais des millions d'élèves américains, avec des résultats divulgués aux parents dans des accords annuels sur la technologie. Pendant la journée scolaire, les élèves signalés peuvent être retirés de la classe pour évaluation. Si le contact avec les parents échoue, les forces de l'ordre peuvent visiter les élèves à domicile pour assurer leur sécurité.
De nombreux conseillers expriment que ce logiciel aide à identifier les enfants qui luttent en silence, permettant un soutien rapide. Certains hésitent même à arrêter les notifications pendant les vacances d'été.
Cependant, les chercheurs et les experts en santé mentale soulignent des préoccupations concernant l'efficacité et la fiabilité des algorithmes, car les entreprises technologiques fournissant le logiciel n'ont pas publié leurs résultats ni partagé de données avec des experts indépendants. Il reste incertain de savoir à quelle fréquence le système rate des élèves qui pourraient être à risque.
Les médecins travaillant avec des enfants signalés affirment que les données sont suffisamment précises, tous les cas identifiés étant jugés suffisamment graves pour nécessiter une hospitalisation. De nombreux parents n'étaient pas au courant des états alarmants de leurs enfants et des tendances suicidaires.
Selon une récente enquête des Centers for Disease Control and Prevention, un élève de collège américain sur cinq (environ trois millions) a déclaré avoir envisagé le suicide au cours de l'année écoulée, avec deux fois moins admettant avoir tenté. Les décès annuels chez les jeunes de moins de 24 ans s'élèvent à environ 7 000.