En los Estados Unidos, las escuelas están utilizando cada vez más aplicaciones de inteligencia artificial para evaluar a los estudiantes por posibles riesgos de suicidio. Estos sistemas se integran en los dispositivos de los estudiantes para identificar palabras o frases clave que indiquen intenciones dañinas.
Los padres y educadores informan que las alertas de estos sistemas electrónicos pueden permitir intervenciones oportunas en momentos críticos para los adolescentes. Este enfoque proactivo conecta a los estudiantes en riesgo con asesoramiento antes de que lleguen a un punto peligroso.
Las herramientas de monitoreo de IA ahora supervisan a millones de estudiantes estadounidenses, con hallazgos divulgados a los padres en acuerdos anuales sobre tecnología. Durante el día escolar, los estudiantes marcados pueden ser retirados de clase para evaluación. Si no se puede contactar a los padres, las fuerzas del orden pueden visitar a los estudiantes en casa para garantizar su seguridad.
Muchos consejeros expresan que este software ayuda a identificar a niños que luchan en silencio, permitiendo un apoyo oportuno. Algunos incluso dudan en detener las notificaciones durante las vacaciones de verano.
Sin embargo, investigadores y expertos en salud mental destacan preocupaciones sobre la efectividad y confiabilidad de los algoritmos, ya que las empresas tecnológicas que proporcionan el software no han publicado sus hallazgos ni compartido datos con expertos independientes. Sigue siendo incierto con qué frecuencia el sistema pasa por alto a estudiantes que podrían estar en riesgo.
Médicos que trabajan con niños marcados aseguran que los datos son lo suficientemente precisos, y todos los casos identificados eran lo suficientemente graves como para justificar la hospitalización. Muchos padres no estaban al tanto de los estados alarmantes y las tendencias suicidas de sus hijos.
Según una encuesta reciente de los Centros para el Control y la Prevención de Enfermedades, uno de cada cinco estudiantes de secundaria en EE. UU. (aproximadamente tres millones) informó haber pensado en el suicidio en el último año, con la mitad menos admitiendo haberlo intentado. Las muertes anuales entre jóvenes menores de 24 años son de aproximadamente 7,000.