In den Vereinigten Staaten nutzen Schulen zunehmend Anwendungen mit künstlicher Intelligenz, um Schüler auf potenzielle Suizidgefahren zu überprüfen. Diese Systeme sind in die Geräte der Schüler integriert, um Schlüsselwörter oder -sätze zu identifizieren, die auf schädliche Absichten hinweisen.
Eltern und Pädagogen berichten, dass Warnmeldungen dieser elektronischen Systeme rechtzeitige Interventionen in kritischen Momenten für Teenager ermöglichen. Dieser proaktive Ansatz verbindet gefährdete Schüler mit Beratungsangeboten, bevor sie in eine gefährliche Situation geraten.
KI-Überwachungsinstrumente beaufsichtigen nun Millionen von amerikanischen Schülern, wobei die Ergebnisse den Eltern in jährlichen Technologievereinbarungen offengelegt werden. Im Laufe des Schultages können markierte Schüler aus dem Unterricht genommen und überprüft werden. Wenn der Kontakt zu den Eltern fehlschlägt, kann die Polizei die Schüler zu Hause besuchen, um ihre Sicherheit zu gewährleisten.
Viele Berater äußern, dass diese Software dabei hilft, Kinder zu identifizieren, die still kämpfen, und ihnen rechtzeitig Unterstützung zukommen zu lassen. Einige zögern sogar, die Benachrichtigungen während der Sommerferien zu stoppen.
Forscher und Experten für psychische Gesundheit heben jedoch Bedenken hinsichtlich der Wirksamkeit und Zuverlässigkeit der Algorithmen hervor, da die Technologieunternehmen, die die Software bereitstellen, ihre Ergebnisse nicht veröffentlicht oder Daten mit unabhängigen Experten geteilt haben. Es bleibt unklar, wie oft das System Schüler übersieht, die möglicherweise gefährdet sind.
Ärzte, die mit gekennzeichneten Kindern arbeiten, versichern, dass die Daten ausreichend genau sind und alle identifizierten Fälle ernst genug waren, um eine Hospitalisierung zu rechtfertigen. Viele Eltern waren sich der alarmierenden Zustände und suizidalen Tendenzen ihrer Kinder nicht bewusst.
Laut einer aktuellen Umfrage der Centers for Disease Control and Prevention hat jeder fünfte Schüler der Mittelstufe in den USA (etwa drei Millionen) angegeben, im vergangenen Jahr über Suizid nachgedacht zu haben, wobei die Hälfte weniger von einem Versuch berichtete. Jährliche Todesfälle bei Jugendlichen unter 24 Jahren belaufen sich auf etwa 7.000.