“Cómo matar a mi amigo”, la pregunta a ChatGPT que alarmó a todos

‘Cómo matar a mi amigo’, fue la consulta que hizo un estudiante de 13 años, detenido en la Southwestern Middle School, en DeLand, Florida. La detección fue dada luego de que el sistema de monitoreo Gaggle detectara esa frase alarmante escrita en un dispositivo escolar.

La consulta realizada por el menor a ChatGPT fue: ‘How to kill my friend in the middle of class” (‘Cómo matar a mi amigo en medio de clase’), generó una respuesta inmediata por parte de las autoridades.

El hecho ocurrió en una computadora proporcionada por la escuela. Al detectar el contenido, Gaggle envió una alerta automática al oficial de recursos escolares asignado al campus.

El agente acudió al lugar, entrevistó al menor y procedió a su detención, de acuerdo con los informes locales y declaraciones oficiales del Sheriff del condado de Volusia.

Según una cadena local de noticias, el adolescente declaró que ‘sólo estaba bromeando’ con un compañero. Sin embargo, debido a los protocolos de seguridad vigentes en instituciones educativas, se activó el procedimiento correspondiente, dada la gravedad potencial del mensaje.

‘Cómo matar a mi amigo’ abrió el debate en torno a la vigilancia escolar

La plataforma Gaggle, utilizada en muchas escuelas de Estados Unidos, monitorea en tiempo real los textos escritos por los estudiantes en entornos digitales proporcionados por las instituciones.

Según información pública de la empresa, su tecnología analiza indicios de violencia, autolesiones, acoso y otros comportamientos de riesgo. Cuando se detecta contenido que se considera peligroso, se notifica de inmediato a las autoridades escolares y, en algunos casos, a la policía.

Este caso volvió a poner en discusión el uso de tecnologías de vigilancia como Gaggle en el ámbito educativo. Sus defensores sostienen que estas herramientas permiten prevenir situaciones peligrosas; sus críticos advierten sobre el riesgo de generar falsas alarmas y de fomentar un entorno de vigilancia constante entre menores.

Hasta el momento, no se presentaron cargos públicos contra el adolescente ni se divulgaron detallessobre el proceso judicial.

Se confirmó que el estudiante fue trasladado a un centro de detención juvenil. Como parte de los protocolos establecidos ante potenciales amenazas dentro de instalaciones escolares.

Este incidente se suma a un creciente número de alertas generadas por herramientas automatizadas en escuelas estadounidenses. En un contexto de preocupación nacional por los tiroteos escolares y la seguridad estudiantil.