Cuando la IA se usa como mecanismo de abuso: la urgencia de abordar la problemática en las escuelas

La mediatización de las múltiples denuncias radicalizadas hacia un alumno de la Escuela Superior de Comercio Manuel Belgrano, quien habría utilizado la imagen de un grupo de estudiantes de la misma institución para crear y difundir videos de material pornográfico, planteó el debate acerca del uso de la Inteligencia Artificial como vía de acoso que se da dentro de las escuelas.

No se trata de un hecho aislado, sino que es un fenómeno que se manifestó con gran magnitud en este último tiempo principalmente en las adolescencias. La manipulación de archivos y creación de materiales digitales están al alcance de la gran mayoría, sólo es necesario contar con un celular o una computadora. La regulación del uso de teléfonos en el aula es otra discusión o parte de la misma. El libre y fácil acceso a la Inteligencia Artificial fue tomado como un problema principalmente para las personas que efectuaron un mal uso de la misma. Es por esto que resulta fundamental abordar la problemática no solo desde los hogares sino también en las escuelas.

La importancia de la formación en el manejo ético de la tecnología, principalmente para adolescencias

El término deepfake refiere a la alteración no consentida de imágenes, mediante el uso de Inteligencia Artificial, con fines principalmente violentos. Esta agresión puede manifestarse en una violencia de género tal como citamos de ejemplo el caso que tuvo lugar en la Escuela Manuel Belgrano. Bajo esta práctica crean perfiles falsos, “memes” humillantes, estafas, contenidos sexuales alterados, entre otros. Mariana Savid Saravia, es psicopedagoga, especialista en neuroeducación y educación en Ciudadanía Digital, sobre la problemática reflexiona junto a LNM: “¿Dónde está la prevención? La realidad es incómoda: pero se actúa como bomberos, apagando fuegos cuando ya el daño está hecho. Mientras los casos crecen y las acciones preventivas siguen siendo mínimas. ¿Por qué? ¿Los docentes están preparados para esto?”.

Afirma que no hay formación específica para tratar este tipo de fenómenos y que los docentes no están capacitados en este aspecto. Actualmente no hay formación en los colegios acerca de las consecuencias tanto emocionales como legales de una deepfake. El contenido que se brinda en Educación Sexual Integral (ESI), tal como están explicitados, no facilita respuestas para prevenir y debatir acerca del uso del ciberacoso. Saravia argumenta que la prevención no llega a las escuelas porque no está presente en la formación docente ni en los planes de estudio. Es sumamente importante hablar de ciudadanía digital para poder educar desde la responsabilidad de la utilización instrumental de la tecnología. Si bien es cierto que el avance digital alcanza una velocidad lo que imposibilita llegar a tiempo, el registro de casos de acoso digital demanda una pronta intervención. “Mientras los menores de edad acceden fácilmente a apps de IA generativa, muchos docentes aún desconocen cómo funcionan. Esta brecha tecnológica se traduce en una brecha de protección: ¿cómo cuidar a alguien si no entendemos a qué peligros enfrenta?”, dijo la especialista y sugirió, en primer lugar, la urgente incorporación de ética digital y seguridad tecnológica en la currícula, generar espacios de diálogo y un trabajo en conjunto entre las familias y la escuela. “El personal docente y no docente, directivos, familias y profesionales de la salud debemos estar preparados para guiar a las nuevas generaciones en esta era digital. Porque si hoy no hablamos de deepfakes en las aulas, mañana tendremos víctimas en el silencio”, concluyó la psicopedagoga. 

El antecedente judicial del Belgrano 

El daño no es solo material sino psicológico y esta es la peor parte. Las denunciantes son estudiantes, aún menores de edad y lejos de ser víctimas de una simple “picardía”, hoy sobrellevan un proceso traumático en medio del curso de una causa judicial. El acusado actualmente tiene 19 años. Fue imputado por el delito de lesiones graves calificadas por el contexto de violencia de género luego de utilizar imágenes de otras alumnas del colegio, crear videos falsos de material sexual y subirlos a sitios de contenido pornográfico. Un dato importante es que en la descripción de los videos, el agresor adjuntó los perfiles personales de redes sociales de las víctimas. Múltiples usuarios del sitio web en el que se subieron los videos, intentaron contactarse con ellas. Interviene el fiscal de Violencia Familiar y de Género, Pablo Cuenca Tagle. El hecho sucedió en julio de 2024. En primer lugar, la escuela intervino y citó a los padres de los alumnos involucrados. Luego, realizaron una presentación en el Polo de la Mujer y se abrió una causa judicial. Con las primeras denuncias, se estableció una restricción de acercamiento y se autorizó el secuestro de dispositivos electrónicos del acusado. Hace dos semanas, elevaron a juicio las dos primeras denuncias radicadas. 

Se trata de un caso sin precedente en nuestro país debido a que la violencia de género digital aún no está tipificada en el Código Penal. La estrategia tomaría de puntapié la Ley Olimpia 27.736 que incorpora el hostigamiento virtual como una forma de violencia de género. 

A partir de este caso, la escuela atendió e intervino en la problemática. Las reservas y cuidados del caso son principalmente para preservar la identidad de las damnificadas.

Otro caso

En noviembre del 2024, en la escuela San José, dos alumnos robaron y difundieron imágenes íntimas de una compañera sin su consentimiento. La comunidad educativa rápidamente se manifestó en contra del hecho y se solidarizaron con la damnificada. 

Mariana Saravia agregó que si bien es escaso el abordaje, hay instituciones en Córdoba que trabajan con un plan de prevención de violencia digital con sus alumnos y citó a la José Hernandez. 

La profesional actualmente brinda talleres y cursos de extensión sobre ciudadanía digital integral para profesionales que trabajan con infancias y adolescencias. Pueden contactarse con ella por la red social Instagram @psicopedagogamarianasavid.