No tiene nombre y es esperable que no se convierta en una tendencia que amerite ser bautizada, pero cae en la categoría de Deep Fake: manipulación de imágenes con inteligencia Artificial (IA) para crear fotografías o videos que parecen auténticos. En este caso se trata de alumnos de dos colegios en España y Perú que manipularon fotos de compañeras para convertirlas en material pornográfico. En ambos países se iniciaron investigaciones penales.

En Lima, los involucrados asisten al St. George's College, en la exclusiva zona de Miraflores. Alumnos de 13 a 14 años vendieron el contenido manipulado a otros estudiantes, a un valor de entre 15 y 30 soles ($3.500 a $7.000 aprox.). Las víctimas suman 12 adolescentes de sexo femenino, de 13 a 16 años. "¿Mamá, mis hijos verán esas fotos?", son preguntas que ellas hacen a sus madres, describe el sitio Infobae.

En España se identificaron 15 autores, de 12 a 14 años, que distribuyeron las imágenes por WhatsApp y Telegram en el municipio de Almendralejo. Son más de 20 afectadas. La Fiscalía de Menores abrió una investigación. La causa será archivada para los menores de 14 años. Al resto se les condenará según la ley del menor, informó El Periódico de Extremadura.

Hasta el momento la PDI, que es la policía encargada de llevar adelante las investigaciones relacionadas con ciberdelitos en nuestro país, asegura que no ha recibido denuncias de este tipo.

En Chile hoy no existe una figura penal para ciberacoso. En la Cámara de Diputadas y Diputados se ingresó en 2020 un proyecto de ley que sanciona la violencia digital y otorga protección a las víctimas. Otro proyecto, del senador Sebastián Keitel, modifica la Ley General de Educación para "sancionar prácticas de cyberbullying o acoso escolar en los establecimientos educacionales". Los dos están en su primer trámite constitucional.

Aunque no es específica, la Ley 20.536 sobre Violencia Escolar permite abordar estos casos. Define como acoso escolar las acciones dentro o fuera del establecimiento que causen a la persona afectada "maltrato, humillación o fundado temor de verse expuesto a un mal de carácter grave, ya sea por medios tecnológicos o cualquier otro medio".

Fines maliciosos

Leslie Pérez, académica de la Escuela de Ingeniería Informática de la Pontificia Universidad Católica de Valparaíso (PUCV), explica que "la IA generativa creció rápidamente en su eficacia, creando imágenes que son bastante parecidas a las reales. Diría que todavía es posible detectarlas, pero genera muchos riegos de desinformar o de uso con fines maliciosos, en este caso acoso escolar". Por ello comenta que algunos países están obligando a las plataformas de IA a etiquetar o marcar con sellos de agua estas imágenes, para no inducir a error o uso inadecuado.

Agrega que es un tema vinculado a la protección de datos, la cual debe regularse por ley y en familia. "Todos los modelos de aprendizaje necesitan datos para poder entrenarse y, por lo tanto, que en internet se puedan encontrar imágenes de personas, y en particular de niños, los vuelve vulnerables. Es muy importante que los padres cuiden que sus imágenes no estén disponibles tan fácilmente", advierte.

Contención, fundamental

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) ha llamado a los gobiernos a regular la IA Generativa. También publicó las "Orientaciones mundiales sobre la IA Generativa en la Educación y la Investigación". Esta guía alerta que está facilitando realizar "actos poco éticos, inmorales y delictivos, como difundir desinformación (…) e incorporar los rostros de personas, sin su conocimiento ni consentimiento, en películas totalmente falsas y a veces comprometedoras".

Paola Muzatto, académica del Departamento de Ciencias Sociales de la Universidad de Tarapacá y jefa de la Unidad de Prevención de la Ley 21.369 (que regula el acoso sexual en la Educación Superior), dice que "las familias deben conversar sobre qué significa la honra, la dignidad, la integridad, el uso de las redes sociales y las tecnologías, de modo de reconocer los efectos de nuestras acciones sobre los otros. Lo que se publica en las redes, sea o no real, es tomado como real".

¿Cómo contener en estos casos? Para las víctimas, "primero hacer justicia y reponer la imagen de las personas vulneradas. Segundo, no viralizar las imágenes y censurar las páginas en que han estado expuestas. Tercero, la contención de la familia: que agilice las denuncias, que crea en sus hijas y que las apoye a creer que el mundo puede ser seguro en el futuro mediato, que así como hay personas no criteriosas y de malas intenciones también están las buenas. Escuchar, sostener el enojo, la rabia, la pena, acompañar el dolor y levantar la dignidad. Cuarto: apoyo especializado, considerando que esta situación de alto estrés puede ser traumática y de alto impacto a su edad", dice Jade Ortiz, psicóloga clínica y docente de la Universidad Santo Tomás.

Se suele pensar que para los victimarios solo queda la ley. Eso es cierto, pero también deben recibir apoyo emocional, plantean los especialistas.

La sicóloga Carolina Reyes, directora del Colegio Monteluz y Magíster en Psicología Educacional, dice que "la familia del victimario debe brindar un espacio de conversación para comprender sus motivos, si fue presionado por compañeros, poco control en el acceso a pantallas. También debe haber una introspección por parte de la familia, preguntarse en qué están fallando como padres. Se debe fomentar la empatía hacia la víctima: preguntarle '¿qué te hubiese sucedido a ti si te hubieran hecho esto?'. Y apoyarse en un profesional de la salud mental, porque claramente el victimario está teniendo muchas carencias que lo llevan a realizar una conducta de violencia de este tipo".

Reyes añade que "siempre se debe realizar un acto reparatorio, como pedir disculpas o redactar una carta (para la víctima). Si es mayor de 14 años la consecuencia tendría que ser autodenunciarse, porque hay consecuencias legales asociadas a este tipo de conductas, a raíz de lo que plantea la Ley de Responsabilidad Penal Juvenil".

Por último, Jade Ortiz reflexiona que "los dispositivos que la tecnología ha puesto a nuestro servicio requieren de educación ética, empática y moral, en especial cuando los usuarios son niños/as y adolescentes, quienes por su etapa vital de desarrollo requieren de un mayor acompañamiento en su regulación emocional, en sus deseos e incluso en su morbo. Sus equivocaciones, sus intenciones menos acertadas sexualmente tienen un mayor impacto cuando las herramientas tecnológicas están al servicio libre y gratuito, y sin control".

Parte de un fotomontaje con IA.

13 y 14 años de edad tienen los alumnos que en Lima, Perú, vendieron fotos trucadas de sus compañeras. Las ofrecían como material pornográfico en menos de 7 mil pesos.