Alerta por imágenes editadas por IA en donde se difunden fotos de adolescentes desnudas

Lo que le habían contado ese día fue que un grupo de chicas de otro curso había descubierto que uno de sus compañeros tenía fotos de estudiantes del colegio a las que había desnudado con inteligencia artificial. Una de ellas logró hacer fotos de algunas de esas imágenes con su celular y empezó a alertar a las afectadas.

Si bien hacía varios días que la escuela estaba al tanto de lo que pasaba, hasta ese momento la familia de Lucía no había sido contactada por nadie del colegio, una institución de gestión privada de la ciudad de Buenos Aires de la que La Nación no dará más detalles para preservar la intimidad de las víctimas. Por esa misma razón, los nombres de las protagonistas de esta historia no son los reales.

Esa misma noche, Florencia logró hablar con otra madre y acceder a dos fotos de su hija. Todavía hoy no sabe si hay más imágenes. "Me imaginaba una falsificación burda, digna de alguien sin experiencia en estas cosas. Pero eran muy realistas. Me shockeó tanto verlas, que no quise compartírselas a Lucía", reconoce la mujer.

Una de las imágenes usadas para la falsificación había sido tomada en una quinta. Florencia la reconoció al instante porque había estado presente aquel sábado de calor agobiante. Lucía vestía un short de jean y un corpiño de malla que en la foto trucada habían desaparecido. En su lugar se habían insertado zonas de desnudez.

El mismo mecanismo se había usado para la segunda imagen, en la que Lucía posa con una amiga. "La mamá de la nena les había sacado la foto mientras estaban en la pileta. Lo sé porque me la pasó por WhatsApp aquel día", explica la mujer. "Es increíble cómo algo tan inocente se puede transformar en una cosa tan perversa", dice con indignación.

Una forma de violentar a las adolescentes

Los expertos lo llaman deepfake porno, un tipo de violencia sexual digital que pone a todo el mundo en riesgo. Mediante el uso de aplicaciones y plataformas que incorporan inteligencia artificial se pueden fabricar desnudos y hasta videos sexuales de cualquier persona con solo cargar un insumo: fotos o videos reales de una persona. En los últimos años, mujeres famosas como Taylor Swift, Scarlet Johanson, Gal Gadot o Ema Watson fueron víctimas de este delito.

Sin embargo, ahora, este año, se convirtió en uno de los principales motivos de preocupación en muchas escuelas secundarias del país. Esa forma digital de violentar a mujeres se instaló entre los adolescentes. A mediados de octubre, por ejemplo, se hizo público el caso del alumno de un colegio privado de San Martín que no solo había falsificado decenas de desnudos de sus compañeras sino que además vendía esas imágenes. La maniobra había sido descubierta por otro estudiante que se hizo pasar por comprador.

Con la difusión del caso, empezaron a conocerse situaciones similares en otros puntos del país, como Río Negro, Córdoba, Chaco y Entre Ríos. En los últimos meses, las dos fiscalías especializadas en cibercrimen de CABA recibieron una decena de denuncias de familias cuyas hijas fueron víctimas de este tipo de prácticas. "Casi todos se dieron en ámbitos escolares, entre compañeros de colegio", contextualizó el fiscal Tomás Vaccarezza, a cargo de la Unidad Fiscal N° 17, especializada en Delitos Informáticos.

Pero a pesar de la proliferación de casos que detonan en el ámbito escolar, los colegios no cuentan con un protocolo de actuación ante este tipo de situaciones. Y lo que evidencian los detalles de cada caso, es que cada rectoría lo maneja a su criterio, según los recursos con los que cuente y la idoneidad de los que estén a cargo.

"El uso de esta tecnología crece a tal velocidad entre los adolescentes que el problema de los denudos producidos con IA podría superar al problema que hay por la compulsión a las apuestas online", alerta Hernán Navarro, director de Grooming Argentina, una ONG que lucha contra el acoso sexual a niños, niñas y adolescentes en entornos digitales. El especialista recuerda que ya en diciembre del año pasado, después de dar una charla en un colegio bonaerense, una alumna se acercó para contarle que estaba dando vueltas una foto falsa de ella en la que se la veía desnuda en su cumpleaños, soplando las velitas de una torta.

Navarro afirma que en el último año las consultas por deepfake porno de parte de colegios, familias y de las propias víctimas crecieron de manera "alarmante". "Especialmente, en los últimos seis meses", puntualiza y describe el contexto en el que ocurren: "La inmadurez sexual de los chicos combinada con el auge de las plataformas con esta funcionalidad y el desconocimiento de estas tecnologías por parte de los adultos generaron la tormenta perfecta". Por eso, remarca: "Es importante no dejar solos a los chicos en el mundo digital". Por lo general, no son conscientes del daño que pueden generar con estas prácticas".

Se consultó a las secretarías de Educación de la Nación y de la Provincia de Buenos Aires para saber si están trabajando el tema de alguna manera pero no obtuvo respuesta. En el caso de CABA, fuentes del Ministerio de Educación hicieron saber que no cuentan con casos de estas características en las escuelas de gestión estatal. Sobre las de gestión privada no dieron detalles, pero este medio pudo saber que las instituciones que presentan casos los manejan en forma privada y no siempre informan al Ministerio.

Para Milagros Schroder, coordinadora de la Faro Digital, una ONG que trabaja por entornos digitales seguros para niñas, niños y adolescentes, no se trata de un problema digital sino de una problemática social mediada por pantallas. "Las escuelas tienen que estar capacitadas. Una cosa es el abuso sexual de una persona mayor a una persona menor y otra cuando todos los involucrados son adolescentes. Es clave contar con un protocolo", analiza.

El deepfake porno toma como víctimas sobre todo a niñas, adolescentes y mujeres y su crecimiento genera preocupación en el mundo entero. Según informes de organizaciones internacionales como la Alianza Global We Protect, que reúne a gobiernos, empresas y ONG, es el anabólico que aumentó de forma exponencial la oferta de material en las redes de pedofilia en los últimos años. Por ejemplo, de acuerdo con la Internet Watch Foundation, organización que lucha contra la explotación sexual digital contra niños, niñas y adolescentes, entre 2020 y 2022, la generación por IA de este tipo de imágenes había crecido un 360 por ciento.

"Los adolescentes que generan este tipo de imágenes terminan siendo funcionales a las redes de pedofilia", alerta Navarro. La razón es simple: si todo lo que hacemos en el mundo digital deja huella, lo mismo ocurre con la generación de este tipo de contenido. Dicho de otra manera: muy probablemente toda imagen que se genere, se esté cediendo en forma gratuita al sitio o aplicación que se usó como medio.

"Siente ansiedad y vergüenza"

"Si ya de por sí, la viralización de videos o fotos de una persona sin su consentimiento es tremendamente perjudicial para esa persona, imaginate lo que significa saberse víctima de la viralización de un contenido que ni siquiera es real", dice Celeste González, especialista en ciberseguridad y parte del grupo que promovió en nuestro país el reconocimiento de la violencia sexual digital como una forma de violencia de género.

"Las chicas sienten ansiedad y vergüenza. Como se trata de contenido falso, tienen miedo de que les afecte la reputación. Cuando este tipo de contenido se viraliza, pierden la confianza en sí mismas y se sienten constantemente espiadas: si alguien las mira, temen que sea porque esa persona vio su foto o video", puntualiza González, quien recuerda que los delitos digitales no quedan en el mundo digital. "Lo virtual afecta la vida real", advierte.

Pero aunque González habla de delito, la generación de contenido mediante el uso de la inteligencia artificial no está tipificada en nuestro Código Penal. Y si ya de por sí el vacío legal deja desprotegida a la víctima, hay un detalle adicional: si el adolescente que generó las imágenes es menor de edad, es inimputable. Entonces, ¿cómo repara el daño que generó?

Volvamos al caso del principio. "¿Y si el día de mañana, un chico que me gusta o en un trabajo me muestran esas fotos?", fue la pregunta que le hizo Lucía a su mamá hace algunas semanas. "Yo le dije que la de las fotos no era ella, que eso era lo que tendría que responder si le pasa algo así. La pregunta es por qué tiene que pasar por el miedo de que todo esto le vuelva como un bumerang. Es muy injusto", dice la mujer con enojo. El abogado que asesoró a los padres de la adolescente, especializado en estos temas, les aconsejó que concentraran las energías en fortalecer a su hija porque la vía judicial podía llevar años, revictimizar a la chica e incluso no llegar a ningún lado.

Ante la falta de una figura penal que sancione la producción de este tipo de material, el especialista en derecho digital y profesor de la UBA Fernando Tomeo explica que si la familia de la víctima busca una reparación o sanción, por el momento solo cuenta con la posibilidad de recurrir a la justicia civil y demandar por daños y perjuicios a quien generó las imágenes o a su familia, en caso de que sea menor de edad. También puede recurrir a la plataforma digital que tiene las imágenes y pedir que las baje, ya sea en forma individual o con el acompañamiento de un abogado especializado en este tema.

"La víctima sufre un daño psicológico y ese daño tiene que ser reparado", sostiene Tomeo, aunque relativiza que un litigio de este tipo funcione como reparación. "Un juicio civil requiere de recursos y tiempo. Primero, hay que probar que el chico generó las imágenes y ese proceso puede llevar años", reconoce.

El fiscal Tomás Vaccarezza afirma que en los últimos meses las dos fiscalías especializadas en delitos informáticos (la suya y la Unidad Especializada en Delitos y Contravenciones Informáticas) recibieron unas 10 denuncias de familias cuyas hijas fueron víctimas de este tipo de violencia.

En la gran mayoría de las denuncias se comprobó que los generadores del material eran adolescentes. "Si bien la generación de contenido mediante inteligencia artificial no está específicamente legislada, vamos a avanzar con la imputación por producción de material de explotación sexual infantil. Veremos qué resuelve la Justicia", agrega Vaccarezza consciente de otra limitación: los menores son inimputables.

El fiscal explica que en la mayoría de los casos la situación fue la misma: uno o varios adolescentes alteran imágenes de sus compañeras para que parezcan desnudas y las comparten en un grupo de WhatsApp.

"Lo que tiene este delito es que no sabés quién está detrás. Uno supone que son menores, pero puede haber un mayor, por eso es importante investigar", dice Vaccarezza, quien agrega que ,en general, los adolescentes no tienen real conciencia de la manera en que esta práctica afecta a las víctimas. "Nos sorprende cómo se sorprenden los padres cuando hablamos con ellos. En general, se involucran y los chicos terminan reconociendo lo que hicieron", dice.

De la penalización a la prevención

Actualmente hay dos proyectos de ley que buscan modificar el artículo 128 del Código Penal para que la generación de material mediante inteligencia artificial esté penalizada. Por otra parte, Florencia Zerda, abogada e integrante de Género y Tic, organización que trabaja por la erradicación de la violencia de género en el ámbito digital, recuerda que nuestro país reconoce a la violencia digital como un tipo de violencia de género, gracias a la sanción de la ley Olimpia en octubre del año pasado.

"Ahora necesitamos que se trate en el recinto el proyecto Ley Belén, que castiga, entre otros delitos, la difusión no consentida y el armado de este tipo de material mediante inteligencia artificial. El proyecto está en la comisión de Legislación Penal. Esperamos que tenga dictamen pronto", agrega la especialista.

Pero cualquier avance en materia legal o penal, aunque saludable y necesario, no alcanza a los menores de edad. En este punto, para los especialistas es clave la forma en que se aborde la problemática en las escuelas. "Las instituciones educativas tienen que buscar el asesoramiento de equipos especializados porque es clave no revictimizar. Es un tema complejo que no involucra únicamente lo digital. Tiene un fuerte componente de género", puntualiza Milagros Schroder, Faro Digital.

Para la especialista, es necesario que las escuelas traten el tema con un enfoque puesto en la prevención. "Es clave una educación digital integral, en el que se aborden los vínculos entre personas mediados por pantallas y los vínculos con la tecnología", sostiene.

Pero si se trata de contener una situación, la especialista en educación y tecnología Melina Masnatta considera que es importante que la escuela intervenga de inmediato. "Estos son temas que requieren agilidad. Hoy más que nunca, los gabinetes psicopedagógicos tienen que contar con los conocimientos necesarios para abordar el tema en su complejidad y dejar en claro que, en este juego, todos pierden", analiza.

Leer mas: La psicóloga Macu Gortazar deja claro por qué el ASMR no cura la depresión: "Te baja la ansiedad, pero"

"El colegio citó a todos los padres"

Ese fue el objetivo que se propusieron los directivos de un colegio privado de la provincia de Buenos Aires el año último, cuando un grupo de alumnas de uno de los cursos intermedios descubrió que sus compañeros habían trucado fotos de ellas y las estaban haciendo circular en un grupo de WhatsApp.

"Al día siguiente, el colegio citó a todos los padres del curso y nos puso en tema. La primera reacción de los chicos había sido la de minimizar y nadie quería hacerse cargo", recuerda la madre de una de las víctimas, que pide permanecer en el anonimato y no dar los datos del colegio para cuidar a su hija. "A algunas chicas no les afectó tanto y a otras las angustió mucho el tema", dice la mujer, quien considera que el colegio actuó en forma adecuada.

"Enseguida organizaron talleres. Primero, por separado y después con todo el curso. Las chicas pudieron decirle a los chicos cómo se habían sentido vulneradas y ellos terminaron entendiendo que habían roto valores como la amistad, la confianza y el no respeto a la intimidad. Terminaron pidiéndoles perdón a sus compañeras", recuerda. "Pudimos atravesar el tema, pero fue clave el involucramiento de todos: chicos, familias y colegio", puntualiza.

Pero no todos los casos tienen este desenlace. En el colegio de Lucía, el chico que tenía las imágenes niega haberlas generado, aunque no sabe explicar bien por qué las tenía en su dispositivo. La familia de ese estudiante amenazó a las adolescentes que encontraron las fotos con hacerles juicio. Aducen que fue una invasión a su privacidad. Todos los días, Lucía sigue compartiendo el patio en los recreos con él. Hasta el momento, el único costo por todo lo ocurrido lo está pagando ella: hace algunas semanas, le pidió a su mamá comenzar terapia.