Cómo responde la ley ante los desnudos falsos creados con Inteligencia Artificial

La tecnología ya no sólo puede crear paisajes, escribir textos o imitar voces. También es posible fabricar imágenes falsas de personas con un nivel de realismo que hace apenas unos años parecía imposible. Cuando esa herramienta se utiliza para mostrar desnuda a una adolescente que nunca posó para esa fotografía, el daño trasciende la pantalla. Hay angustia, miedo, vergüenza y una pregunta que todavía busca respuestas: ¿qué puede hacer la Justicia frente a un delito que evoluciona más rápido que las leyes?

Ese interrogante irrumpió con fuerza en Tucumán tras las denuncias por la presunta creación y difusión de imágenes falsas de alumnas del Instituto Carlos Pellegrini mediante el uso Inteligencia Artificial (IA). El episodio provocó una profunda conmoción entre estudiantes, docentes y familias, mientras la Fiscalía intenta reconstruir qué ocurrió, quiénes participaron y si detrás de la maniobra existió también un fin económico.

Aunque la investigación recién comienza, el caso ya marcó un punto de inflexión. No sólo por tratarse de víctimas menores de edad, sino porque también los presuntos autores son adolescentes. La situación obliga a conjugar normas de violencia digital, protección de la infancia, responsabilidad penal juvenil y derechos vinculados a la intimidad en un escenario completamente nuevo, resume el abogado Marco Rossi, director del Laboratorio de Inteligencia Artificial, Innovación y Transformación Digital (Dyntec) de la Facultad de Derecho y Ciencias Sociales de la UNT. Desde su estudio jurídico, además, acompaña a dos familias que al parecer fueron afectadas por este episodio y prepara su incorporación a la denuncia ya presentada en la Fiscalía por el Instituto Pellegrini.

Profundas heridas

Para Rossi no existen dudas sobre cómo debe interpretarse jurídicamente este tipo de hechos. “Conceptualmente estamos frente a un caso de violencia digital”, afirma.

El abogado explica que, desde la sanción de la Ley Olimpia, la legislación argentina reconoce la violencia digital como una modalidad de violencia de género. Si bien la norma fue pensada principalmente para mujeres adultas y no menciona expresamente a la IA, constituye un antecedente importante.

No obstante, cuando las víctimas son niñas o adolescentes, el análisis jurídico adquiere una dimensión aún mayor. En esos casos también entran en juego la Convención sobre los Derechos del Niño y su Protocolo Facultativo relativo a la utilización de niños en la pornografía, además de la Convención de Belém do Pará y los informes elaborados por organismos internacionales como ONU Mujeres y el Mesecvi.

“La violencia digital contra menores tiene un doble anclaje jurídico: por un lado como violencia de género y, por otro, como una afectación directa a la indemnidad sexual de niños, niñas y adolescentes”, señala.

- Aunque las imágenes sean falsas y hayan sido creadas con IA, ¿pueden constituir un delito?

- Sí. El Código Penal (artículo 128) ya tipifica “toda representación” de un menor en actividad sexual explícita, sin exigir que sea real, así que la figura penal de base existe y es aplicable. Lo nuevo es la conducta: la IA generativa plantea aspectos que requieren interpretación judicial (material íntegramente sintético, rostro real sobre cuerpo generado, etcétera), pero eso no implica vacío total. Según el caso, además, pueden concurrir otras figuras: grooming si hubo contacto tecnológico previo con la víctima para obtener material o con fin sexual, y en algún precedente incluso se calificó el hecho como lesiones graves por el daño psíquico severo provocado a las víctimas menores, un encuadre que muestra hasta qué punto la Justicia está estirando figuras existentes ante la ausencia de un tipo penal específico para la IA.

- En la cadena de responsabilidades, ¿qué diferencia hay entre crear, compartir y vender?

- Crear es la producción del material. Es la conducta núcleo y una de las más graves de la escala. Compartir/difundir es divulgar, publicar o distribuir. El punto clave es que no hace falta haber creado la imagen: el que solo reenvía en un grupo ya es autor de la conducta de divulgación y queda igualmente alcanzado por la pena. Cada eslabón de la cadena de reenvíos responde por separado. Vender/comercializar agrega el fin de lucro. Es la variante más grave porque supone explotación económica del material, e implica una situación penal claramente más comprometida que la mera tenencia o difusión sin ánimo de lucro. Un matiz que conviene aclarar: la tenencia simple (tener el material sin fin de distribución) también es delito desde la reforma de 2018, aunque con pena menor. Y todas las escalas se elevan cuando la víctima es menor de 13 años.

- ¿El uso de Telegram u otras plataformas agrava la situación?

- Sí, agrava por dos vías. Por la vía fáctica: la difusión en canales o grupos de gran alcance multiplica exponencialmente el daño respecto de un envío privado. Esa mayor magnitud del perjuicio pesa al momento de graduar la pena y de valorar la conducta. Por la vía probatoria/procesal: acá está el problema real. Telegram deja rastro (metadata, IPs, patrones de reenvío), así que técnicamente la difusión no es anónima ni imposible de reconstruir. Pero la plataforma coopera poco y tarde con la Justicia argentina, lo que en la práctica dilata y a veces frustra la investigación.

- En el caso de Tucumán, quienes generaron las imágenes son menores, ¿qué pasa penalmente?

- Entra a jugar el Régimen Penal Juvenil (ley 22.278), que funciona con una lógica distinta a la de los adultos. Los menores de 16 años: son no punibles en forma absoluta. No importa la gravedad del hecho: no hay responsabilidad penal. Sí puede intervenir el juez de menores con medidas de protección y tutelares, pero no hay pena. Entre 16 y 18 años: son punibles sólo respecto de delitos de acción pública con pena privativa de la libertad mayor a dos años -y el art. 128 encuadra ahí-. Pero incluso cuando son punibles, el proceso no es igual al del adulto: hay una etapa tutelar previa, evaluación por un equipo interdisciplinario, y la eventual sanción recién puede imponerse cuando el joven cumple 18, si persiste la necesidad de pena. El sistema prioriza la reinserción y reeducación por sobre el castigo.

- ¿Pueden ser responsables civilmente ellos o sus padres?

- Sí, y por una vía totalmente independiente de la penal. Aunque el adolescente sea no punible penalmente (menor de 16), la responsabilidad civil sigue en pie. Los padres responden por los daños causados por sus hijos menores que habitan con ellos. Es una responsabilidad objetiva: para eximirse tienen que probar que fue imposible evitar el daño pese a haber ejercido un control adecuado, y la sola circunstancia de que el hecho ocurrió “a espaldas” de ellos no alcanza como excusa automática. En la práctica, esto significa que la familia de la víctima puede reclamar la reparación del daño (daño moral, tratamiento psicológico, etc.) contra los padres del autor.

- ¿Podrías dar consejos a las familias? ¿Qué es lo primero que debería hacer una familia si descubre que una imagen de su hijo o hija está circulando?

- El primer reflejo suele ser el equivocado. Recomiendo estos tres pasos, en orden:

• No reenviar ni difundir “para avisar”. El impulso de mandarle la imagen a otros padres, al grupo del curso o a la escuela para alertar termina multiplicando la circulación y el daño. Avisá con palabras, no reenviando el material.

• Preservar todo antes de que desaparezca. Capturas con fecha y hora visibles, enlaces, nombres de usuario, el grupo o canal de origen. El contenido en apps de mensajería es volátil: un grupo se borra o el autor elimina el mensaje en minutos.

• Denunciar de inmediato en la fiscalía o unidad especializada en delitos informáticos (UFECI a nivel federal, o la fiscalía local que corresponda), y pedir de entrada una medida cautelar de cese de difusión y baja del contenido.

• Y un cuarto punto: ya que estos hechos generan daño psíquico serio (ansiedad, aislamiento, vergüenza) aconsejo el acompañamiento profesional desde el minuto uno, y dejarle claro al chico o la chica que no es responsable de lo que le hicieron.

- ¿Conviene guardar capturas, enlaces y mensajes antes de denunciar?

- Sí, sin dudarlo. Es una de las cosas más importantes. La regla es preservar primero (antes de que el contenido pueda desaparecer), denunciar después. La prueba digital es volátil: el autor puede borrar el mensaje, el grupo puede eliminarse y con eso se evapora evidencia clave. ¿Qué guardar? capturas con fecha y hora visibles, la URL o enlace del contenido, los nombres de usuario y perfiles, el nombre del grupo o canal, y si es posible, los mensajes completos (no recortados). Cuanto más contexto quede registrado, mejor. Una advertencia importante: preservar para la denuncia está bien; reenviar el material a terceros puede a su vez configurar difusión.

- ¿Cómo se preserva mejor la prueba digital?

- Una captura de pantalla suelta sirve, pero es la forma más débil de preservación: en un juicio la defensa puede cuestionarla (¿quién me garantiza que no fue editada?). Para darle valor probatorio sólido conviene hacer un acta notarial de constatación: un escribano da fe de lo que ve en pantalla en ese momento (el contenido, la URL, la fecha). Le otorga fecha cierta y una presunción de veracidad difícil de rebatir. También sirven los servicios de certificación digital de evidencia: capturan el contenido con sello de tiempo y hash que garantiza que no fue alterado. Son rápidos y pensados justamente para contenido web volátil. Al radicar la denuncia, se puede pedir que la fiscalía o el cuerpo de peritos informáticos resguarde la evidencia y, si corresponde, oficie a la plataforma para que conserve los datos. La clave técnica de fondo es la cadena de custodia y la integridad del dato: que se pueda demostrar que lo que llega al expediente es exactamente lo que circulaba, sin manipulación. Por eso el hash y la fecha cierta importan tanto: son lo que transforma “una captura” en prueba.

- ¿Qué derechos tienen las víctimas para pedir la eliminación del contenido?

- Las víctimas tienen derecho a exigir que las imágenes desaparezcan de internet. La Justicia puede ordenar medidas cautelares para detener inmediatamente la difusión y obligar a las plataformas a retirar el contenido. A eso se suman las acciones previstas en la Ley de Protección de Datos Personales. Se puede reclamar la eliminación de datos e imágenes propias tratados sin consentimiento. Y por vía del derecho a la imagen y a la intimidad, la víctima puede exigir el cese de la difusión y la reparación del daño. En paralelo a la vía judicial, se puede solicitar la baja por los canales de reporte de cada plataforma. Cuando la víctima es menor, el estándar es más fuerte: rige el interés superior del niño, lo que obliga a los organismos a actuar con máxima celeridad y a las plataformas a priorizar la remoción.

- ¿Qué obligaciones tiene una institución educativa cuando detecta un caso de este tipo?

- La escuela no es un espectador neutral. Tiene deberes concretos: actuar de inmediato, sin esperar a que el caso se haga público o a que la familia denuncie. Tienen también el deber de denunciar/comunicar: ante un posible delito contra un menor, corresponde dar intervención a los organismos de protección de derechos del niño y a la Justicia. Además, deben activar el protocolo institucional: articular con la familia de la víctima, resguardar a los alumnos involucrados, y evitar acciones que revictimicen (por ejemplo, exponer a la víctima frente al curso o difundir el caso internamente sin cuidado). Asimismo, deben preservar y no destruir información relevante a la que la institución tenga acceso, poniéndola a disposición de la investigación. Por último, deben dar acompañamiento: garantizar contención y continuidad pedagógica de la víctima, y abordaje del alumno autor (que suele ser también un menor que requiere intervención).