San Luis: la Justicia ordenó bloquear un sitio que generaba imágenes íntimas simuladas con inteligencia artificial
La Justicia de San Luis dispuso una medida cautelar para bloquear en todo el país un sitio web que permite generar imágenes íntimas simuladas mediante inteligencia artificial, luego de que un menor de edad utilizara esa plataforma para crear y difundir imágenes de adolescentes a través de la red social Facebook.
La medida fue solicitada por la Fiscal de Instrucción Penal N.º 2 de San Luis, con intervención en contextos de género, diversidad sexual, infancias y adultos mayores, Antonella Córdoba, en el marco de una investigación vinculada a la creación y difusión de imágenes sin consentimiento.
Según consta en el expediente, las imágenes simulaban desnudos de adolescentes, utilizando fotografías reales de las jóvenes, cuyos rostros eran incorporados digitalmente a cuerpos que no les pertenecían.
Durante la investigación, se logró identificar al menor que generó y difundió el contenido, así como también detectar la aplicación utilizada para la creación de las imágenes. El Departamento de Delitos Complejos explicó que se trata de una plataforma que emplea inteligencia artificial avanzada y algoritmos de aprendizaje profundo, capaces de analizar imágenes, eliminar digitalmente la ropa y producir contenido simulado de forma automática.
La aplicación se encontraba disponible para dispositivos Android, iOS y Windows, y sus desarrolladores no brindan información pública que permita su identificación.
En la descripción del sitio web, los responsables afirmaban que no almacenaban datos, que no asumían responsabilidad por el contenido generado y que el procesamiento de imágenes de menores era imposible. No obstante, la Fiscalía consideró que la plataforma permitía la manipulación de imágenes de terceros sin consentimiento, lo que motivó la solicitud de bloqueo.
La presentación judicial señala que la utilización de este tipo de herramientas vulnera el derecho a la privacidad y puede facilitar situaciones de violencia digital, en especial cuando involucra a niñas, niños y adolescentes.
La medida se enmarca en normativas nacionales e internacionales, entre ellas la Convención sobre los Derechos del Niño, la Ley 26.061 de Protección Integral de Niñas, Niños y Adolescentes y la denominada Ley Olimpia, que incorpora las agresiones digitales como una forma de violencia.
