El uso de inteligencia artificial para manipular imágenes y crear fotografías íntimas falsas sin consentimiento se ha convertido en un problema cada vez más frecuente en internet, situación que ha afectado principalmente a mujeres, adolescentes y niñas, por lo que organizaciones tecnológicas han desarrollado herramientas que permiten rastrear y bloquear este contenido una vez que comienza a circular en plataformas digitales.
Este tipo de montajes, conocidos como deepfakes, pueden generarse a partir de una fotografía común publicada en redes sociales, ya que basta con que una persona descargue la imagen y la procese con un sistema de inteligencia artificial para producir una fotografía íntima que nunca existió, aunque posteriormente puede difundirse como si fuera real.
Ante este escenario, plataformas especializadas han creado mecanismos que permiten identificar ese material y solicitar su eliminación de forma automatizada, lo que ha sido señalado como una herramienta para frenar su difusión en línea.
Te podría interesar
¿Cómo funcionan las plataformas para eliminar imágenes?
De acuerdo con información difundida por las plataformas StopNCII y el National Center for Missing and Exploited Children (NCMEC), actualmente existen sistemas que permiten rastrear y bloquear imágenes íntimas difundidas sin consentimiento.
Estas herramientas funcionan mediante la creación de una huella digital única llamada “hash”, que se genera a partir de la imagen denunciada, lo que permite que el sistema identifique el archivo sin necesidad de almacenar la fotografía original.
Una vez generado este código matemático, la huella digital se comparte con distintas empresas tecnológicas y plataformas digitales para que sus sistemas de moderación puedan detectar la imagen en caso de que alguien intente publicarla nuevamente.
Con este método, las plataformas pueden bloquear la subida del contenido, eliminar publicaciones existentes o impedir que el archivo vuelva a circular en internet.
Paso a paso para eliminar imágenes íntimas difundidas sin consentimiento
Las organizaciones especializadas recomiendan actuar con rapidez cuando una persona descubre que una fotografía suya o de un menor ha sido manipulada o difundida sin autorización.
El primer paso consiste en descargar la imagen o video que se desea eliminar y guardarlo en el dispositivo personal, ya que el archivo será necesario para iniciar el proceso de identificación en internet.
Posteriormente se debe ingresar a la plataforma correspondiente, ya que StopNCII está dirigida a casos en los que la persona afectada es adulta, mientras que el sitio Take It Down del National Center for Missing & Exploited Children está enfocado en víctimas menores de edad.
Dentro del sistema es posible abrir un caso, subir la imagen y confirmar que quien realiza la solicitud es la persona afectada o su tutor legal, además el proceso se realiza de forma anónima y gratuita.
Redes sociales y buscadores pueden bloquear las imágenes automáticamente
Después de que el sistema genera el “hash”, ese identificador se envía a distintas plataformas colaborativas como redes sociales, buscadores y sitios web de contenido digital, donde se integra a sus sistemas de moderación.
Cuando la imagen aparece en alguna de estas plataformas, el sistema puede reconocer automáticamente la huella digital y proceder a bloquear la publicación o eliminar el contenido que ya se encuentra disponible en línea.
De acuerdo con los datos difundidos por estas organizaciones, el sistema ha permitido eliminar más de 200 mil imágenes íntimas difundidas sin consentimiento durante los últimos años, además se estima que tiene una efectividad cercana al 90 por ciento en la detección y retiro de este tipo de material.