Amanece una era inquietante cuando los expertos descubren la manipulación de Modelos generativos de IA por parte de los delincuentes., creando materiales realistas sobre abuso sexual infantil. Estos individuos hacen un mal uso de la IA de código abierto, generando imágenes que contribuyen a un entorno en línea angustiado.

No sólo comparten estos horribles conjuntos de datos; También han comercializado esta depravación, vendiendo suscripciones para acceder a este contenido ilegal.

La Internet Watch Foundation (IWF), una organización sin fines de lucro con sede en el Reino Unido, detalla este abuso en un reporte comprensivo. En junio de este año, la fundación identificó siete URL que contenían imágenes de abuso generadas por IA.

Una inmersión más profunda en un foro de la web oscura reveló la asombrosa cantidad de 3.000 imágenes, todas clasificadas como ilegales según la ley del Reino Unido.

Estas atrocidades creadas por la IA no se limitan a caras desconocidas. El abuso se extiende a niños reconocibles e incluso involucra imágenes de celebridades manipuladas para parecer más jóvenes.

Dan Sexton de IWF destaca que estas celebridades a menudo son representados como víctimas o incluso perpetradores.

Aunque el contenido generado por IA es aún menos frecuente en comparación con las imágenes reales de abuso sexual, el rápido avance alarma a los expertos.

Los investigadores de todo el mundo han identificado 13.500 imágenes creadas por IA, dice Lloyd Richardson del Centro Canadiense para la Protección Infantil, advirtiendo que esto es sólo el comienzo.

El devastador alcance de las capacidades de la IA

La IA actual puede crear arte y fotografías realistas, mostrando una nueva faceta de la creatividad. Sin embargo, estas capacidades también permiten la creación de imágenes convincentes e ilegales, desde maquetas de moda hasta figuras políticas manipuladas.

La tecnología depende de vastas bases de datos de imágenes, que a menudo agregan imágenes sin consentimiento, transformando solicitudes inocuas en resultados perturbadores.

Las víctimas son predominantemente mujeres, de entre 7 y 13 años.

Como era de esperar, los delincuentes han aprovechado estas herramientas para fines atroces.

Sexton explica que utilizan software público para sus actos atroces, haciendo referencia a la explotación frecuente del modelo Stable Diffusion por parte de Stability AI.

Aunque la empresa intentó contrarrestar el uso indebido con su última actualización de softwarelos delincuentes continúan usando versiones anteriores y modificándolas para producir contenido ilegal.

Estos delincuentes introducen en la IA fotografías de víctimas existentes, instándola a generar imágenes de individuos específicos, revictimizándolos en un ciclo digital interminable.

No sólo están intercambiando estas imágenes sino también solicitando víctimas particularesconvirtiendo el sufrimiento individual en un bien compartido.

Comprender el alcance total de esta crisis es desalentador. Centrados en un foro específico de la web oscura, los analistas de IWF encontraron más de 20.000 fotografías generadas por IA en un mes y dedicaron más de 87 horas a revisar la mitad de ellas.

Nishant Vishwamitra, profesor universitario que estudia los deepfakes en línea y las imágenes de abuso de IA, considera preocupante la escala de producción de estas imágenes.

El informe de la IWF indica que algunos abusadores incluso ofrecen servicios de imágenes personalizados, insinuando un futuro en el que estos las imágenes se vuelven indistinguiblemente realistas.

Medidas legales y tecnología preventiva

Muchas naciones consideran ilegal la creación y distribución de contenido abusivo generado por IA según los estatutos de protección infantil. Cada vez son más los pedidos de regulaciones más estrictas y se necesita una estrategia integral para abordar el contenido de abuso infantil en línea.

Richardson enfatiza que las medidas retrospectivas son meros remedios en este momento.

Empresas tecnológicas e investigadores proponen varias medidas para frenar la creación y difusión de este material, desde marcas de agua hasta detección rápida que podría generar dicho contenido. Sin embargo, las implementaciones de seguridad están retrasadas y la tecnología existente ya está causando daños.

Si bien estas medidas de protección son cruciales, la tecnología continúa evolucionando, lo que podría conducir a la generación de videos creados por IA. Sexton expresa su preocupación por el gran volumen de imágenes infantiles disponibles en línea, lo que complica la lucha contra esta explotación.

El futuro puede plantear desafíos a la hora de distinguir Imágenes generadas por IA a partir de abusos realeshaciendo del espacio digital un lugar cada vez más peligroso para los vulnerables.