Detenidos 25 miembros de una red que distribuía imágenes de abuso infantil generadas por IA

La Policía Nacional y la Europol han detenido a 25 miembros de una organización criminal dedicada a distribuir imágenes de abusos sexuales a menores generadas por inteligencia artificial. Según ha informado este viernes el cuerpo policial en un comunicado, se trata de una de las primeras operaciones en las que se investiga material de abuso infantil generado íntegramente por IA.

Dos de las detenciones han tenido lugar en Madrid y Barcelona. Además, se han llevado a cabo 33 registros en domicilios —cuatro de ellos en Madrid, Barcelona, Jaén y Málaga— y se han incautado de 173 dispositivos electrónicos, ocho de ellos en España con 16.800 archivos.

El inicio de la investigación se remonta a 2024, tras la detención de un ciudadano danés que lideraba una plataforma online dedicada a la distribución de material generado por IA. Los usuarios, tras realizar un pago simbólico, obtenían una contraseña para acceder a material y contenido que mostraba abusos a menores.

La operación ha contado con el apoyo operativo del Grupo de Trabajo Conjunto de Acción contra la Ciberdelincuencia (J-CAT) y el Centro Europeo de Ciberdelincuencia de Europol, que facilitaron el intercambio de información e inteligencia entre los distintos países implicados. De todas formas, la investigación sigue abierta y no se descartan nuevas detenciones en los próximos días.

En este contexto, la Policía Nacional ha explicado que el material sexual infantil autogenerado constituye una parte importante del total que se detecta, y que los delincuentes se sirven de modelos de IA capaces de generar o alterar imágenes para producir el material. Además, ha señalado que estos modelos están "ampliamente" disponibles y se han desarrollado "rápidamente" con resultados que actualmente se parecen cada vez más a las imágenes reales, lo que hace que sea más difícil identificarlos como material generado por IA.

Prevenir futuros delitos

Por otro lado, ha señalado que la operación internacional también está orientada a la adopción de medidas proactivas para prevenir futuros delitos. Por eso, Europol lanzará una campaña online en los próximos días en la que se subrayarán las consecuencias del uso de la IA con fines ilegales, con mensajes en línea para llegar a los compradores de este contenido, así como llamadas telefónicas y mensajes en las redes sociales.