Bloomberg — Europol ha informado de que 25 personas han sido detenidas como parte de un grupo que presuntamente distribuía imágenes de abusos sexuales a menores generadas por inteligencia artificial, en uno de los primeros casos importantes relacionados con este tipo de delito posibilitado por la tecnología.
La mayoría de las detenciones se produjeron el miércoles en el marco de una operación conocida como Operación Cumberland, que ha identificado a más de 250 sospechosos en 19 países, entre ellos el Reino Unido, Australia, Francia y Alemania, según informó Europol en un comunicado el viernes. Se producen tras la detención el año pasado de un danés que dirigía una plataforma en línea para distribuir material generado por inteligencia artificial que él mismo producía y por cuyo acceso otros pagaban. Se esperan más detenciones en las próximas semanas.
Europol, la agencia policial de la UE, declinó nombrar el modelo de IA utilizado para crear las imágenes, pero dijo que se había entrenado con material real de abusos sexuales a menores. Por esta razón, no debería considerarse un “delito sin víctimas”, dijo la portavoz Claire Georges en una entrevista. La agencia también declinó nombrar la plataforma utilizada para distribuir el material, pero Georges dijo que era “significativa, utilizada por delincuentes de todo el mundo”. Añadió que la agencia estaba coordinando nuevas acciones contra otras plataformas.
El auge de los deepfakes con IA es una preocupación creciente para las fuerzas del orden y los grupos de seguridad infantil. Los delincuentes pueden utilizar herramientas de generación de imágenes para crear fotografías de niños desnudos y sexualizados. Esto puede incluir imágenes de víctimas anteriores o de niños conocidos por el agresor. Estas imágenes también pueden crearse con fines de acoso y extorsión de menores.
Lea más: La IA es una burbuja a punto de estallar, insiste el veterano de Wall Street Jeremy Grantham
El sistema jurídico va por detrás de la tecnología. Aunque la posesión y distribución de imágenes generadas por IA es ilegal en muchos países, las imágenes pueden ser difíciles de detectar automáticamente utilizando la tecnología existente de escaneado de imágenes. Los modelos de IA utilizados para crearlas también están ampliamente disponibles. A principios de este año, el Reino Unido anunció que se convertiría en el primer país en declarar ilegal la creación y distribución de herramientas de IA diseñadas para generar material de abuso infantil.
Las organizaciones implicadas en la eliminación de material de abuso sexual infantil de Internet han advertido de una explosión de imágenes y videos generados por IA. El Centro Nacional para Menores Desaparecidos y Explotados (NCMEC), una organización sin ánimo de lucro con sede en Estados Unidos que gestiona un sistema de denuncia de casos de explotación sexual infantil en Internet, declaró en diciembre que había recibido más de 7.000 denuncias relacionadas con este tipo de contenidos.
La organización homóloga del NCMEC en el Reino Unido, la Internet Watch Foundation, también ha registrado un gran aumento de las denuncias. En enero dijo que había recibido 245 informes sobre material generado por IA en 2024, un aumento del 380% respecto al año anterior.
En octubre, un británico que utilizó IA para alterar fotografías de niños reales con el fin de crear imágenes de abusos sexuales fue condenado a 18 años de prisión. La investigación policial descubrió que Hugh Nelson, de 27 años, frecuentaba salas de chat encriptadas en Internet para intercambiar y vender las imágenes.
“Las fuerzas del orden tendrán que desarrollar nuevos métodos y herramientas de investigación para hacer frente a estos nuevos retos”, declaró Catherine De Bolle, directora ejecutiva de Europol, en un correo electrónico. La agencia ha pedido más legislación para abordar el problema, mejores herramientas forenses para la policía y más acción por parte de las empresas tecnológicas que construyen los modelos que pueden entrenarse para este fin.
Los grandes modelos lingüísticos más utilizados cuentan con fuertes salvaguardas para impedir que se utilicen para crear material de abuso sexual infantil, según Georges, pero hay una serie de modelos más pequeños utilizados con fines delictivos, conocidos como “LLM oscuros”, que carecen de estos controles.
Con la colaboración de Olivia Solon.
Lea más en Bloomberg.com
