Si la posesión o consulta de imágenes de pornografía infantil está penada en muchos países, ¿qué ocurre cuando los niños representados en esas imágenes no son personas reales, sino personajes ficticios creados por inteligencia artificial (IA) generativa? Un tribunal británico ha examinado la cuestión y ha condenado por primera vez a un hombre a no utilizar más herramientas de inteligencia artificial generativa sin la autorización de un agente de policía, informa The Guardian.
Anthony Dover, un británico de 48 años, recibió esta orden judicial de no utilizar, visitar ni acceder más a estas herramientas digitales, como condición de una orden judicial destinada a prevenir delitos contra niños. De hecho, el individuo fue declarado culpable de haber creado más de mil imágenes que mostraban a niños pequeños en posturas o atuendos sexualizados, utilizando IA generativa.
Lea también: Los deepfakes pornográficos dirigidos a Taylor Swift crean conciencia sobre los peligros de la IA
El tribunal de Poole (sur de Inglaterra), que le prohibió utilizar IA para generar imágenes de pornografía infantil, también le impuso una multa de 200 libras esterlinas. Según el tribunal, el objetivo es en particular el software "Stable Diffusion": éste, a diferencia de otros algoritmos desarrollados por empresas privadas, es de código abierto, es decir, su código es directamente accesible a los usuarios. Aunque el software prevé restricciones de uso, en particular para evitar usos contrarios a determinadas leyes sobre la prevención de deepfakes (“hiperfalsificación” de fotos o vídeos) o precisamente el uso de pornografía infantil, este software es utilizado indebidamente por personas regularmente para crear contenido sexual. contenido.
Además de generar imágenes de pornografía infantil, este software también se ha utilizado para crear deepfakes sexuales de personas reales, por ejemplo celebridades. El gobierno británico acaba de anunciar la semana pasada que la creación de deepfakes sexualmente explícitos, que presenten imágenes de personas que no han dado su consentimiento, pronto quedará prohibida por una ley específica. Las penas incurridas podrían incluir prisión.
En el Reino Unido, las leyes vigentes desde el decenio de 1990 que prohíben la posesión de imágenes de pornografía infantil ya se habían utilizado para condenar a personas que habían realizado fotomontajes utilizando programas de edición de imágenes.
Varias asociaciones que vigilan la delincuencia en línea celebraron la decisión del tribunal de Poole, como la Internet Watch Foundation (IWF), que aplaudió en un comunicado una decisión “histórica”, considerando que el software de IA generativa es “fábricas capaces de producir los peores crímenes”. imágenes”. La directora general de esta asociación, Susie Hargreaves, estimó que este tipo de desviación del uso de la IA está "en aumento" y permite producir imágenes "cada vez más realistas".
