El Gobierno del Reino Unido ha introducido una legislación pionera destinada a combatir la producción de material de abuso sexual infantil generado por inteligencia artificial, enfocándose en el desarrollo de los propios modelos de IA. La nueva medida, presentada como una enmienda al Proyecto de Ley de Delincuencia y Policía del Reino Unido, permitirá a organismos designados probar legalmente los sistemas de IA en busca de vulnerabilidades en esta materia antes de su puesta a disposición o comercialización.
Esta acción legislativa responde a datos alarmantes de la Internet Watch Foundation (IWF), los cuales revelan que los reportes de este tipo de materiales generados por IA se han más que duplicado en el último año, pasando de 199 en el periodo de enero a octubre de 2024 a 426 en el mismo periodo de 2025. La IWF también alertó sobre un aumento en las representaciones de víctimas en la franja de 0 a 2 años y un incremento en la severidad del contenido.
Bajo la ley actual, que criminaliza la posesión y creación de este tipo de contenido sexual infantil, los propios desarrolladores no podían realizar pruebas de seguridad efectivas por temor a incurrir en posibles responsabilidades penales. La enmienda crea ahora un marco legal seguro para que entidades autorizadas, que incluirán tanto a los desarrolladores de IA como a organizaciones de protección infantil como la IWF, puedan realizar estas pruebas de forma segura y de forma voluntaria para garantizar que el sistema de IA en cuestión impida realizar dichas labores.
Si bien la industria y organizaciones como la IWF han aplaudido la medida como un paso vital hacia la seguridad por diseño en el marco de la IA, otras voces, como la organización benéfica NSPCC, han instado al gobierno a ir más allá. Advierten que para que la ley sea verdaderamente efectiva, estas pruebas de seguridad no deberían ser opcionales, sino constituir una obligación para todos los desarrolladores de IA que operen en el país.