La Seguridad Social española hace uso de un sistema de inteligencia artificial del que no ha informado

En los últimos meses, Lighthourse Reports y El Confidencial han estado llevando conjuntamente una investigación que ha tenido como resultado el descubrimiento del uso por parte de la Seguridad Social española de una herramienta basada en la inteligencia artificial (IA) con el objetivo de tratar de predecir la probabilidad de que una persona de baja ya está facultada para volver a su trabajo, y la probabilidad de que se trate de un posible caso de fraude, por estar recibiendo una prestación indebidamente.

Para ello, la Seguridad Social estaría tratando datos de salud, una categoría de datos especialmente protegidos según la normativa en materia de protección de datos (el Reglamento General de Protección de Datos y la Ley Orgánica de Protección de Datos y garantía de derechos digitales). Y no solo eso, sino que no se ha informado del uso de esta herramienta para tratar datos ni del tratamiento en sí.

Lighthouse y el medio español han podido acceder, según relatan, a los criterios que basan el funcionamiento de esta herramienta, un total de dos algoritmos:

• El llamado “Primeras Citas”: estudia todos los expedientes de baja laboral sobre las que todavía no hay un diagnóstico médico.
• El llamado “Citas Sucesivas”: para aquellos expedientes sobre los que ya hay dicho diagnóstico.

En concreto, según los investigadores, los datos personales tratados serían: sexo, edad, lugar de residencia, historial de bajas médicas y datos sobre el diagnóstico, si cabe.

Cabe tener en cuenta que el uso de esta herramienta no solo compromete el derecho fundamental a la protección de datos de los ciudadanos, sino que puede tener implicaciones en la posibilidad de los mismos a acceder a una prestación pública, sin una base fiable ni transparente. Esto último porque no se ha podido saber con precisión cómo funciona el sistema de IA.