La Eurocámara acordó el pasado miércoles que defenderá prohibir el reconocimiento facial masivo para la vigilancia de espacios públicos durante las negociaciones de las reglas del uso de la inteligencia artificial (IA).
Este mes comienza la negociación sobre la propuesta presentada en abril de 2021 de la Ley europea sobre Inteligencia Artificial, con el fin de fijar unos estándares de seguridad y de derechos fundamentales, así como de establecer normas estrictas en el uso de modelos de lenguaje artificial (como ChatGPT).
Pese a que Bruselas inicialmente se inclinaba por distinguir como sistemas de “alto riesgo” y prohibir su uso, salvo circunstancias excepcionales y previa autorización judicial, de sistemas como la vigilancia biométrica, los eurodiputados han ido un paso más allá, apostando por incluirlos en el listado de herramientas que plantean un “riesgo inaceptable”, de modo que quede prohibido su uso en todo caso.
En este listado se pretende incluir igualmente a las herramientas de reconocimiento de emociones y los sistemas policiales predictivos. Concretamente, se defenderá prohibir en todo caso el uso de sistemas de reconocimiento de emociones por las fuerzas de seguridad, en la gestión de fronteras, los lugares de trabajo o las instituciones de enseñanza; así como el rastreo indiscriminado de imágenes faciales sacadas de Internet o de circuitos cerrados de televisión para crear bases de datos de reconocimiento facial (porque violan los derechos humanos y el derecho a la intimidad).
Respecto a las normas de los modelos de lenguaje artificial, los eurodiputados piden requisitos adicionales de transparencia, en especial con el fin de alertar con avisos claros que los contenidos han sido generados con IA.