El uso de videovigilancia basada en IA fue consentido por las autoridades y aprobado por ley en mayo de 2023. No obstante, ha generado mucho revuelo por las posibles implicaciones para la privacidad. Esta tecnología se implementó en las estaciones de metro más cercanas al acceso al estadio donde tuvieron lugar los conciertos de la cantante en París.
La Prefectura de la Policía de la capital francesa justificó el uso de esta tecnología “dadas las circunstancias actuales, ya que un evento así está altamente expuesto a actos terroristas”. Esta tecnología estuvo implementada de manera temporal durante la semana del 7 al 14 de mayo, y sirve como primera toma de contacto, de cara a los Juegos Olímpicos de este verano, que son el principal motivo por el que se aprobó la ley.
Esta tecnología utiliza un software algorítmico basado en IA para analizar en tiempo real la señal de video de las cámaras de videovigilancia, lo que permite ahorrar recursos, ya que no requiere de un equipo de gente dedicado a analizar cada imagen. De acuerdo con el marco legal francés, esta tecnología no utiliza datos biométricos para la identificación, como pueden ser tecnología de reconocimiento facial, sino que se basa en comportamientos que puedan resultar sospechosos.
No obstante, algunos grupos se han mostrado críticos con la aprobación de esta ley y con la implementación de esta tecnología, argumentando que esta tecnología está basada en machine learning, por lo que es muy complicado que se pueda entrenar de manera fiable al no contarse con grandes repositorios de imágenes y videos de ataques terroristas. Los sectores más críticos cuestionan, además, la efectividad de esta tecnología, que por el momento solo se sabe que sería útil en delincuencia de muy bajo nivel.
Adicionalmente, el argumento con más peso contra el uso de esta tecnología es su impacto sobre derechos fundamentales como la libertad de expresión o de asociación, así como la posible estigmatización y discriminación de determinados grupos de la población. Así mismo, existe el miedo de que esta tecnología no tenga un carácter temporal, ya que a pesar de que originalmente la ley se aprobó con el propósito de implementar la videovigilancia basada en IA para los Juegos Olímpicos y Paralímpicos 2024, hasta la fecha se podrá utilizar en grandes eventos deportivos y culturales con el fin de probarla, pero no se descarta que su uso se amplíe y prolongue si la tecnología demuestra su efectividad.