La Comisión Europea ha iniciado una investigación contra X (anteriormente Twitter) por posibles infracciones del Reglamento de Servicios Digitales (DSA) derivadas del despliegue de algunas de las funcionalidades de Grok, su sistema de inteligencia artificial (IA) generativa. La Comisión pretende determinar si la empresa evaluó y mitigó adecuadamente los riesgos sistémicos que estas nuevas herramientas pueden generar en el entorno digital europeo, especialmente en lo relativo a la difusión de contenido ilegal o con efectos perjudiciales para los usuarios. Según la Comisión, la integración de Grok podría haber contribuido a la circulación de materiales ilícitos, incluidas imágenes manipuladas que podrían constituir abusos graves, como imágenes de menores desnudos (nudefakes), lo que supone un riesgo significativo para la seguridad e integridad de los ciudadanos de la Unión.
Paralelamente, la Comisión ha decidido ampliar la investigación iniciada en diciembre de 2023 sobre el cumplimiento por parte de X de sus obligaciones de gestión de riesgos en sus sistemas de recomendación. En particular, se examinará si la plataforma llevó a cabo el informe de evaluación de riesgos exigido para funcionalidades que puedan alterar de manera crítica su perfil de riesgo antes de su implementación. Además, la Comisión analizará si X ha tomado medidas diligentes para reducir los riesgos sistémicos relacionados con la difusión de contenido ilegal, los impactos vinculados a la violencia de género y las consecuencias negativas para el bienestar físico y mental de los usuarios europeos. La apertura del expediente no implica un juicio anticipado, pero permite a la Comisión recabar información adicional, realizar inspecciones y, en caso necesario, adoptar medidas provisionales para garantizar el cumplimiento de la normativa. Las autoridades europeas también podrán aceptar compromisos por parte de X destinados a corregir las deficiencias detectadas. La investigación se llevará a cabo con carácter prioritario y contará con la colaboración de Coimisiún na Meán, autoridad competente en el país de establecimiento de la plataforma dentro de la Unión (Irlanda).