La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura ha publicado un reciente estudio que pretende analizar cómo el uso de la inteligencia artificial regenerativa puede amplificar las formas de violencia de género facilitada por la tecnología (TFGBV) en diversas comunidades en línea. Según la organización, las conclusiones principales son las siguientes:
Aunque no existen estadísticas globales sobre la violencia sexual y de género en la era de la IA generativa, hay estimaciones globales relevantes de 2020 que muestran que el 58% de las mujeres jóvenes de todo el mundo se han enfrentado a algún tipo de violencia de género en plataformas de medios sociales. Además, la mayoría de las aplicaciones desarrolladas para ayudar a las mujeres a estar más seguras en Internet hacen recaer en la víctima la responsabilidad de protegerse contra los daños en línea.
La proliferación de la IA generativa trae consigo nuevos peligros, como la creación de contenidos falsos más realistas, «alucinaciones» o sesgos involuntarios en los resultados, campañas de acoso automatizadas y la posibilidad de construir «historias sintéticas», narraciones falsas y verosímiles.
La IA generativa puede conducir a un aumento del número de atacantes, a la creación de ataques sostenidos y automatizados y a la generación de contenidos como mensajes, textos y correos electrónicos escritos de forma convincente. Esto hace que daños ya existentes como la incitación al odio, el ciberacoso, la desinformación y la suplantación de identidad -todos los cuales figuran entre los cinco vectores más comunes de la violencia sexual y de género- tengan un alcance mucho mayor y sean más peligrosos.
Los modelos de IA pueden generar plantillas de ciberacoso y modifican imágenes para retratar a las personas en diversos escenarios no consentidos. La demostración también pone de relieve cómo estos daños generativos de la IA pueden utilizarse para propagar algunos de los daños más comunes de la violencia sexual y por motivos de género en la actualidad, como la suplantación de identidad, la piratería y el acoso, y el ciberacoso.
La lucha contra los daños causados por la TFGBV requiere una combinación de medidas tanto por parte de los desarrolladores de la tecnología como de las empresas que les sirven de plataforma, acciones específicas por parte de las organizaciones de la sociedad civil, regulación y políticas por parte de los gobiernos y concienciación a nivel individual.