La plataforma de vídeos anunció recientemente un nuevo enfoque hacia “la innovación responsable de la IA” después de que Bad Bunny criticara una canción de reguetón que utilizó un sistema de IA para emular su voz. La canción llamada NostalgIA, creada por el usuario “FlowGPT”, dedicado a crear pistas de audio con sistemas de IA, tuvo una gran repercusión mundial y ha vuelto a poner sobre la mesa los riesgos subyacentes al uso de IA generativas.
Si bien Youtube considera a la IA generativa un elemento con capacidad de transformar la experiencia de los espectadores y creadores de vídeos de la plataforma, estima crucial equilibrar las oportunidades que los sistemas de IA ofrecen y su responsabilidad de proteger a la comunidad de usuarios.
En esta misma línea, Youtube ha añadido que el contenido subido a la plataforma debe cumplir sus políticas y términos, sin importar el método de generación. Para paliar esta situación, plantea introducir requisitos de divulgación, nuevas etiquetas de contenido y actualizaciones que informarán a los usuarios cuando estén viendo contenido creado con sistemas de IA. De forma práctica, se añadirán dos etiquetas: una en la descripción que indique si el vídeo, o parte del mismo, fue alterado digitalmente y otra más visible en el propio reproductor cuando se traten temas de mayor sensibilidad, como por ejemplo elecciones; conflictos actuales; crisis de salud pública o acciones de personajes públicos.
Por último, se implementarán dos nuevas opciones dirigidas a los creadores de contenido, enfocadas en la facultad de solicitar la eliminación de contenido generado por IA cuando éste represente a un individuo identificable y la posibilidad de que los artistas musicales soliciten la eliminación de contenido generado por IA que imite su estilo o voz.