La lucha de TikTok en contra de los deepfakes generados por IA

Hace unas semanas se hizo viral una canción que simulaba una colaboración entre los artistas internacionales Drake y The Weeknd, la cual había sido creada por inteligencia artificial generativa. Esta pieza fue publicada inicialmente en la red social TikTok por un usuario llamado Ghostwitter977, y posteriormente fue lanzada en otras plataformas de streaming bajo el nombre de artista Ghostwitter. En el momento en el que fue eliminada de estos servicios, la canción había alcanzado las 600.000 reproducciones en Spotify, 275.000 vistas en YouTube y 15 millones de vistas en TiktTok.

La generación de deepfakes deriva del uso de sistemas de inteligencia artificial para la alteración de fotogramas de vídeos digitales. Esta técnica puede entrañar una gran variedad de peligros, tales como el acoso a terceros mediante creación de vídeos porno con sus rostros, proliferación de fake news, uso de la imagen de terceros con fines no autorizados, etc. 

En vista de lo anterior, puede verificarse que el uso de la tecnología para la creación de deepfakes puede suponer un aumento considerable de la desinformación y la manipulación en internet. 

Como consecuencia de todo ello, desde TikTok se ha decidido luchar contra este fenómeno, desarrollando un sistema de inteligencia artificial (IA v.s IA) capaz de detectar estos deepfakes con el fin de proteger a sus usuarios frente a esta serie de peligros. En este sentido se pronunció un portavoz de la empresa, quien afirmaba: En TikTok creemos que la confianza forma la base de nuestra comunidad, y siempre estamos trabajando para avanzar en la transparencia y ayudar a los espectadores a comprender mejor el contenido que ven.