El Sumario – La red social TikTok anunció nuevas restricciones para las publicaciones que alteren rostros de personas con apoyo de la Inteligencia Artificial para engañar a los usuarios y crear contenido falso.

Este tipo de videos permite modificar la cara de la persona con IA al punto de parecer otra, como por ejemplo un famoso. Así, los usuarios pueden difundir comentarios falsos, homofóbicos, transfóbicos, racistas y en general de odio.

Los videos con rostros modificados son conocidos como deepfakes y han sido una preocupación en el último tiempo, tras la aparición de filtros detallados y de herramientas de inteligencia artificial que permiten generar credibilidad.

Para detener los nuevos videos falsos, los usuarios están obligados a etiquetar todo el contenido de este tipo como «generado con inteligencia artificial».

Los demás podrán ver un sticker en la descripción del video, similar a la del filtro o la música, y se les informará que la tecnología podría estar generando una potencial suplantación.

La red social tampoco permitirá ningún contenido que «contenga semejanza con cualquier figura privada real», esto para evitar que alguien se haga pasar por una celebridad, un político o un líder de opinión y promueva información falsa.

TikTok etiquetará todos los videos alterados con inteligencia artificial como «sintéticos y manipulados», al tiempo que los sumará a las prohibiciones que tienen otros temas como contenido sexual, violencia gráfica o discursos de odio.

Las regulaciones llegan en momentos en los que TikTok se enfrenta a una posible prohibición en Estados Unidos, al limitar su acceso en los teléfonos del gobierno, militares y algunas universidades, al igual que sucedió en la Unión Europea, Reino Unido, Canadá y Nueva Zelanda.