Nuevo avance: YouTube exigirá que se identifiquen los videos generados por inteligencia artificial

(CNN) – YouTube pronto exigirá que se informe sobre los vídeos que incluyan contenido generado por inteligencia artificial y que pueda engañar a los espectadores.

La plataforma propiedad de Google ha prohibido durante mucho tiempo el contenido técnicamente manipulado que podría engañar a los espectadores y “representar un riesgo grave de daño atroz”. Pero con una nueva actualización anunciada el martes, YouTube ahora exigirá que los creadores agreguen etiquetas cuando suban contenido que incluya “contenido manipulado o sintético que sea realista, incluido el uso de herramientas de inteligencia artificial“.

La política tiene como objetivo ayudar a evitar que los usuarios se sientan confundidos por contenido sintético en medio de una proliferación de nuevas herramientas de inteligencia artificial orientadas al consumidor que hacen que sea rápido y fácil crear texto, imágenes, videos y audio atractivos que a menudo resultan difíciles de distinguir de los reales.

Las nuevas etiquetas solo serán necesarias para el contenido generado por IA o sintético que sea “realista”. Eso incluye, por ejemplo, videos que “representan de manera realista un evento que nunca sucedió, o contenido que muestra a alguien diciendo o haciendo algo que en realidad no hizo”, dijeron en un comunicado las vicepresidentas de gestión de productos de YouTube, Jennifer Flannery O’Connor y Emily Moxley.

“Esto es especialmente importante en los casos en que el contenido trata temas delicados, como elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos”, dijeron Flannery O’Connor y Moxley.

Los expertos en integridad de la información digital han expresado su preocupación de que el crecimiento de las herramientas de inteligencia artificial generativa pueda conducir a un auge en el contenido convincente, pero engañoso, que se comparte en las redes sociales y en Internet. La tecnología podría representar una amenaza particular antes de las elecciones en Estados Unidos y otros lugares en 2024.

YouTube es solo la última plataforma en introducir reglas destinadas a hacer que el contenido generado por IA sea más transparente. TikTok agregó una nueva etiqueta para el contenido generado por IA a principios de este año y dijo que los usuarios deben revelar cuándo se crea o edita con IA contenido que representa “escenas realistas”. Y Meta, la empresa matriz de Facebook e Instagram, dijo la semana pasada que los anunciantes políticos deberán revelar cualquier uso de IA en sus anuncios.

La nueva política de divulgación de YouTube también se produce después de que la plataforma lanzara en septiembre una serie de nuevas herramientas impulsadas por inteligencia artificial para ayudar a los creadores a producir videos y llegar a una audiencia más amplia en la plataforma. YouTube introdujo, por ejemplo, una función que permite a los creadores agregar videos o fondos de imágenes generados por IA a videos verticales y herramientas para ayudar a los creadores a redactar esquemas para videos.

La opción de adjuntar una etiqueta de divulgación generada por IA se agregará al flujo de carga de videos de YouTube y comenzará a implementarse a principios del próximo año, según un portavoz de la plataforma. Las etiquetas normalmente aparecerán en los paneles de descripción de los videos; sin embargo, para “ciertos tipos de contenido sobre temas delicados”, las etiquetas se colocarán de manera más destacada dentro del reproductor de video. El contenido creado con las propias herramientas de inteligencia artificial generativa de YouTube también estará etiquetado claramente.

YouTube dice que los usuarios que no cumplan con los nuevos requisitos serán responsables. Los creadores que constantemente no utilicen la nueva etiqueta en contenido sintético que debería divulgarse según la nueva política pueden enfrentar sanciones como la eliminación de contenido o la suspensión del programa de socios de YouTube, el que permite a los creadores poder monetizar su contenido. La plataforma también señaló que el contenido sintético o generado por IA que viole las pautas de su comunidad estará sujeto a las mismas restricciones o eliminaciones que otros videos.

Como parte del anuncio del martes, YouTube también dijo que ahora permitirá que las personas soliciten la eliminación de contenido generado por IA u otro contenido manipulado que simule a un individuo identificable, incluido su rostro o voz, bajo su proceso de solicitud de privacidad. El cambio se produce en medio de preocupaciones sobre un aumento de imágenes sexuales no consensuadas generadas por IA y otros contenidos que manipulan los rostros y las voces de las personas.

YouTube dice que considerará “una variedad de factores”, como si el contenido es satírico o presenta a una figura pública, al decidir si cumple con la solicitud de eliminación de un usuario.