Aunque apreciamos el potencial de la IA, queremos asegurarnos de que contamos con las medidas de protección necesarias a la hora de abordarla. Nuestras políticas y productos tienen como objetivo amparar y ayudar a los creadores en la era de la IA, y proteger a la comunidad de YouTube.

Como siempre, las Normas de la Comunidad son las pautas básicas que rigen todo el contenido de YouTube, incluido el generado por IA. También tenemos políticas específicas que guían la forma en que tratamos el contenido generado por IA, como los requisitos de divulgación y el etiquetado.

Exigimos a los creadores que avisen a la audiencia si el contenido realista incluye contenido multimedia alterado o sintético, como el producido con IA generativa. Las etiquetas pueden aparecer en la descripción del vídeo y, si el contenido está relacionado con temas sensibles (como la salud, las noticias, las elecciones o las finanzas), también podemos mostrar una etiqueta en el vídeo en sí.

Por otra parte, hemos actualizado nuestros estándares de privacidad para que sea posible solicitar la retirada de contenido generado por IA u otro tipo de contenido sintético o alterado que simulen a personas identificables (por ejemplo, su cara o su voz). Esas peticiones pueden hacerse mediante nuestro proceso de solicitudes de privacidad. No se retirará todo el contenido de este tipo de YouTube, ya que tendremos en cuenta una serie de factores a la hora de evaluar las solicitudes. Entre esos factores se incluye si el contenido es de carácter paródico o satírico, si se puede identificar de forma inequívoca a la persona que presenta la solicitud o si se muestra a un cargo público o a una figura muy conocida, en cuyo caso podrán aplicarse medidas más permisivas.

74%

de los creadores quieren directrices 
sobre publicación responsable
de contenido producido con IA generativa en redes sociales
y plataformas de vídeo

Fuente: Radius, mayo del 2024

Cómo funciona la moderación de contenido basada en IA

YouTube siempre ha combinado la revisión humana con el uso de tecnologías de aprendizaje automático para aplicar las Normas de la Comunidad. En nuestros sistemas, los clasificadores de IA nos ayudan a detectar a gran escala el contenido que podría infringir nuestras políticas, mientras que los revisores se encargan de confirmar si realmente se incumplen. Gracias a la IA, nuestros sistemas de moderación de contenido son cada vez más rápidos y precisos.

También colaboramos con otras empresas de los sectores de la tecnología y los medios de comunicación para establecer compromisos y estándares que respalden medidas más amplias en materia de uso responsable de la IA generativa, como elTech Accord on Deceptive AI Election Content y C2PA.

Enfoque centrado en la colaboración

En YouTube, tenemos el propósito de que nuestros creadores y partners prosperen en este panorama en constante evolución. Esto significa proporcionarles las herramientas que necesitan para aprovechar el potencial creativo de la IA y, al mismo tiempo, mantener el control sobre cómo se representa su apariencia, incluidos su rostro y su voz.

Para lograrlo, hemos desarrollado una herramienta de gestión de parecidos, que incluye una nueva tecnología de identificación de voces sintéticas en Content ID con la que los partners podrán detectar y gestionar automáticamente el contenido generado por IA en YouTube que simule sus voces al cantar. También hemos desarrollado otra tecnología que permitirá a personas de diversos sectores (creadores, actores, músicos, deportistas, etc.) detectar y gestionar el contenido generado por IA que muestre sus caras en YouTube.
 
Como siempre, seguiremos mejorando el diseño de dichas herramientas para equilibrar las grandes ventajas que ofrece esta tecnología y la seguridad ininterrumpida de nuestra comunidad.