Nuestro enfoque hacia la innovación responsable con Inteligencia Artificial
14 Nov, 2023 – mins de lectura
La Inteligencia Artificial generativa tiene el potencial de desbloquear la creatividad en YouTube y transformar la experiencia de los espectadores y creadores en nuestra plataforma. Sin embargo, es igualmente importante que estas oportunidades se equilibren con nuestra responsabilidad de proteger a la comunidad de YouTube. Todo el contenido que se carga en la plataforma está sujeto a nuestros Lineamientos de la Comunidad, independientemente de cómo se genere. También sabemos que esta tecnología puede introducir nuevos riesgos y requerirá nuevos enfoques.
Estamos en las primeras etapas de nuestro trabajo y continuaremos evolucionando nuestro enfoque a medida que aprendamos más. A continuación, mostramos un vistazo de lo que YouTube implementará en los próximos meses y durante el siguiente año.
Requisitos de divulgación y nuevas etiquetas de contenido
Creemos que es de interés general mantener un ecosistema de información saludable en YouTube. Contamos con políticas longevas que prohíben el contenido técnicamente manipulado que engañe a los espectadores y pueda representar un riesgo grave de fuerte daño. Sin embargo, las nuevas y poderosas formas de contar historias a través de la inteligencia artificial también pueden usarse para generar contenido que tiene el potencial de engañar a los espectadores, especialmente si no saben que el video ha sido manipulado o creado sintéticamente.
Para abordar esta preocupación, en los próximos meses, implementaremos actualizaciones que informarán a las personas cuando el contenido que están viendo es sintético. Específicamente, requeriremos a los creadores que revelen cuando han creado contenido manipulado o sintético que luzca realista, incluso utilizando herramientas de inteligencia artificial. Cuando los creadores suban contenido, tendremos nuevas opciones para que seleccionen e indiquen si el material es manipulado o sintético. Por ejemplo, podría ser un video generado por IA que represente de manera realista un evento que nunca sucedió, o contenido que muestre a alguien diciendo o haciendo algo que en realidad no hizo.
Esto es especialmente importante en los casos en que el contenido aborda temas sensibles, como elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos. Los creadores que opten sistemáticamente por no revelar esta información pueden estar sujetos a la eliminación de contenido, la suspensión del Programa de socios de YouTube u otras sanciones. Trabajaremos con los creadores antes de que esto se implemente para asegurarnos de que comprendan estos nuevos requisitos.
Informaremos a los espectadores que el contenido puede ser manipulado o sintético de dos maneras. La primera, se agregará una nueva etiqueta al panel de descripción que indica que parte del contenido fue alterado o generado digitalmente. Y para ciertos tipos de contenido sobre temas sensibles, aplicaremos una etiqueta más prominente al reproductor de video.
Hay algunas áreas en las que una etiqueta por sí sola puede no ser suficiente para mitigar el riesgo de daño, y algunos medios sintéticos, independientemente de si están etiquetados o no, se eliminarán de nuestra plataforma si violan nuestros Lineamientos de la Comunidad. Por ejemplo, un video creado sintéticamente, que muestra violencia realista, aún puede eliminarse si su objetivo es impactar o disgustar a los espectadores.
Y en el futuro, a medida que se implementen estas nuevas actualizaciones, el contenido creado por los productos y funciones de inteligencia artificial generativa de YouTube se etiquetará claramente como: generado por Inteligencia Artificial.
Nuevas opciones para creadores, espectadores y artistas
Hemos escuchado comentarios continuos de nuestra comunidad, incluidos creadores, espectadores y artistas, sobre cómo las tecnologías emergentes podrían impactarlos. Esto es especialmente cierto en los casos en que el rostro o la voz de alguien podría generarse digitalmente sin su permiso o para tergiversar sus puntos de vista.
Por eso, en los próximos meses, permitiremos solicitar la eliminación de contenido generado por Inteligencia Artificial generativa u otro contenido sintético o manipulado que simule a un individuo identificable, incluida su cara o voz, mediante nuestro proceso de Reclamo de Privacidad. No todo el contenido se eliminará de YouTube, y consideraremos una variedad de factores al evaluar estas solicitudes. Esto podría incluir si el contenido es una parodia o sátira, si la persona que realiza la solicitud puede ser identificada de manera única, o si presenta a un funcionario público o individuo conocido, en cuyo caso puede haber un estándar más alto.
También estamos introduciendo la capacidad para que nuestros socios musicales soliciten la eliminación de contenido de música generado por inteligencia artificial que imita la voz de canto o el estilo de rap único de un artista. Al determinar si conceder una solicitud de eliminación, consideraremos factores como si el material es objeto de informes de noticias, análisis o crítica de las voces sintéticas. Estas solicitudes de eliminación estarán disponibles para los sellos discográficos o distribuidores que representan a los artistas que participan en los primeros experimentos de música con Inteligencia Artificial en YouTube. Continuaremos ampliando el acceso a disqueras y distribuidores adicionales en los próximos meses.
Implementación de tecnología con Inteligencia Artificial para impulsar la moderación de contenido
YouTube siempre ha utilizado una combinación de personas y tecnologías de aprendizaje automático para hacer cumplir nuestros Lineamientos de la Comunidad, con más de 20 mil supervisores en Google que operan en todo el mundo. En nuestros sistemas, los clasificadores de IA ayudan a detectar contenido potencialmente violatorio a gran escala, y los verificadores trabajan para confirmar si el contenido realmente ha cruzado los límites de las políticas. Esta tecnología está aumentando continuamente, tanto en velocidad como en la precisión de nuestros sistemas de moderación de contenido.
Uno de los claros efectos ha sido la identificación de nuevas formas de abuso. Cuando surgen nuevas amenazas, nuestros sistemas tienen relativamente poco contexto para comprenderlas e identificarlas a gran escala. Pero la Inteligencia Artificial generativa nos ayuda a expandir rápidamente el conjunto de información con el que se entrenan nuestros clasificadores de esta herramienta, lo que significa que podemos identificar y capturar este contenido mucho más rápido. La mejora de velocidad y precisión de nuestros sistemas también nos permite reducir la cantidad de contenido dañino al que están expuestos los supervisores humanos.
Integrando la responsabilidad en nuestras herramientas y funciones de Inteligencia Artificial
A medida que continuamos desarrollando nuevas herramientas de Inteligencia Artificial para los creadores, nuestro enfoque sigue siendo coherente con la forma en que hemos abordado algunos de nuestros mayores desafíos de responsabilidad: creemos en tomarnos el tiempo para hacer las cosas bien, en lugar de esforzarnos por ser los primeros.
Estamos pensando detenidamente en cómo podemos aprovechar años de inversión en los equipos y la tecnología capaces de moderar el contenido a nuestra escala. Esto incluye un trabajo significativo y continuo para desarrollar protecciones que evitarán que nuestras herramientas de IA generen el tipo de contenido que no pertenece a YouTube.
También reconocemos que los malos actores inevitablemente intentarán eludir estas protecciones. Por ello, incorporaremos los comentarios y el aprendizaje de los usuarios para mejorar continuamente la protección. Y dentro de nuestra empresa, equipos dedicados como nuestro departamento de inteligencia están específicamente enfocados en pruebas adversas y detección de amenazas para garantizar que nuestros sistemas enfrenten nuevos desafíos a medida que surjan.
La transformación de la inteligencia artificial está a nuestra puerta
Aún estamos al comienzo de nuestro viaje para desbloquear nuevas formas de innovación y creatividad en YouTube con Inteligencia Artificial generativa. Estamos extremadamente emocionados por el potencial de esta tecnología y sabemos que lo que viene a continuación repercutirá en las industrias creativas durante los próximos años. Nos estamos tomando el tiempo para equilibrar estos beneficios, así como garantizar la seguridad de nuestra comunidad en estos momentos tan cruciales, seguiremos trabajando de la mano con creadores, artistas y otras personas en las industrias creativas para construir un futuro que nos beneficie a todos.