Wie wir Creatorn dabei helfen, veränderte oder synthetische Inhalte offenzulegen

Generative KI verändert die Art und Weise, wie sich Creator ausdrücken – von der Erstellung von Storyboards für Ideen bis zum Experimentieren mit verschiedenen Tools, die den kreativen Prozess unterstützen. Gleichzeitig wollen Zuschauer Transparenz darüber, ob der Inhalt, den sie sich ansehen, verändert wurde oder synthetisch erzeugt ist.

Deshalb führen wir heute ein neues Tool im Creator Studio ein, das Creator verpflichtet, Zuschauenden offenzulegen, wenn realistische Inhalte – also Inhalte, die Zuschauer*innen leicht mit einer realen Person, einem realen Ort, einer realen Szene oder einem realen Ereignis verwechseln könnten – mit veränderten oder künstlichen Medien, einschließlich generativer KI, erstellt wurden. Inhalte, die eindeutig unrealistisch sind, animiert sind, Spezialeffekte enthalten oder generative KI zur Unterstützung der Produktion verwendet haben, müssen nicht offengelegt werden.

Dies baut auf unserem im November angekündigten Ansatz für verantwortungsvolle KI-Innovationen auf. Dieser umfasst Offenlegungsanforderungen und Kennzeichnungen sowie ein aktualisiertes Verfahren für Datenschutzanfragen und stellt sicher, dass Verantwortung in alle unsere KI-Produkte und -Funktionen integriert ist.

Dieses neue Label soll die Transparenz gegenüber den Zuschauern erhöhen und das Vertrauen zwischen Creatorn und ihrem Publikum stärken. Beispiele für Inhalte, die mit einem Label gekennzeichnet werden müssen:

• Realistische Personen: Digitale Veränderung von Inhalten, in denen das Gesicht einer Person durch das Gesicht einer anderen Person ersetzt oder die Stimme einer Person für ein Video synthetisch erzeugt wird.
• Reale Ereignisse oder Orte: Inhalte, in denen beispielsweise der Eindruck erweckt wird, dass ein echtes Gebäude brennt oder eine reale Stadtlandschaft so verändert wird, dass sie nicht mehr der Wirklichkeit entspricht.
• Realistische Szenen: Realistische Darstellung fiktiver Katastrophen, wie ein Wirbelsturm, der sich auf eine echte Stadt zubewegt.

Wir wissen natürlich, dass Creator generative KI auf verschiedene Weise im Erstellungsprozess einsetzen. Creator müssen nicht offenlegen, wenn generative KI für produktive Prozesse verwendet wird – also etwa für die Skripterstellung, bei der Ideenfindung für neue Inhalte oder für die Erstellung automatischer Untertitel. Das gilt auch, wenn synthetische Medien unrealistisch und/oder die Änderungen unwesentlich sind.

Beispiele:

• Eindeutig unrealistische Inhalte, zum Beispiel Animationen oder wenn jemand auf einem Einhorn durch eine Traumwelt reitet
• Farbanpassungen oder Beleuchtungsfilter
• Spezialfilter, z. B. für Vintage-Effekte oder zur Weichzeichnung des Hintergrunds
• Kosmetische Filter oder andere visuelle Verbesserungen

Weitere Beispiele findet ihr in der YouTube-Hilfe. Bei den meisten Videos wird eine Kennzeichnung in der erweiterten Beschreibung angezeigt, aber bei Videos, die heikle Themen wie Gesundheit, Nachrichten, Wahlen oder Finanzen behandeln, zeigen wir auch eine präsentere Kennzeichnung im Video selbst an.

In den kommenden Wochen werden die Labels auf allen YouTube-Oberflächen und -Formaten eingeführt, zunächst in der YouTube-App auf deinem Handy und bald auch auf eurem Desktop und Fernseher. Wir wollen unserer Community Zeit geben, sich an die neuen Prozesse und Funktionen zu gewöhnen. Für Creator, die sich allerdings konsequent gegen die Offenlegung entscheiden, überlegen wir uns künftig entsprechende Maßnahmen zur Durchsetzung. In einigen Fällen kann YouTube Inhalte mit einem Label kennzeichnen, auch wenn es der Creator nicht getan hat, nämlich dann, wenn der veränderte oder synthetische Inhalt die Zuschauer verwirren oder in die Irre führen könnte.

Wichtig ist, dass wir weiterhin branchenübergreifend zusammenarbeiten, um die Transparenz bei digitalen Inhalten zu erhöhen. Dazu gehört unsere Arbeit als führendes Mitglied der Coalition for Content Provenance and Authenticity (C2PA).

Parallel dazu arbeiten wir, wie bereits angekündigt, weiter an einem aktualisierten Datenschutzverfahren, mit dem Nutzer*innen die Entfernung von KI-generierten oder anderen synthetischen oder veränderten Inhalten beantragen können, die eine identifizierbare Person, einschließlich ihres Gesichts oder ihrer Stimme, simulieren. Wir werden bald mehr darüber berichten, wie wir diesen Prozess weltweit einführen werden.

Creator sind das Herz von YouTube. Sie werden auch weiterhin eine äußerst wichtige Rolle dabei spielen, den Zuschauern die Welt der generativen KI verständlich zu machen, ihnen die Angst davor zu nehmen und ihnen zu helfen, sich darauf einzulassen. Dies ist ein kontinuierlicher Prozess, und mit zunehmenden Erkenntnissen werden wir die entsprechenden Tools und Maßnahmen nach und nach anpassen. Wir hoffen, dass diese erhöhte Transparenz dazu beiträgt, dass wir alle die Möglichkeiten der KI zur Förderung der menschlichen Kreativität besser zu würdigen lernen.