Die vier Stufen der Verantwortung, Teil 2: Verlässliche Inhalte fördern und die Verbreitung grenzwertiger Inhalte und schädlicher Fehlinformationen reduzieren

YouTube ist eine offene Videoplattform, auf der jeder Videos hochladen und mit der Welt teilen kann. Diese Offenheit bringt enorme Möglichkeiten, aber auch einige Herausforderungen mit sich. Wir unterstützen Menschen dabei, ihrer Kreativität Ausdruck zu verleihen. Gleichzeitig wissen wir aber auch, dass dies in einem verantwortungsvollen Rahmen geschehen muss.

In unseren Community-Richtlinien haben wir die Regeln festgelegt, die auf YouTube gelten. Ob diese Regeln beim Erstellen von Videos eingehalten wurden, überprüfen bei uns sowohl Menschen als auch automatisierte Systeme. So sind wir mittlerweile in der Lage, mehr Inhalte zu entfernen, die gegen unsere Richtlinien verstoßen, als je zuvor. Allerdings wird es auf YouTube immer wieder Inhalte geben, bei denen für einen Verstoß gegen die Richtlinien nicht viel fehlt. Deshalb haben wir in den letzten Jahren daran gearbeitet, Inhalte von verlässlichen Quellen auf YouTube zu fördern und die Verbreitung von grenzwertigen Inhalten und schädlichen Fehlinformationen zu reduzieren. Die bisherigen Ergebnisse sprechen für sich: Die Anzahl der vertrauenswürdigen Nachrichtenmeldungen auf unserer Website nimmt immer weiter zu. Außerdem haben wir seit Januar 2019 über 30 Änderungen vorgenommen, um Empfehlungen von grenzwertigen Inhalten und schädlichen Fehlinformationen zu reduzieren. Dadurch ist die Wiedergabezeit solcher Inhalte aus Empfehlungen für Nutzer, die den jeweiligen Kanal nicht abonniert haben, in den USA durchschnittlich um 70 % gesunken.[1]. Der Prozentsatz der Wiedergabezeit solcher Inhalte in den USA, der auf unser Empfehlungssystem zurückzuführen ist, liegt somit bei deutlich unter 1 %[2].

Inhalte aus verlässlichen Quellen auf YouTube

Immer mehr Menschen nutzen YouTube, um sich über die neuesten Nachrichten zu informieren oder mehr über Themen zu erfahren, die sie interessieren – zum Beispiel über den Klimawandel oder über Naturkatastrophen. Wenn es um Musik oder Unterhaltung geht, sind Relevanz, Aktualität und Beliebtheit die ausschlaggebenden Faktoren dafür, was Nutzer gerade am meisten interessiert. Bei Nachrichten, wissenschaftlichen Themen und historischen Ereignissen dagegen kommt es auf Genauigkeit und Vertrauenswürdigkeit an. Die Qualität der Informationen und der Kontext sind in diesem Fall wichtiger als Interaktionen. Aus diesem Grund haben wir unsere Bemühungen, Inhalte aus verlässlichen Quellen zu fördern, weiter verstärkt, und eine Reihe von Funktionen eingeführt, um diese Herausforderung umfassend anzugehen:

• Priorisierung von verlässlichen Quellen in unseren Systemen: Seit 2017 priorisieren wir bei Suchanfragen zu Nachrichten und Informationen in den Suchergebnissen und in Videoempfehlungen Inhalte aus verlässlichen Quellen. Dazu zählen beispielsweise Nachrichtenanbieter wie CNN, Fox News, Jovem Pan, India Today und The Guardian. Angenommen, ihr möchtet mehr über ein aktuelles Ereignis erfahren und gebt beispielsweise "Brexit" in die Suchleiste ein. Dann stammen durchschnittlich 93 % der Videos in den Top-10-Ergebnissen weltweit von Kanälen, die als sehr verlässlich eingestuft werden. Ebenfalls eine wichtige Rolle spielt die Verlässlichkeit bei Themen, die immer wieder aktuell sind und zu denen häufig Fehlinformationen verbreitet werden. Ein gutes Beispiel dafür sind Videos zum Thema Impfungen. In diesen Fällen versuchen wir, Videos von Experten in den Suchergebnissen zu zeigen – etwa von öffentlichen Gesundheitseinrichtungen, wenn Nutzer nach Videos zu diesem Thema suchen. Schon jetzt werden jeden Tag Millionen von Suchanfragen auf diese Weise verarbeitet. Im Laufe der Zeit werden immer mehr Themen und Länder hinzukommen.

• Nutzer bei Eilmeldungen schneller mit zuverlässigen Informationen versorgen: Zuverlässige Informationen sind besonders dann wichtig, wenn die ersten Meldungen zu einem Ereignis eintreffen. Allerdings kann es bei aktuellen Ereignissen etwas dauern, bis informative Videos veröffentlicht werden, die geprüfte Fakten enthalten. Deshalb gibt es in Suchergebnissen auf YouTube jetzt kurze Vorschauen von Nachrichtenartikeln zusammen mit dem Hinweis, dass sich die Berichterstattung zu aktuellen Ereignissen schnell ändern kann. Außerdem haben wir Bereiche für Top-Nachrichten und Eilmeldungen eingeführt, um Qualitätsjournalismus zu unterstützen. So hat allein in diesem Jahr der Zugriff auf Kanäle von vertrauenswürdigen Nachrichtenpartnern um 60 % zugenommen.

• Bereitstellung von Kontext für Nutzer: Manchmal bietet ein Video nicht genügend Kontext zu dem, was man sich gerade ansieht. Deshalb sollen Nutzer, die sich Videos über Themen ansehen, zu denen häufig Fehlinformationen verbreitet werden, während der Wiedergabe zusätzliche Informationen erhalten. Hierzu haben wir verschiedene Infobereiche für unterschiedliche Arten von Inhalten erstellt. In diesen Bereichen können beispielsweise Informationen zu allgemeinen Themen, aber auch zu aktuellen Nachrichten angegeben werden, zu denen oft falsche Informationen verbreitet werden. Auch Angaben zum jeweiligen Nachrichtenverlag können sich hier finden. Sehen sich Nutzer zum Beispiel Videos an, in denen dazu aufgefordert wird, auf die Impfung gegen Masern, Mumps und Röteln zu verzichten, blenden wir Infobereiche ein, die einen wissenschaftlichen Kontext vermitteln und auf weitere Quellen verweisen. Bei Nachrichtenvideos, die von öffentlich-rechtlichen Sendern oder staatlich finanzierten Nachrichtenagenturen hochgeladen wurden, blenden wir unter dem Video entsprechende Hinweise dazu ein. Seit Juni 2018 haben wir insgesamt mehr als 3,5 Milliarden Impressionen dieser Infobereiche ausgeliefert, die wir in immer mehr Ländern einführen möchten.

Reduzierung von grenzwertigen Inhalten und schädlichen Fehlinformationen

Grenzwertige Inhalte, bei denen nicht viel zu einem Verstoß gegen unsere Community-Richtlinien fehlt, machen in den USA deutlich weniger als 1 % der auf YouTube angesehenen Videos aus. Zum Vergleich: In der recht übersichtlichen Kategorie der Meditations videos fällt die tägliche Wiedergabezeit höher aus als bei allen grenzwertigen Inhalten und Videos mit schädlichen Fehlinformationen zusammen. Allerdings ist selbst ein Wert von weit unter einem Prozent noch zu hoch. Aus diesem Grund haben wir im Januar angekündigt, dass wir damit beginnen werden, die Empfehlung von grenzwertigen Inhalten oder Videos einzuschränken, die potenziell schädliche Fehlinformationen enthalten können. Wir machen dabei gute Fortschritte und haben die Empfehlungen inzwischen auch außerhalb der USA entsprechend angepasst, unter anderem in Großbritannien, Irland, Südafrika und weiteren englischsprachigen Ländern.

Natürlich ist es nicht leicht, grenzwertige Inhalte und potenziell schädliche Fehlinformationen in Videos zu bestimmen. Zusätzlich erschwert wird das Ganze durch die schiere Anzahl unterschiedlichster Videos auf YouTube. Um die Qualität eines Videos einzuschätzen, setzen wir deshalb auf das Feedback externer Bewerter auf der ganzen Welt. Diese Bewerter orientieren sich bei ihrer Arbeit an öffentlichen Richtlinien. Für jedes bewertete Video werden bis zu neun verschiedene Meinungen eingeholt. In einigen kritischen Bereichen ist auch die Meinung von zertifizierten Experten erforderlich. So geben Ärzte beispielsweise Einschätzungen zum Wahrheitsgehalt von Videos ab, in denen es um bestimmte medizinische Behandlungen geht, um die Verbreitung medizinischer Fehlinformationen einzudämmen. Außerdem nutzen wir bewährte automatisierte Systeme für die Erstellung von Modellen, die auf den übereinstimmenden Angaben der Bewerter basieren. Mithilfe dieser Modelle können jeden Tag hunderttausende Stunden an Videomaterial überprüft werden, um grenzwertige Inhalte zu finden und ihre Verbreitung zu begrenzen. Im Laufe der Zeit wird sich die Genauigkeit unserer Systeme immer weiter verbessern.

Unsere Arbeit ist damit noch lange nicht beendet. Derzeit prüfen wir die Möglichkeit, externe Wissenschaftler zur Begutachtung unserer Systeme hinzuziehen, und natürlich werden wir auch weiterhin in zusätzliche Teams und neue Funktionen investieren. Nichts ist uns wichtiger, als unserer Verantwortung gerecht zu werden. Deshalb wollen wir auch in Zukunft dafür sorgen, dass auf YouTube unterschiedliche Stimmen Gehör finden – auch solche mit Meinungen, die von anderen nicht geteilt werden – und gleichzeitig Zuschauer, Creator und die Plattform an sich vor schädlichen Inhalten schützen.

"Grenzwertige Inhalte machen deutlich weniger als 1 % der auf YouTube angesehenen Inhalte aus."  [1] Basierend auf dem 28-Tage-Durchschnitt vom 17.09.19 bis 14.10.19 im Vergleich mit dem Zeitpunkt im Januar 2019, als wir damit begonnen haben, Maßnahmen im Hinblick auf diese Art von Inhalten zu ergreifen.[2] Wiedergabezeit in den USA durch Empfehlungen für Nutzer, die den jeweiligen Kanal nicht abonniert haben.