責任ある AI イノベーションに対する YouTube のアプローチ

生成 AI は、YouTube というプラットフォームで創造性を解き放ち、視聴者とクリエイターの利用体験を大きく変える可能性を秘めています。ただし、このような場合には、コミュニティを保護するという YouTube の責任とのバランスを取ることも重要です。YouTube にアップロードされるすべてのコンテンツは、その作成手段にかかわらず、YouTube の コミュニティガイドライン が適用されます。一方で、YouTube は、AI が新たなリスクを招く可能性があること、そのために新しいアプローチが必要になることも認識しています。

YouTube の取り組みは初期段階にあり、今後の知見に応じて継続的に進化させていきます。来年に向けて今後数か月にわたり、YouTube が展開するアプローチを以下にいくつかご紹介します。

開示の要件と新しいコンテンツ パネル

YouTube で健全なエコシステムを維持することが、全ての人の利益になると信じています。YouTube は、ユーザーの誤解を招くような方法で技術的に操作または改ざんされ、多大な危害を及ぼす可能性のあるコンテンツを禁止する ポリシー を長年設けています。しかし、AI の強力で新しいストーリーテリングの形式は、ー特に、動画が改変されている、合成されたものであると視聴者が気づかない場合にはー視聴者の誤解を招く可能性のあるコンテンツを生成するために使用されることもあります。

この懸念に対処するため、今後数か月の内に、視聴中のコンテンツが合成コンテンツである場合は視聴者にそのことを知らせる表示を導入します。具体的には、AI ツールを利用した場合を含め、改変または合成による本物にみえるコンテンツを作成したクリエイターには、その旨を情報開示することを求め、アップロードする際に、改変または合成素材が含んでいることを開示する新しいオプションを選択できるようにします。たとえば、現実には起きたことがない出来事をリアルに描写している生成 AI による動画や、実在の人物が実際には行っていない発言や行動をしているように見せるコンテンツなどが該当します。

これは、選挙、進行中の紛争や公衆衛生上の危機、公人など、コンテンツがセンシティブな話題について議論している場合は特に重要です。一貫してこの情報開示を行わないクリエイターは、コンテンツの削除や YouTube パートナー プログラムへの参加停止、またはその他の罰則の対象となる場合があります。これが実際に展開される前に、クリエイターがこれらの要件についてしっかり理解できるように、私たちはクリエイターと連携していく予定です。

コンテンツが改変または合成されている可能性があることを 2 つの方法で視聴者に知らせます。コンテンツの一部が改変または合成されたものであることを示す新しいパネルが説明欄に追加されます。さらに、センシティブなトピックに関する特定のタイプのコンテンツについては、より目立つパネルを動画プレーヤーに表示します。

有害性のリスクを軽減するにはパネルだけでは不十分なものもあります。一部の合成されたコンテンツは、パネルの有無を問わず、コミュニティガイドラインに違反している場合には YouTube から削除します。たとえば、合成により作成された動画が、視聴者に衝撃や不快感を与えることを目的として現実的な暴力を描写している場合は、削除の対象となることがあります。

さらに今後、これらの新しい要件が適用されるのに合わせて、YouTube の生成 AI ツールや機能を使って作成されたコンテンツは、改変または合成として明確に表示されます。

クリエイター、視聴者、アーティスト向けの新しいオプション

YouTube は、最新テクノロジーが YouTube コミュニティに影響を与え得る側面について、クリエイター、視聴者、アーティストを含むコミュニティの皆さんから絶えずフィードバックをいただいています。これは特に、ある人物の顔や声が、その人物の許可なく、あるいはその人物の見解を誤って伝えるためにデジタル生成されている可能性がある場合に当てはまります。

そこで今後数か月以内に、特定可能な個人の顔や声などを模倣している生成 AI コンテンツや合成あるいは改変されたコンテンツの削除を、 プライバシー侵害の申し立て の手続きを通じて要請できるようにします。要請された全てのコンテンツが YouTube から削除されるわけではなく、さまざまな要因を考慮して判断します。たとえば、コンテンツがパロディや風刺であるか、削除要請を行った人物が本人として特定可能か、あるいは公人や著名人（この場合は、より高い基準が適用される可能性があります）を取り上げているかといったことが判断材料となります。

また、音楽パートナーに対しては、アーティスト本人の歌声やラップ音声を模倣した生成 AI の音楽コンテンツの削除要請ができる機能を導入します。削除要請の承認判断においては、合成音声を使用したニュース報道、分析、または批評の内容の動画であるかといった要因を考慮します。この削除要請は、まずは、 YouTube の音楽 AI に関する初期テストの参加アーティストを代理するレーベルまたはディストリビューターにご利用いただけるようになります。今後、その他のレーベルおよびディストリビューターにも範囲を拡大していく予定です。

AI テクノロジーの活用によるコンテンツ管理の強化 

YouTube は常に、コミュニティガイドラインの適用にあたり人間と機械学習（AI）テクノロジーを組み合わせて活用しており、Google 全体では世界中で 2 万人以上の審査担当者がいます。このシステムでは、AI は違反の可能性があるコンテンツを大規模に検出する役割を果たし、審査担当者はコンテンツが実際にポリシー違反にあたるかどうかを確認します。AI は、YouTube のコンテンツ管理システムの速度と精度の両面で向上し続けています。

明らかな効果をあげているのが、今までにない形式の不正行為の識別です。新しいトピックが出現した場合、システム内にはその背景情報がほとんどないため、それを大規模に認識し特定するのは困難です。しかし、生成 AI を利用しているおかげで、違反コンテンツを分類する AI のトレーニング用のデータセットを急速に拡張できるため、該当するコンテンツをより迅速に識別し、捕捉することが可能になっています。また、システムの速度と精度の向上によって、審査担当者による対応が必要となる有害なコンテンツの量も削減できます。

責任ある AI ツールと機能の開発 

クリエイターのための新しい AI ツールの開発を続けていますが、YouTube のアプローチは、これまで私たちが最大の責任課題に取り組んできた方法と一貫しています。それは、一番になることを目指すより、時間をかけて物事を正しく進める、ということです。

YouTube は、私たちのスケールでコンテンツを管理できるチームとテクノロジーへの長年の投資に基づいて、どのように構築できるかを慎重に検討しています。YouTube にふさわしくない類のコンテンツを YouTube の AI ツールで生成できないようにする対策の構築も、そうした重要な継続中の取り組みのひとつです。

私たちは、不正行為をするクリエイターが必ずこうした対策を回避しようとすることも認識しています。今後もユーザーからのフィードバックを取り入れ、不正防止機能を継続的に改善していきます。また社内では、インテリジェンス デスクのような専任チームが敵対的テストや脅威検出に重点を置き、新たな課題が出現したときにシステムがきちんと対処できるようにしています。

AI による変革の時代は目前に

生成 AI を使用して YouTube 上で新たな形のイノベーションや創造性を解き放つ旅はまだ始まったばかりです。この技術の秘めた可能性を楽しみにしつつ、次に起こることがクリエイティブ業界全体に今後何年にもわたって影響が及んでいくことも理解しています。YouTube はこの極めて重要な転機に、これらの利点と YouTube コミュニティの継続的な安全確保とのバランスを維持するのに時間をかけて取り組んでいます。また、クリエイター、アーティスト、その他クリエイティブ業界関係者の方々と協力して、皆に利益をもたらす未来を築いてまいります。

Please view the original post at http://youtube-jp.googleblog.com/2023/11/our-approach-to-responsible-ai-innovation.html