네 가지 책임에 대하여: 1부 - 유해 콘텐츠 ‘삭제(Remove)’

지난 몇 년간, 유튜브는 개방형 플랫폼을 유지함과 동시에 책임을 이행하려는 노력을 강화해왔습니다. 저희의 노력은 네 가지 원칙을 기반으로 합니다.

향후 몇 개월에 걸쳐, 유튜브는 이 각각의 원칙을 뒷받침하는 노력에 대해 자세히 말씀드리고자 합니다. 그 첫 번째로 삭제에 대해 자세히 말씀드리려고 합니다. 유튜브 시작 이래로 저희는 유해한 콘텐츠를 삭제해왔지만, 최근 몇 년간 이에 대한 투자를 가속화했습니다. 다음은 2016년부터 지금까지 유튜브에서 가장 눈에 띄었던 개선사항입니다. 이처럼 지속적인 노력을 통해 지난 18개월간 유튜브에서 정책 위반으로 삭제된 동영상의 조회수는 80% 감소했으며, 저희는 이를 더 줄이기 위한 노력을 계속하고 있습니다.¹

글로벌 플랫폼을 위한 정책 개발

정책을 위반한 콘텐츠를 삭제하기 앞서, 표현의 자유를 보호하고 활기찬 커뮤니티를 장려하기 위해 삭제해야 하는 것과 허용하는 것에 대한 기준을 확실히 해야 합니다. 이를 위해 저희는 유튜브 정책이 현 상황에 맞고, 커뮤니티를 안전하게 보호하며, 유튜브의 개방성을 억압하지 않도록 체계적으로 검토하는 전담 정책 개발팀을 두고 있습니다.

정책을 검토한 뒤에는, 대부분 근본적인 변화가 필요하지는 않지만, 종종 모호하거나 혼란을 주는 부분을 발견하기도 합니다. 이러한 이유로, 저희 업데이트 중 대부분은 기존 가이드라인을 명확하게 하는 것입니다. 예를 들면, 올해 초 저희는 어느 경우에 “도전”이 유튜브에서 너무 위험하다고 판단되는지에 대해 보다 자세한 정보를 제공했습니다. 2018년부터 지금까지 유튜브는 가이드라인 시행과 관련해 수십여 차례의 업데이트를 해오고 있습니다.

한편으로, 특히 복잡한 사안에 대한 새로운 정책 수립을 위해 몇 달간 고심하는 경우도 있습니다. 이러한 경우 외부 전문가 및 유튜브 크리에이터들의 의견을 수렴하여 현 정책의 부족한 부분을 이해하고, 지역적인 차이를 고려해 변경 사항이 전 세계에 공정하게 적용될 수 있도록 노력합니다.

증오성 발언에 대한 업데이트는 유튜브 정책에 대한 근본적인 변화를 나타내는 것 중 하나입니다. 저희는 신중하게 정책을 수립하고, 이를 시행하기 위한 교육과 도구를 만들기 위해 수 개월 동안 저희의 팀들과 협업했습니다. 6월 초에 시작된 정책에 따라 저희 팀들이 더 많은 콘텐츠를 검토하고 삭제하며 머신 러닝을 통한 탐지 기능도 개선될 것입니다. 새로운 정책을 시행하는 데는 몇 달이 걸릴 수도 있지만, 이번 분기의 커뮤니티 가이드라인 집행 보고서에 따르면 증오성 발언 정책 업데이트의 영향은 이미 상당한 것으로 나타났습니다.

삭제 건수가 급증한 이유 중 하나는 과거에 허용되었던 이전의 댓글, 동영상, 채널이 삭제되었기 때문입니다. 2019년 4월 저희는 크리에이터 간의 괴롭힘 등을 포함한 괴롭힘 콘텐츠에 대한 정책 업데이트를 진행 중이라고 발표했습니다. 앞으로 몇 달 이내에 이에 대한 진행 상황을 알려드리겠습니다.

머신 러닝을 활용한 유해 콘텐츠 감지

정책이 수립되면 인력과 기술을 모두 활용해 신고된 콘텐츠를 전담 검토팀에 보냅니다. 때로는 해시(혹은 “디지털 지문’)를 통해 폭력적인 콘텐츠가 조회되기 전에 사전 차단하는 경우도 있습니다. 아동 성적 학대 이미지(CSAI)나 테러리스트 모집 영상과 같은 콘텐츠의 경우, 더 많은 콘텐츠가 업로드 즉시 머신으로 탐지될 수 있도록 해시 데이터베이스를 업계에 공유했습니다.

2017년 유튜브는 폭력적일 가능성이 있는 콘텐츠를 감지해 이를 검토 인력에게 전송할 수 있도록 머신러닝 기술 사용을 확대했습니다. 머신 러닝은 패턴을 감지하는 데 최적화되어있기 때문에, 이미 삭제된 콘텐츠와 유사한 콘텐츠를 시청자가 조회하기 전에 찾아낼 수 있도록 도와줍니다. 이러한 시스템은 스팸 또는 성인용 콘텐츠와 같이 거의 동일한 것으로 보이는 콘텐츠를 감지하는 데 특히 효과적입니다. 증오심 표현이나 그 밖의 정책을 위반하는 콘텐츠를 감지하는 데에 머신 러닝이 도움이 될 수 있지만, 이러한 경우는 맥락에 따라 크게 달라질 수 있기 때문에 미묘한 차이를 이해하고 결정하는 인력의 검토도 중요합니다. 그럼에도 2019년 2분기에 삭제된 9백만 건의 동영상 중 87% 이상이 유튜브의 자동 감지 시스템에 의해 처음으로 신고되었습니다.

유튜브는 이러한 자동 감지 시스템에 상당한 투자를 하고 있으며, 저희의 엔지니어링 팀들은 매달 이 시스템을 업데이트하고 개선해 나가고 있습니다. 예를 들면, 2019년 2분기에 스팸 탐지 시스템의 업데이트 이후 스팸 정책 위반으로 해지된 채널의 수가 50% 이상 증가했습니다.

정책 위반 콘텐츠가 더 확산되기 전 삭제

유튜브는 커뮤니티 가이드라인을 위반하는 콘텐츠가 여러 사용자들에게, 혹은 전혀 노출되지 않도록 하기 위해 많은 노력을 기울이고 있습니다. 앞서 언급한 바와 같이 자동 신고 시스템의 개선을 통해 사용자가 콘텐츠를 신고하기 전 미리 감지하고 검토하고 있으며, 그 결과 2019년 2분기에는 자동 감지된 영상 중 80% 이상이 단 한 건의 조회수를 기록하기도 전에 삭제되었습니다.

또한 콘텐츠를 빠르게 삭제하는 가장 좋은 방법은 문제가 발생하기 전에 이를 미리 예상하는 것입니다. 2018년 1월, 부적절한 콘텐츠와 관련된 새로운 추세를 감지하고 문제가 확대되기 전에 해결할 수 있도록 뉴스와 소셜 미디어, 사용자 신고를 모니터링하는 ‘인텔리전스 데스크(Intelligence Desk)’ 팀을 새롭게 구성했습니다.

유튜브는 정책을 위반하는 동영상의 노출 회수를 계속 줄여나갈 것입니다. 구글 전체에 걸쳐 가이드라인을 위반하는 콘텐츠를 탐지, 검토 및 삭제를 담당하는 인력을 10,000명 이상 배치한 것도 바로 그 이유에서입니다. 이처럼 정책을 위반한 콘텐츠를 신속하게 삭제할 수 있기 때문에, 정책을 위반한 콘텐츠의 조회수는 유튜브 커뮤니티를 풍요롭게 하는 학습 콘텐츠 등의 조회수의 극히 일부에 불과합니다. 예를 들어, 지난달 증오심 표현 정책 위반으로 삭제된 30,000건 가까운 영상의 조회수는 같은 기간 뜨개질 동영상의 조회수의 3%에 불과했습니다.

지난 주, 저희는 유튜브에서 삭제한 콘텐츠의 수와 삭제 이유, 처음 탐지된 방법에 대한 추가적인 정보를 분기별로 제공하는 커뮤니티 가이드라인 시행 보고서를 업데이트했습니다. 이 보고서는 지난 몇 년 동안 적용된 기술을 통해 유튜브에서 유해한 콘텐츠를 이전보다 더 빠르게 삭제할 수 있었는지를 보여줍니다. 또한, 유튜브가 신중한 정책을 개발하고, 콘텐츠를 세심하게 검토하며, 머신 러닝 기술을 책임감 있는 방식으로 도입하는 과정에서 사람의 전문성이 얼마나 중요한지에 대해서도 강조합니다.







<sup>1 2018년 1월 - 2019년 6월

2 2016년 11월 16일 https://youtube.googleblog.com/2016/11/more-parental-controls-available-in.html

2 2017년 6월 18일 https://www.blog.google/around-the-globe/google-europe/four-steps-were-taking-today-fight-online-terror/

2 2017년 7월 31일 https://youtube.googleblog.com/2017/07/global-internet-forum-to-counter.html

2 2017년 8월 1일 https://youtube.googleblog.com/2017/08/an-update-on-our-commitment-to-fight.html

2 2017년 12월 4일 https://youtube.googleblog.com/2017/12/expanding-our-work-against-abuse-of-our.html

2 2018년 4월 23일; https://youtube.googleblog.com/2018/04/more-information-faster-removals-more.html

2 2018년 12월 1일 https://youtube-kr.googleblog.com/2019/06/blog-post.html

2 2019년 1월 15일 https://support.google.com/youtube/thread/1063296?hl=en

2 2019년 2월 19일 https://youtube-kr.googleblog.com/2019/03/blog-post.html

2 2019년 2월 28일 https://youtube-kr.googleblog.com/2019/03/blog-post_93.html

2 2019년 6월 5일 https://youtube-kr.googleblog.com/2019/06/blog-post_21.html

2 2019년 7월 1일 https://support.google.com/youtube/thread/8830320

2 2019년 8월 21일 https://support.google.com/youtube/thread/12506319?hl=en

2 예정; https://youtube-kr.googleblog.com/2019/06/blog-post_36.html</sup>

Please view the original post at http://youtube-kr.googleblog.com/2019/09/1-remove.html