책임감에 대하여: 허위 정보 대응을 위한 노력

작성자: 닐 모한(Neal Mohan), 유튜브 제품 최고 책임자

전 세계 수십억 명의 사람들이 유튜브를 찾는 이유는 무궁무진합니다. 희귀한 콘서트 영상을 찾고 있거나, 신기술을 배우려고 하는 사람들에게 유튜브는 시청자가 경이로울 정도로 다양한 콘텐츠와 견해를 접할 수 있도록 해주는 공간입니다. 하지만 이 모든 것은 커뮤니티를 보호하기 위한 헌신적인 노력이 뒤따를 때 비로소 가능합니다. 이 핵심 원칙은 모든 유튜브 시스템의 근간을 이루며 유튜브 제품의 면면을 뒷받침하고 있습니다. 

연중 몇 차례에 걸쳐 유튜브가 직면한 최대 난제들을 어떻게 해결하고 있는지 그 뒷이야기를 전하고 무엇보다 유튜브에서 고려 중인 각 조치에 따라 예상되는 부작용을 자세히 알려드릴 예정입니다. 향후 연재할 글에서는 유튜브의 정책 개발 사업을 다루고 직면하고 있는 어려운 문제들의 이면에 대한 생각과 이행하고 있는 주요 책임들을 비롯한 여러 주제를 다루려고 합니다. 하지만 이번 첫 번째 글에서는 피해를 입힐 수 있는 잘못된 정보에 대해 유튜브가 지속적으로 어떤 노력을 하고 있는지 살펴보겠습니다. 

지난 5년간 유튜브는 4가지 책임(4R)이라고 부르는 원칙에 대대적인 투자를 해왔습니다. 인력과 머신 러닝을 통해 정책을 위반하는 콘텐츠를 신속하게 삭제(Remove)하고, 공신력 있는 정보를 부각(Raise)하고, 잘못된 정보를 담은 유해한 콘텐츠의 확산을 줄이고자(Reduce) 노력해 왔습니다. 이러한 툴들은 서로 어우러져 플랫폼 내 표현의 자유를 유지하는 동시에 유해한 콘텐츠의 노출을 줄이는 데 중요한 역할을 했습니다. 하지만 잘못된 정보를 담은 주장이 그 어느 때보다도 빠르게, 널리 퍼지고 있는 만큼 그 속도를 따라잡기 위해서는 접근 방식도 진화되어야 합니다. 유튜브팀은 다음과 같은 세 가지 과제를 해결하고자 합니다.

새롭게 등장하는 잘못된 정보의 확산 줄이기 

지난 수년간 9/11 테러와 달 착륙에 대한 음모론, 지구 평면설과 같은 몇 가지 주장이 온라인에서 잘못된 정보의 주를 이루었습니다. 이러한 음모론은 장기간 지속되면서 상당량의 콘텐츠를 축적했습니다. 그 결과, 해당 유형의 콘텐츠에서 나타나는 패턴을 바탕으로 이러한 동영상과 다른 유사 동영상이 추천되는 빈도를 줄이도록 머신 러닝 시스템을 학습시킬 수 있었습니다. 하지만 시간이 지날수록 갑자기 등장한 완전히 새로운 주장이 시청자의 눈길을 사로잡을 수 있게 되었습니다. 이러한 주장은 여러 주제를 넘나들 수 있습니다. 가령 일반적인 건강 콘텐츠가 백신에 대한 거부감을 조장하는 콘텐츠로 변질되기도 합니다. 주장마다 시각과 견해가 서로 다를 수도 있고 때로는 특정 지역에서만 국지적으로 퍼지기도 합니다.

5G 송신탑이 코로나바이러스 확산의 원인이라는 음모론 때문에 영국에서 휴대폰 기지국 방화 사건이 벌어진 것처럼 코로나19 팬데믹 초기에 이러한 문제를 많이 접했습니다. 실제 피해로 이어질 수 있는 위험성이 확실히 존재했기 때문에 유튜브는 가이드라인을 업데이트하고 이러한 유형의 콘텐츠를 정책 위반으로 규정해 이 문제에 대응했습니다. 이 사례는 현지 및 전 세계 보건 당국의 지침을 바탕으로 코로나19와 관련된 잘못된 정보에 대비한 정책을 이미 갖추었기에 신속하게 움직일 수 있었던 경우였습니다.

하지만 미래에 속속 등장할 모든 주장마다 유튜브 정책에 참고할 수 있는 전문가 지침이 주어지는 것은 아닙니다. 최근에 나타난 잘못된 정보일수록 시스템 학습에 필요한 예시가 적기 때문입니다. 이 문제를 해결하기 위해, 유튜브는 새로운 데이터를 바탕으로 시스템을 지속 학습시키고 있습니다. 유튜브는 분류기, 다양한 언어로 된 키워드, 현지 애널리스트의 정보를 목적에 맞게 두루 활용하여 기본 분류기가 포착하지 않는 주장을 식별할 수 있는 방안을 모색중입니다. 시간이 지남에 따라, 이것은 허위정보가 포함된 바이럴한 영상들을 더 빠르고 정확하게 파악하는 데 도움이 될 것입니다. 

유튜브 시스템은 일부 콘텐츠의 확산을 줄일 뿐 아니라 검색 결과와 추천 영상에 공신력 높은 콘텐츠를 제공합니다. 하지만 일부 주제에는 신뢰할 수 있는 콘텐츠가 부족할 수도 있습니다. 예를 들어, 자연 재해와 같이 주요 뉴스 속보들에 대해서는 해당 사건에 원인과 피해자를 바로 확인하기 어렵기 때문에 정보를 추측하는 상황이 발생할 수도 있습니다. 신뢰할 수 있는 출처의 콘텐츠가 생성되기까지 시간이 걸릴 수 있으며, 허위 정보가 빠르게 확산할 경우 단기간에 힘을 실을 수 있는 권위 있는 콘텐츠는 항상 부족합니다. 

자연 재해와 같은 주요 뉴스 속보의 경우, 속보와 진행 중인 뉴스를 확인할 수 있는 뉴스 패널에서 텍스트 기반 뉴스 기사를 제공하고 있습니다. 언론이 다루지 않을 수 있는 틈새 주제에 대해서는 사실 확인란을 시청자들에게 제공하고 있습니다. 하지만 사실확인 또한 시간이 소요되며, 모든 주제의 뉴스가 다루어지지 않을 수도 있습니다. 이러한 경우, 유튜브는 시청자에게 고품질 정보가 부족하는 안내와 같이 동영상 또는 검색결과에 덧붙일 다양한 유형의 라벨을 시도하고 있습니다.  라벨을 노출하는 것이 장점도 있지만 오히려 조용히 묻힐 수 있는 주제를 의도치 않게 조명하는 결과를 낳을 가능성이 있을 지도 고려해봐야 합니다.  유튜브팀은 옳은 방법을 모색하는 가운데 이러한 고려사항을 활발하게 논의하고 있습니다.

플랫폼 간의 문제: 잘못된 정보일 수 있는 콘텐츠가 플랫폼 외부로 공유되는 문제 해결

정책 위반 경계선상에 있는 콘텐츠가 유튜브 밖으로 확산되는 것을 막아야 하는 과제도 있습니다. 이러한 콘텐츠는 유튜브 정책을 위반하지는 않지만 사람들에게 추천하기에 적합하지 않은 콘텐츠를 의미합니다. 유튜브가 추천 시스템을 개선한 결과, 정책 위반 경계선상에 있는 콘텐츠가 맞춤 동영상에서 추천되어 유입하는 비율이 1% 미만으로 낮아졌습니다. 하지만 이러한 특정 콘텐츠를 유튜브에서 추천하지 않더라도 해당 동영상이 다른 웹사이트에서 링크로 연결되어 시청으로 이어짐으로써 조회수를 얻을 가능성이 있습니다. 

이는 실질적으로 경계선상에 있는 콘텐츠를 다른 웹사이트에 링크로 연결하지 못하는 것을 의미합니다. 하지만 유튜브는 시청자의 콘텐츠 공유를 방지하는 것이 시청자의 자유를 지나치게 제한할 수 있다는 점에 대해 고심하고 있습니다. 유튜브 시스템은 추천된 맞춤 동영상에서 경계선상에 있는 콘텐츠를 줄이려는 노력을 하고 있지만, 추천된 맞춤 동영상을 시청하는 것처럼 비교적 수동적인 활동과 달리 링크를 공유하는 것은 한 사람의 개인적인 선택입니다. 

맥락도 고려해야 합니다. 연구 조사 또는 뉴스 보도에 포함된 정책 위반 경계선상에 있는 콘텐츠의 경우는 예외로 하거나 다르게 조치해야 할 수 있습니다. 유해하고 잘못된 정보의 확산을 방지하는 것과 민감하고 논란의 소지가 있는 주제에 관한 논의와 교육이 이루어질 여지를 남겨두는 것 사이에 균형을 잘 이루어야 합니다.

또 다른 접근 방식으로는 정책 위반 경계선상에 있는 콘텐츠가 삽입되었거나 링크로 연결된 동영상을 시청하려고 할 때 이 콘텐츠에 잘못된 정보가 포함되었을 수 있다는 사실을 알리는 전면 광고를 표시하는 방법이 있습니다. 전면 광고는 과속방지턱 같은 역할을 합니다. 시청자가 콘텐츠를 시청하거나 공유하기 전에 추가 단계를 만들어 잠시 멈추도록 만드는 것입니다. 실제로 연령 제한 콘텐츠 및 폭력적이거나 노골적인 동영상을 알리는 용도로 이미 전면 광고를 사용하고 있으며 시청자에게 곧 시청할 콘텐츠에 관한 선택권을 주는 중요한 도구로 활용되고 있습니다.

유튜브는 계속해서 각 조치가 인터넷에 미칠 수 있는 파급 효과를 신중하게 타진하겠습니다.

전 세계에서 잘못된 정보를 차단하기 위한 노력 강화

잘못된 정보를 억제하기 위한 유튜브의 노력은 실질적으로 성과를 내고 있지만 유튜브가 서비스되는 100개 이상의 국가와 수십 개의 언어로 실현하는 데 있어 복잡성은 여전히 존재합니다.

문화권마다 출처의 신뢰성을 판단하는 기준이 다릅니다. 어떤 나라에서는 영국의 BBC와 같은 공영 방송이 공신력 높은 뉴스를 전달한다는 인식이 높은 반면, 어떤 나라에서는 공영 방송사가 선전 활동에 치우친 보도를 할 수도 있다는 인식이 존재합니다. 또한 각국의 뉴스와 정보 생태계에는 다양한 콘텐츠가 존재합니다. 엄격한 사실확인 기준을 요구하는 정보 전달 매체도 있지만 감독이나 검증을 거의 하지 않는 정보 전달 매체도 있습니다. 그리고 정세, 역사적 배경, 속보 사건으로 인해 다른 나라에는 없는 잘못된 정보가 담긴 주장이 국지적으로 발생하기도 합니다.  예를 들어 브라질에서 지카바이러스가 유행하던 당시 질병이 해외 음모론 탓이라는 일각의 주장이 있었습니다. 얼마전 일본에서는 지진이 인간의 개입으로 인해 발생했다는 잘못된 소문이 온라인에 퍼지기도 했습니다.

이러한 지역성 다양성을 직면하면서 유튜브팀은 새롭게 등장하는 잘못된 정보에서도 같은 문제들을 발견했습니다. 주장이 변질되는 문제도 있었고 공신력 있는 정보가 부족한 문제도 있었습니다. 팬데믹 초기에는 현지 보건 당국에서 최신 연구 결과를 제공받지 못한 국가도 있었고 현지 보건 당국이 다른 지침을 내놓는 일도 있었습니다.

어떤 콘텐츠가 정책 위반 가능성이 있다고 간주되는지에도 상당한 차이가 있을 수 있습니다. 이에 유튜브는 콘텐츠 평가자의 가이드라인이 언어와 문화에 따라 다르게 해석될 수 있다는 점을 항상 알려드립니다. 현지 팀 및 전문가와 힘을 합쳐 문화적 배경 정보를 제공하고 이를 바탕으로 동영상의 정책 위반 가능성 여부를 분류하는 데에는 시간이 걸립니다. 

잘못된 정보에 섞여 있는 미묘한 지역별 차이를 이해하는 인력을 팀에 확충하는 조치 외에도 전 세계 전문가와 비정부 단체와 파트너십을 맺기 위해 투자를 확대하는 방안을 찾고 있습니다. 새로 등장하는 잘못된 정보에 대한 접근 방식과 마찬가지로, 현지 언어 지원 기술을 활용해 국지적으로 잘못된 정보를 잡아내는 모델을 보다 자주 업데이트하는 방안도 연구하고 있습니다.

투명성 제고

유튜브에서는 계속해서 모든 제품과 정책에 유해한 영향을 미치는 잘못된 정보를 줄이기 위한 노력을 더욱 강화하는 동시에 다양한 의견이 더욱 존중 받을 수 있도록 노력을 이어나갈 것입니다. 유튜브의 답이 모두 맞는 건 아니란 사실을 잘 알고 있지만 내부에서 검토 중인 질문과 사안을 공유하는 것이 중요하다고 생각합니다. 그 어느 때보다도 커뮤니티의 안전과 건강을 위한 노력이 시급한 시기인 만큼 앞으로도 꾸준히 여러분께 정보를 전달해 드리도록 하겠습니다.

*이 블로그는 유튜브 글로벌 블로그 (영문)에도 게재되었습니다. 

Please view the original post at http://youtube-kr.googleblog.com/2022/02/inside-responsibility-whats-next-on-our-misinfo-efforts.html