Быстрая проверка и удаление комментариев - обновленная информация о том, что мы делаем для обеспечения соблюдения принципов сообщества YouTube.
Четверг, 13 декабря 2018 г. #перевод_статьи
Мы всегда использовали сочетание людей-рецензентов и машинных технологий для решения проблем с контентом на нашей платформе, и в 2017 году мы начали применять более продвинутые технологии машинного обучения, чтобы помечать контент для проверки нашими командами. Эта комбинация технологии интеллектуального обнаружения и высококвалифицированных специалистов-рецензентов позволила нам последовательно улучшать темпы роста нашей системы.
Мы стремимся решить проблему быстрого удаления контента, который нарушает наши Принципы сообщества, и публиковать прогресс развития. Вот почему в апреле мы выпустили ежеквартальный отчет об исполнении Правил сообщества YouTube.
Мы стремимся решить проблему быстрого удаления контента, который нарушает наши Принципы сообщества, и публиковать прогресс развития. Вот почему в апреле мы выпустили ежеквартальный отчет об исполнении Правил сообщества YouTube.
В рамках этой постоянной приверженности прозрачности сегодня мы расширяем отчет, чтобы включить в него дополнительные данные, такие как удаление каналов, количество удаленных комментариев и причины на основе наших Политик, по которым видео или канал были удалены.
Ранее мы рассказывали о том, как технологии помогают нашим аналитическим командам удалять контент с такой скоростью и объемом, которого было бы невозможно достичь с помощью только наших сотрудников-людей. Найти весь нарушающий контент на YouTube - огромная задача, но мы рассматриваем это как одну из наших основных обязанностей, и нацелены на постоянную работу по удалению этого контента до его широкого просмотра.
Когда мы обнаруживаем видео, которое нарушает наши Правила, мы удаляем его, и выносим ограничения или блокировку для канала. Мы закрываем целые каналы, если они размещают контент, запрещенный нашими Принципами сообщества, или содержат, к примеру, одно из таких вопиющих нарушений, как сексуальная эксплуатация детей. Подавляющее большинство попыток злоупотреблений исходит от недостойных авторов, пытающихся загрузить спам или контент для взрослых: более 90% каналов и более 80% видео, которые мы удалили в сентябре 2018 года, были удалены за нарушение нашей политики в отношении спама или контента для взрослых.
Если обратить особое внимание на наиболее вопиющие, но малозаметные области, такие как насильственный экстремизм и безопасность детей, наши значительные инвестиции в борьбу с этим типом контента оказывают влияние: более 90% видео, загруженных в сентябре 2018 года и содержащих контент с насильственным экстремизмом или показывающих нарушения безопасности детей имело менее 10 просмотров.
Каждый квартал мы можем наблюдать колебания этих цифр, особенно когда наши команды ужесточают наши правила или меры по обеспечению соблюдения определенной категории для удаления большего количества контента. Например, за последний год мы усилили меры по обеспечению безопасности детей регулярно консультируясь с экспертами, чтобы убедиться, что наша политика охватывает широкий спектр контента, который может быть вредным для детей, включая такие вещи, как драки несовершеннолетних или их участие в потенциально опасных действиях. Соответственно, мы увидели, что 10,2% роликов было сделано с нарушениями для обеспечения безопасности детей, в то время как материал, посвященный сексуальному насилию над детьми (CSAM), представляет собой небольшую долю процента от удаляемого нами контента.
Сосредоточение на удалении нарушающего контента прежде, чем его увидят зрители.
Ранее мы рассказывали о том, как технологии помогают нашим аналитическим командам удалять контент с такой скоростью и объемом, которого было бы невозможно достичь с помощью только наших сотрудников-людей. Найти весь нарушающий контент на YouTube - огромная задача, но мы рассматриваем это как одну из наших основных обязанностей, и нацелены на постоянную работу по удалению этого контента до его широкого просмотра.
- С июля по сентябрь 2018 года мы удалили 7,8 миллиона видео
- И 81% этих видео были впервые обнаружены машинами
- Из обнаруженных машинами роликов - 74,5% никогда не получали ни одного просмотра
Когда мы обнаруживаем видео, которое нарушает наши Правила, мы удаляем его, и выносим ограничения или блокировку для канала. Мы закрываем целые каналы, если они размещают контент, запрещенный нашими Принципами сообщества, или содержат, к примеру, одно из таких вопиющих нарушений, как сексуальная эксплуатация детей. Подавляющее большинство попыток злоупотреблений исходит от недостойных авторов, пытающихся загрузить спам или контент для взрослых: более 90% каналов и более 80% видео, которые мы удалили в сентябре 2018 года, были удалены за нарушение нашей политики в отношении спама или контента для взрослых.
Если обратить особое внимание на наиболее вопиющие, но малозаметные области, такие как насильственный экстремизм и безопасность детей, наши значительные инвестиции в борьбу с этим типом контента оказывают влияние: более 90% видео, загруженных в сентябре 2018 года и содержащих контент с насильственным экстремизмом или показывающих нарушения безопасности детей имело менее 10 просмотров.
Каждый квартал мы можем наблюдать колебания этих цифр, особенно когда наши команды ужесточают наши правила или меры по обеспечению соблюдения определенной категории для удаления большего количества контента. Например, за последний год мы усилили меры по обеспечению безопасности детей регулярно консультируясь с экспертами, чтобы убедиться, что наша политика охватывает широкий спектр контента, который может быть вредным для детей, включая такие вещи, как драки несовершеннолетних или их участие в потенциально опасных действиях. Соответственно, мы увидели, что 10,2% роликов было сделано с нарушениями для обеспечения безопасности детей, в то время как материал, посвященный сексуальному насилию над детьми (CSAM), представляет собой небольшую долю процента от удаляемого нами контента.
Делать комментарии безопаснее
Как и в случае с видео, мы используем комбинацию технологии интеллектуального обнаружения и рецензентов, чтобы помечать, проверять и удалять спам, ненавистнические высказывания и другие злоупотребления в комментариях.
Мы также создали инструменты, которые позволяют авторам модерировать комментарии к своим видео. Например, авторы могут отправить все комментарии для проверки или автоматически отправить комментарии, содержащие ссылки или содержащие оскорбительный контент. Более миллиона авторов теперь используют эти инструменты, чтобы модерировать комментарии своих каналов. 1
Мы также усилили меры по защите комментариев от нарушений.
- С июля по сентябрь 2018 года наши команды удалили более 224 миллионов комментариев за нарушение наших Принципов сообщества.
- Большинство удалений было связано со спамом, а общее количество удалений представляет собой значительную долю из тех миллиардов комментариев, что размещаются на YouTube каждый квартал.
- Поскольку мы удалили больше комментариев, мы увидели, что наша экосистема комментариев фактически растет, а не сокращается. Ежедневные пользователи на 11% чаще становятся комментаторами, чем в прошлом году.
Мы стремимся к тому, чтобы YouTube оставался активным сообществом, в котором процветает творчество, независимые авторы могут зарабатывать себе на жизнь, а люди общаются по всему миру через общие увлечения и интересы. Это означает, что мы будем непоколебимы в нашей борьбе с плохими участниками на нашей платформе и в наших усилиях по удалению нарушающего контента до его просмотра. Мы знаем, что предстоит еще много работы, и мы продолжаем вкладывать средства в людей и технологии для быстрого удаления вредоносного контента. Мы с нетерпением ждем, чтобы предоставить вам больше обновлений.
Команда YouTube
1 Удаление комментариев автора по их собственным каналам не включено в нашу отчетность, поскольку они основаны на использовании инструментов согласия авторов, а не на проверке наших команд для определения нарушения Принципов сообщества.
Источник : Official YouTube Blog
Комментарии
Отправить комментарий