Соцсети не справляются с модерацией контента из-за коронавируса

Крупнейшие социальные сети не справляются с модерацией пользовательского контента и пытаются подключить искусственный интеллект к этой работе. Необходимость в этом возникла в связи с эпидемией коронавируса, сообщает ВВС.

В связи с эпидемией технологические гиганты отправили часть своих сотрудников, занимавшихся контролем контента, работать из дома. А для того, чтобы работа продолжалась без сбоев, они обращаются к помощи искусственного интеллекта - систем поиска нелегального и неэтичного контента.

Такие системы имеют YouTube, Twitter и Facebook. Компании признают, что пока что искусственный интеллект не идеален и иногда допускает ошибки. Однако в связи с чрезвычайно высоким объемом информации, который проходит через эти платформы ежедневно, а также в связи с изменениями в работе компаний, вызванными эпидемией, они не могут от него отказаться.

Ситуация осложняется тем, что в связи с распространением коронавируса в сети появляется все больше сообщений на медицинские и околомедицинские темы, которые вводят в заблуждение пользователей. Компании стараются удалять ложные сообщения или маркировать их как сомнительные. Но иногда бывает так, что искусственный интеллект принимает за фейки сообщения, которые ложными не являются.

У перечисленных выше IT-гигантов отделы, которые занимаются модерацией сообщений, публикуемых пользователями, находятся в разных странах мира, в том числе в США, Индии и Испании. В некоторых из этих стран объявлен карантин, и модераторы вынуждены работать из дома. Но это не всегда получается эфективно.

Почти все работники компании Google, владеющей платформой YouTube, по всему миру работают удаленно из-за коронавируса. Поэтому пользовательские видео иногда будут удаляться без рассмотрения живым человеком, и в том числе иногда - ошибочно, предупредило руководство компании. Также компания предупредила пользователей, что апелляции от пользователей, чей контент был удален, будут рассматриваться дольше обычного. Более строгие меры предосторожности будут приняты относительно рекламы.

Соцсеть Facebook предупредила пользователей, что в связи с нехваткой модераторов их работа будет сосредоточена только на контенте, который может причинить пользователям прямой вред.

В Twitter заявили, что сеть будет больше прибегать к помощи самообучаемых систем, и признали, что "иногда им не хватает понимания контекста, которое есть у сотрудников, и могут случаться ошибки". При этом в Twitter подчеркнули, что софт не блокирует аккаунты автоматически: все подозрительные случаи рассматриваются модераторами.

При этом большое количество сообщений, содержащих дезинформацию о коронавирусе, вызывает все больше вопросов как у пользователей, так и у чиновников. Например, правительство Великобритании обсуждает возможность создания специального подразделения по борьбе с дезинформацией о коронавирусе, которая представляет потенциальный риск для безопасности страны.

Крупнейшие социальные сети ранее уже заявили, что объединили усилия друг с другом и с правительствами разных стран для противодействия активно распространяемым ложным сообщениям о коронавирусе. В списке присоединившихся - Facebook, Google, YouTube, Microsoft, LinkedIn, Reddit и Twitter.