Facebook и принадлежащие ей социальные сети давно известны своей нетерпимостью к пользователям, которое своими публикациями нарушают правила компании. Зачастую такие публикации удаляются автоматизированной системой даже без дополнительной проверки сотрудниками компании, а пользователи также автоматизировано получают санкции за нарушение.
Но как сообщает The Wall Street Journal со ссылкой на внутренние документы компании, при этом Facebook создала специальную систему XCheck, которая освободила привилегированных пользователей от соблюдения некоторых (или всех) правил соцсети.
Автоматическая модерация обычных пользователей
При оценке того, соответствуют ли публикации правилам компании в отношении издевательств, сексуального содержания, языка ненависти и подстрекательства к насилию для обычных пользователей Facebook предлагает только «грубую справедливость» без разбирательств.
Иногда автоматизированные системы компании незамедлительно удаляют или ограничивают контент, подозреваемый в нарушении правил, без проверки человеком. Иногда материалы, отмеченные системами или пользователями, оцениваются модераторами контента, нанятыми сторонними компаниями.
Зачастую пользователь только постфактум узнает, что его пост удалили или ограничили его распространение, а его аккаунт был заблокирован на определенный срок за нарушение правил социальной сети. По оценке самого Цукерберга, в 2018 году 10% решений об удалении контента были ошибочными.
«Особенные» пользователи освобождены от ответственности
Однако к пользователям, назначенным для проверки XCheck, относятся более уважительно. Facebook разработал систему таким образом, чтобы свести к минимуму то, что ее сотрудники описывают в документах как «пиар-пожары» — негативное внимание средств массовой информации, возникающее из-за неудачных принудительных действий, предпринятых против VIP-персон.
Если системы Facebook приходят к выводу, что одна из этих учетных записей могла нарушить его правила, они не удаляют контент — по крайней мере, не сразу, как указывают документы. Они направляют жалобу в отдельную систему, укомплектованную более подготовленными штатными сотрудниками, для дополнительного рассмотрения.
Иногда документы показывают, что XCheck защищает общественных деятелей, чьи сообщения содержат оскорбления или подстрекательство к насилию. Это те нарушения, которые обычно приводят к автоматическим санкциям для обычных пользователей
Учетные записи из белого списка также часто содержали заявления, которые службы проверки фактов Facebook сочли ложными, в том числе о том, что вакцины смертельны, что Хиллари Клинтон прикрывала «группы педофилов» и что тогдашний президент Дональд Трамп называл всех беженцев, ищущих убежища, «животными».
Ничего не будет даже за публикацию чужих интимных изображений
В 2019 году женщина обвинила бразильского футболиста Неймара в изнасиловании, а он, защищая себя, опубликовал в Facebook и Instagram видео и показал зрителям свою переписку в WhatsApp, в которой было ее имя и ее обнаженные фотографии и обвинил женщину в вымогательстве у него.
Стандартная процедура Facebook для обработки публикации «несогласованных интимных изображений» проста: это полное и немедленное удаление. Но Неймара защищал XCheck и более суток система блокировала удаление видео модераторами Facebook.
Как отмечает The Wall Street Journal, Facebook связывался с некоторыми VIP-пользователями, которые нарушали политики платформы, и предоставлял им «окно самовосстановления» продолжительностью 24 часа для самостоятельного удаления нарушающего контента, прежде чем Facebook отключил его и применил штрафные санкции.
Почему это важно
Facebook и так очень часто обвиняют в излишней строгости модерации, а иногда и в абсолютно безосновательном удалении контента и блокировке профилей. А после вынесения вердикта автоматизированными системами, далеко не всегда получается достучаться до сотрудников компании, которые могли бы пересмотреть решение и снять ограничения.
Но наличие особенной системы проверки для привилегированных пользователей показывает, что сам Facebook прекрасно понимает, что его система далеко не всегда работает корректно. И вместо того, что бы исправлять ее компания просто делит пользователей на категории — тех, кого трогать нельзя, и тех кто как-нибудь сам разберется с неправомерными ограничениями.
