Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
- Дата:19.06.2024
- Категория: Деловая литература / Прочая документальная литература
- Название: Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов
- Автор: Джефф Хорвиц
- Просмотров:2
- Комментариев:0
Шрифт:
Интервал:
Закладка:
Любой сотрудник Facebook, знающий, что к чему, мог зайти в систему и отметить аккаунты для особого обращения. XCheck использовали более сорока команд внутри компании. Иногда сохранялись записи о том, как они его применяли, а иногда нет. Позже выяснилось, что защита XCheck была предоставлена "недобросовестным аккаунтам" и "постоянным нарушителям" правил Facebook.
Работа по повторному рассмотрению нарушающего правила контента от высокопоставленных пользователей потребовала бы огромной команды штатных сотрудников. Facebook просто никогда не нанимал таких сотрудников. Отмеченные посты попадали в очередь, которую никто никогда не рассматривал, сметая уже однажды подтвержденные жалобы под цифровой ковер. "Поскольку не было никакого управления или строгости, эти очереди могли бы и не существовать", - вспоминает человек, работавший с этой системой. "Мы были заинтересованы в защите бизнеса, а это означало, что мы не должны удалять посты китов".
Ставки могут быть высокими. XCheck защищала громкие аккаунты, в том числе в Мьянме, где общественные деятели использовали Facebook для подстрекательства к геноциду. Она защищала аккаунт британского ультраправого деятеля Томми Робинсона, как показало расследование британского "Четвертого канала" в 2018 году.
Одним из самых взрывоопасных случаев стал случай со звездой бразильского футбола Неймаром, чьи 150 миллионов подписчиков в Instagram ввели его в двадцатку самых влиятельных пользователей платформы. После того как в 2019 году женщина обвинила Неймара в изнасиловании, он обвинил ее в вымогательстве и опубликовал в Facebook и Instagram видеоролики в свою защиту, а также показал зрителям свою переписку с обвинительницей в WhatsApp, в которой были указаны ее имя и фотографии в обнаженном виде. Порядок действий Facebook в случае публикации "интимных изображений без согласия" был прост: удалить их. Но Неймар оказался под защитой XCheck. Более суток эта система не позволяла модераторам Facebook удалить видео. Внутренний обзор инцидента показал , что 56 миллионов пользователей Facebook и Instagram увидели то, что Facebook в отдельном документе назвал "порно из мести", подвергнув женщину тому, что один из сотрудников назвал в обзоре "постоянным оскорблением" со стороны других пользователей.
Согласно правилам работы Facebook, несанкционированные фотографии в обнаженном виде должны не только удаляться, но и аккаунты тех, кто их размещает. Столкнувшись с перспективой удаления со своей платформы одного из самых известных спортсменов в мире, Facebook ошарашено моргнул.
"После того как дело дошло до руководства, - говорится в обзоре, - мы решили оставить аккаунты Неймара активными, что является отходом от нашей обычной политики отключения профиля "одним ударом"".
Facebook знал, что предоставление преференций известным и влиятельным пользователям в лучшем случае проблематично, а в худшем - неприемлемо. " В отличие от остальных членов нашего сообщества, эти люди могут нарушать наши стандарты без каких-либо последствий", - отмечалось в обзоре 2019 года, а сама система была названа "не заслуживающей публичной защиты".
Вмешательство XCheck нигде так не проявилось, как в американской политике, особенно в правой. По мере того как Трамп продолжал гневно выступать против недружественного освещения событий в СМИ, консерваторы все чаще стали выдвигать обвинения в предвзятости, превращая обычные жалобы на методы модерации в социальных сетях в крупные скандалы. В одном из случаев в 2018 году Facebook ограничил распространение постов протрамповских социальных сетей Diamond и Silk в результате неоднократных нарушений. Компания отправила им письмо, в котором говорилось, что их контент "небезопасен для сообщества", и заявила, что "это решение окончательное и обжалованию не подлежит".
После того как сенатор Тед Круз обвинил Цукерберга в цензуре женщин, Facebook заявил, что его сообщение дуэту было "неточным", и отменил наказание. Однако этого было недостаточно, чтобы успокоить ситуацию. В течение месяца Даймонд и Силк давали показания перед судебным комитетом Палаты представителей, контролируемым республиканцами.
Подобные инциденты привели к появлению еще одной формы потворства, известной как "окно самовосстановления". Когда достаточно громкий аккаунт был окончательно уличен в нарушении правил Facebook, компания откладывала принятие мер на двадцать четыре часа, в течение которых пыталась убедить нарушителя добровольно удалить оскорбительный пост. Программа служила для привилегированных аккаунтов приглашением поиграть на грани дозволенного Facebook. Если они переступали черту, то могли просто вернуть все обратно, уже получив большую часть трафика, который они получили бы в любом случае. (Наряду с Даймондом и Силком, каждому члену Конгресса в итоге было предоставлено окно самоисправления).
Иногда Каплан сам принимал в этом непосредственное участие. Согласно документам, впервые полученным BuzzFeed, глобальный глава отдела публичной политики не преминул подтолкнуть сотрудников к отмене наказаний в отношении известных консерваторов за распространение ложной информации или склонить к изменению своих вердиктов специалистов по проверке фактов Facebook.
Среди политически влиятельных людей начало складываться понимание: если вы достаточно значимы, Facebook часто будет давать вам поблажки. Известные личности справедливо воспринимали любое значительное наказание как признак того, что Facebook не считает их достойными белоснежного обращения. Чтобы доказать, что компания ошибается, они кричали в ответ так громко, как только могли.
"Некоторые из этих людей были настоящими жемчужинами", - вспоминает Харбат. В офисе Facebook в Вашингтоне сотрудники четко обосновывали блокировку наказаний против "Мамочки-активистки", христианки со Среднего Запада, склонной к антигейской риторике, потому что она сразу же попала бы в консервативную прессу.
Боязнь Facebook испортить отношения с крупной публичной фигурой была настолько велика, что некоторые из них достигли статуса, выходящего за рамки XCheck, и были внесены в белый список, что делало даже их самый мерзкий контент неуязвимым для штрафов, снижения рейтинга, а в некоторых случаях даже для внутренней проверки.
Это был тот самый океан особого отношения, в котором плавал Трамп, когда писал в Твиттере о грабежах и стрельбе. Ставки не могли быть выше. Вопрос о том, что делать, перешел бы к Цукербергу.
Члены Civic наблюдали за спорами, охватившими платформу в режиме реального времени. Сразу после убийства Флойда, попавшего на видео, на карте ненавистнических высказываний и негативных отзывов пользователей по всем Соединенным Штатам появилось море зеленого цвета, ничего выше базового уровня . После того как протесты в Миннеаполисе переросли в насилие, в городе и вокруг него стали появляться очаги красного цвета, но нигде больше. После того как последователи Трампа в Facebook начали перепощивать его сообщения - часто в группах, где контент становился магнитом для самых жестоких и фанатичных мнений пользователей, - большинство крупных городов Америки
- Улыбка - Рэй Брэдбери - Научная Фантастика
- И грянул гром… (Том 4-й дополнительный) - Вашингтон Ирвинг - Научная Фантастика
- Ориентирование - К. М. Станич - Современные любовные романы
- Аквариум. (Новое издание, исправленное и переработанное) - Виктор Суворов (Резун) - Шпионский детектив
- Warhammer: Битвы в Мире Фэнтези. Омнибус. Том I - Гэв Торп - Фэнтези