Форма входа
0/0
Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
- Дата:19.06.2024
- Категория: Деловая литература / Прочая документальная литература
- Название: Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов
- Автор: Джефф Хорвиц
- Просмотров:2
- Комментариев:0
Уважаемые читатели!
Тут можно читать бесплатно Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц. Жанр: Деловая литература / Прочая документальная литература. Так же Вы можете читать полную версию (весь текст) онлайн книги без регистрации и SMS на сайте Knigi-online.info (книги онлайн) или прочесть краткое содержание, описание, предисловие (аннотацию) от автора и ознакомиться с отзывами (комментариями) о произведении.
Описание онлайн-книги Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц:
Взгляд из-за кулис на манипулятивные тактики, которые использовал Facebook для развития своего бизнеса, на то, как он исказил способ нашего общения в Интернете, и на инсайдеров компании, которые нашли в себе мужество высказаться.Книга рассказывает о стратегических промахах Facebook в борьбе с ее участием в распространении дезинформации, политическом расколе и даже геноциде. Книга наполнена поразительной, порой оруэлловской статистикой и анекдотами, которые могли появиться только изнутри.Когда-то Facebook был непревзойденным титаном социальных сетей и занимал особое место в культуре и политике. Вместе со своими родственными платформами Instagram и WhatsApp он был ежедневным местом посещения для миллиардов пользователей по всему миру. Как внутри компании, так и за ее пределами Facebook превозносил свои продукты как сближающие людей и дающие им право голоса. Но после выборов 2016 года даже некоторые топ-менеджеры компании стали считать эти утверждения упрощенной идеей. Facebook пропагандировал и усиливал гнев, смотрел сквозь пальцы на торговлю людьми, поддерживал наркокартели и авторитарные режимы, позволял VIP-пользователям нарушать якобы незыблемые правила платформы. Джефф Хорвиц - репортер The Wall Street Journal, освещающий вопросы мета- и социально-медийных платформ.
Читем онлайн Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
Шрифт:
-
+
Интервал:
-
+
Закладка:
Сделать
течение нескольких месяцев было удалено четыреста групп, связанных с политикой, в ходе процесса, который, по собственному признанию команды, был сдержанным в плане "методологического величия". Но он оказал влияние: закрыл примерно 1 миллиард ежемесячных просмотров контента из токсичных групп.
Кроме того, компания пошла на попятную и в отношении политической рекламы, объявив в сентябре, что запретит ее на неделю до и после выборов. Если возникнут ложные заявления о фальсификации бюллетеней, Facebook меньше всего захочет брать деньги за их продвижение.
Компания также отказалась от своего нежелания маркировать речи политических деятелей. Основываясь на работе, ранее проделанной Харбатом, Facebook подготовил уведомления о политических постах, которые сначала направляют пользователей к внешним источникам фактической информации о голосовании, а затем объявляют о завершении выборов после подсчета бюллетеней.
В конце игры в Meaningful Social Interaction готовилось еще одно значительное изменение. Хотя сотрудники Civic сначала предупреждали, а затем документально подтвердили, что акцент MSI на комментариях и повторных публикациях поощряет гнев в политике, Facebook мало что сделал для решения этой проблемы за два с половиной года, прошедшие с тех пор. Но в сентябре компания неожиданно согласилась с давней рекомендацией Civic уменьшить вознаграждение за размещение контента, приводящего зрителей в ярость. Отныне алгоритм перестанет рассматривать эмодзи гнева как основание для усиления поста. Facebook также планирует перестать рассматривать комментарии с издевками как положительный сигнал распространения.
Это была большая победа для Civic и команды Integrity Ranking, хотя и с небольшим опозданием. Правильная перестройка рекомендательных систем News Feed для снижения вирусности "контента, вызывающего гнев", заняла бы недели, а этого времени у компании уже не было. А пока Facebook навязывает быструю и грязную версию, просто изменяя результаты работы системы.
" Этот запуск временный, пока не будут обновлены основные модели", - отметил автор сентябрьского документа, описывающего последствия изменения рейтинга. Но даже такое небрежное решение привело бы к значительному сокращению дезинформации и подстрекательства к насилию. (Позднее Facebook будет утверждать, что это изменение не оказало существенного влияния, хотя компания и сохранила его в силе).
Внезапный шквал одобрений на поздних стадиях для давно отложенных проектов по обеспечению честности оправдывает ощущение, что где-то далеко над Civic люди в корпоративной иерархии начинают нервничать. Но именно меры, которые, как надеялись в Facebook, не потребуются, наиболее наглядно продемонстрировали, что компания готовится к возможной аварийной посадке на выборах.
Несмотря на то, что компания начала работу над созданием мероприятий Break the Glass в США, работа была направлена на менее развитые страны. Многие из них, такие как агрессивное ограничение повторного обмена сообщениями, воздержание от рекомендации вновь созданных групп и наказание за распространение пользователей, неоднократно размещавших ложную информацию, начинались как предложения по постоянному улучшению целостности всей платформы, которые были отклонены на основании того, что они снижали вовлеченность или считались неприемлемыми командой общественной политики, ориентированной на США. Для крупных рынков эти предложения оказались в конце пути.
Однако в странах риска эти отброшенные рычаги честности получили потенциальную жизнь. Не имея возможности полагаться на классификаторы и обладая ограниченными возможностями для проверки контента на таких языках, как бирманский, тамильский или оромо, Facebook был готов изменить свою механику таким образом, что на родине это было невозможно.
Многие из инструментов, которые были внедрены на этих рынках, подозрительно напоминали те, которые KX Jin призвал компанию применить по всему миру годом ранее. Эти меры в гораздо меньшей степени опирались на искусственный интеллект и в гораздо большей - на трение, делая платформу более стабильной в тех случаях, когда не требовалась модерация. Они замедлили распространение вирусного контента, заменив его материалами, размещенными непосредственно друзьями пользователя. Они ограничили скорость роста групп Facebook, ограничили рекомендации контента из недавно созданных источников и ограничили комментирование постов, которые, как казалось, вызывали много ненависти. Кроме того, было проведено агрессивное ранжирование. Классификаторы становились в геометрической прогрессии эффективнее, если вы были готовы сильно понизить рейтинг поста, который имел шансы пятьдесят на пятьдесят оказаться проблемным, хотя многие из самых мощных шагов этого не требовали.
Первое крупномасштабное применение мер "Разбей стекло" - сокращенно БСГ - произошло в Мьянме, где в 2018 году компания с запозданием бросила все силы на сдерживание продолжающегося насилия против рохинджа, поддерживаемого государством . В следующий раз BTG были применены в Шри-Ланке на Пасху 2019 года, когда разрушительные атаки террористов-смертников, вдохновленных ИГИЛ, на церкви и отели грозили привести к началу более масштабного насилия.
"Мы пытались сделать взрывы в Шри-Ланке большим обучающим событием, - вспоминает один из сотрудников ARC. Поначалу было сложно определить, насколько эффективны те или иные меры, поскольку проводить A/B-тесты в чрезвычайных ситуациях было неэтично. Но позже команда смогла провести чистые тесты, определив, что самые мощные инструменты связаны с ранжированием контента. "Мы стали получать от гражданского общества сообщения о том, что это спасает жизни".
Даже когда преимущества безопасности были высоки, а бизнес-риски низки - никого не волновал рост числа пользователей в Йемене или мысли сирийского правительства о модерации контента, - инструменты BTG все равно использовались экономно. Например, в преддверии выборов в Мьянме в 2020 году компания задействовала меру "Разбить стекло", которая ограничивала распространение повторно выкладываемого контента и заменяла его на контент от друзей пользователей. Это вмешательство привело к впечатляющему сокращению на 25 % вирусных подстрекательских постов и на 49 % вирусных фотографий-мистификаций. Эти достижения - которые, как отмечалось в служебной записке, снижают риск того, что Facebook "спровоцирует дальнейший конфликт" в Мьянме, - не уменьшили количество сеансов, в течение которых пользователи, говорящие на бирманском языке, заходили в приложение. Единственной ценой стало примерно 2-процентное снижение вовлеченности по показателю "Значимые социальные взаимодействия".
Учитывая историю участия Facebook в этнических чистках в Мьянме, сокращение количества реакций и комментариев на 2 % казалось бы небольшой ценой за большую безопасность. Но даже такая цена оказалась слишком высокой для компании, чтобы принимать ее на постоянной основе. " Мы планируем свернуть это вмешательство после выборов в Мьянме в ноябре", - отмечалось в октябрьском документе команды ARC. После того как бирманские военные захватили власть в результате переворота, компания сохранила некоторые успокаивающие меры, но отменила ограничения на повторный обмен, которые уменьшили распространение подстрекательского контента. В принципе, Цукерберг по-прежнему не любил вносить в платформу изменения, снижающие "ценность для пользователей".
Еще более неохотно компания развертывала защиту Break the Glass у себя дома. Официальное присвоение Соединенным Штатам статуса "страны первого уровня риска" поставило бы их в один ряд с такими странами, как Ирак, Йемен и Сирия, а компания обычно старалась
На этой странице вы можете бесплатно читать книгу Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц бесплатно.
Похожие на Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц книги
- Улыбка - Рэй Брэдбери - Научная Фантастика
- И грянул гром… (Том 4-й дополнительный) - Вашингтон Ирвинг - Научная Фантастика
- Ориентирование - К. М. Станич - Современные любовные романы
- Аквариум. (Новое издание, исправленное и переработанное) - Виктор Суворов (Резун) - Шпионский детектив
- Warhammer: Битвы в Мире Фэнтези. Омнибус. Том I - Гэв Торп - Фэнтези
