Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц
- Дата:19.06.2024
- Категория: Деловая литература / Прочая документальная литература
- Название: Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов
- Автор: Джефф Хорвиц
- Просмотров:2
- Комментариев:0
Шрифт:
Интервал:
Закладка:
Единственным разумным предположением было: не очень. После того как в результате недовольства сотрудников реакцией компании на пост Трампа о "грабежах и стрельбе" начались утечки, Facebook начал блокировать свои системы. Форумы, которые раньше мог просматривать каждый, у кого был идентификатор сотрудника, стали доступны только по приглашениям, а недавно нанятые внутренние модераторы иногда удаляли спорные сообщения с Workplace.
Workplace был сложной системой для навигации, шокирующе устойчивой к поиску по ключевым словам. Результаты выдавали несколько результатов, но для поиска конкретного объекта обычно требовалась либо энциклопедическая память, либо пятнадцать минут блужданий по соседним дискуссионным форумам. Конкретный объект исследования мог быть доступен по немаркированным гиперссылкам в полудюжине различных сообщений и документов, а огромный объем неструктурированного, перекрестно размещенного материала делал невозможной чистую инвентаризацию. Многое из этого можно списать на пережитки исторической культуры открытости Facebook, но кое-что было чистой воды лажей. Документы, на которые якобы распространялась адвокатская тайна, и проекты презентаций для Цукерберга, снабженные полной историей правок высшего руководства, время от времени выкладывались в местах, где их могли просматривать более 60 000 сотрудников, не говоря уже о неизвестном количестве подрядчиков.
Платформа для внутренних коммуникаций Facebook функционировала так же, как и ее внешний продукт, с похожим оформлением и функциями. Такие группы, как "Только неправильные ответы" и "Дерьмопостинг@", насчитывали десятки тысяч участников, демонстрируя культуру самобичевания. Когда главный инженер компании осудил сотрудников, которые "отдыхали" во время удаленной работы, сотрудники с гордостью поделились фотографиями фирменных подставок для напитков.
Как и его публичный собрат, внутренняя платформа иногда становилась острой. Люди почти всегда были вежливы - в конце концов, они общались с коллегами, - но недовольство часто высказывалось в разделах комментариев, а не в дипломатично сформулированных электронных письмах. Сотрудники, выходящие за дверь, могли быть особенно язвительными. В компании существовала традиция "размещения бейджей", когда уходящие сотрудники объединяли фотографию удостоверения сотрудника, которое они собирались сдать, со своими напутственными словами коллегам. Наряду с выражениями благодарности и приглашениями поддерживать связь сотрудники иногда объясняли, почему они решили уволиться.
Причины могут быть откровенными. В 2016 году New York Times сообщила, что Facebook тихо работает над инструментом цензуры, пытаясь выйти на китайский рынок. Хотя эта история была чудовищной, она не стала сюрпризом для многих людей внутри компании. За четыре месяца до этого один из инженеров обнаружил, что другая команда изменила инструмент для борьбы со спамом таким образом, чтобы позволить сторонней организации контролировать модерацию контента в определенных географических регионах. В ответ на это он уволился, оставив после себя пост с бейджиком, в котором правильно предположил, что код был предназначен для того, чтобы поставить заслон китайским цензорам.
Завершив пост литературной цитатой об этике из романа Шарлотты Бронте "Джейн Эйр": "Законы и принципы - не для тех времен, когда нет искушения: они для таких моментов, как этот, когда тело и душа восстают против их строгости; они строги, они должны быть нерушимы. Если бы я мог нарушать их по своему усмотрению, что бы они стоили?"
Набрав 1100 откликов, 132 комментария и 57 акций, этот пост перевел программу из разряда совершенно секретных в разряд открытых. Его автор только что создал новый шаблон: жесткое прощание с Facebook.
Это прощание произошло в то время, когда опросы удовлетворенности сотрудников Facebook были в целом положительными, до начала бесконечного кризиса, когда общественные проблемы оказались на первом месте. За прошедшие годы Facebook наняла огромное количество честных сотрудников для работы над этими проблемами и серьезно разозлила нетривиальную часть из них.
Как следствие, некоторые сообщения о значках стали приобретать более мятежный оттенок. Сотрудники, проделавшие новаторскую работу в области радикализации, торговли людьми и дезинформации, подводили итог своим достижениям и рассказывали о том, в чем, по их мнению, компания не справилась с техническими и моральными задачами. Некоторые выпады против компании заканчивались на обнадеживающей ноте, включая подробные, легкие для жаргона инструкции о том, как в будущем их преемники смогут возродить эту работу.
Эти сообщения были для Хауген золотой жилой, соединяя предложения по продуктам, результаты экспериментов и идеи таким образом, что стороннему наблюдателю было бы невозможно их воссоздать. Она фотографировала не только сами сообщения, но и материалы, на которые они ссылались, прослеживая нити, ведущие к другим темам и документам. Полдюжины из них были поистине невероятными, неавторизованными хрониками зарождающегося понимания Facebook того, как его дизайн определяет то, что потребляют и чем делятся его пользователи. Авторы этих документов не пытались подтолкнуть Facebook к социальной инженерии - они предупреждали, что компания уже забрела в эту область и теперь находится в ней по горло.
-
Большую часть утра Хауген проводила за сбором документов, а остальную часть рабочего дня - за выполнением своих непосредственных задач в Facebook, хотя она начала тайком проводить исследовательские сессии во время звонков по Zoom. Спустя долгое время ее коллеги рассказывали мне, что в ходе расследований она задавала необычные, с точки зрения ретроспективы, вопросы, например: помнят ли они, где найти ссылку на их работу, документирующую распространенность языка ненависти на амхарском языке, самом распространенном языке в Эфиопии?
Я проводил большую часть дня, пытаясь понять, что она собрала, а по вечерам мы встречались за ужином и напитками и обсуждали, что из всего этого получается. Хауген делала в среднем несколько сотен скриншотов в день. Насколько я мог судить, они были размытыми, но почти всегда разборчивыми.
Работа с источником, выкачивающим документы, - дело непростое, в нем переплетаются этические и юридические соображения. Я не мог попросить ее собрать конкретные документы или даже прикоснуться к ее клавиатуре - такой шаг, как дали понять юристы журнала, мог бы открыть мне путь к обвинениям по Закону о компьютерном мошенничестве и злоупотреблении , федеральному закону, по которому преследуется большинство хакерских преступлений.
Таким образом, у меня были ограниченные полномочия. Моя работа заключалась в обсуждении любой информации, которой хотел поделиться Хауген, изучении всего, что было известно об этой теме за пределами компании, а затем задавании последующих вопросов. Более широкая картина, которая вырисовывалась, заключалась не в том, что на Facebook происходили отвратительные вещи, а в том, что Facebook знала об этом. Она знала о масштабах проблем на своей платформе, знала (и обычно игнорировала) способы их решения и, самое главное, знала, чем динамика ее социальной сети отличается от динамики открытого интернета или офлайновой жизни.
Благодаря тому, что Хауген сам чувствовал проблемы Facebook, и месяцам бесед, мы
- Улыбка - Рэй Брэдбери - Научная Фантастика
- И грянул гром… (Том 4-й дополнительный) - Вашингтон Ирвинг - Научная Фантастика
- Ориентирование - К. М. Станич - Современные любовные романы
- Аквариум. (Новое издание, исправленное и переработанное) - Виктор Суворов (Резун) - Шпионский детектив
- Warhammer: Битвы в Мире Фэнтези. Омнибус. Том I - Гэв Торп - Фэнтези