Сбой в Facebook раскрыл личности модераторов экстремистам

18 июня 2017

1805

Сбой в Facebook раскрыл личности модераторов экстремистам

Об этом сообщает британская The Guardian.

Ошибка коснулась более тысячи сотрудников компании, работающих в ее 22 отделах и использовавших программу для рассмотрения и удаления неподобающих публикаций, включая порнографию, оскорбления и пропаганду терроризма.

Сбой в программе произошел в конце прошлого года. Из-за него личные профили модераторов, которые забанили пользователей, нарушивших правила, появлялись на всеобщее обозрение остальных членов сообщества.

Из примерно тысячи модераторов 40 работали в контртеррористическом отделе, штаб-квартира которого находится в Дублине (Ирландия). Причем шесть человек из этого числа подверглись наибольшему риску после того, как их личный профиль попал в поле зрения потенциальных террористов.

Таких модераторов, как правило, нанимают через компанию Cpl Recruitment, и их зарплата невысокая.

Один из пострадавших дал интервью журналистам “Гардиан”, при этом не раскрывая своего имени. Речь идет о молодом человеке в возрасте за 20, родом из Ирака. Будучи ребенком, его родители бежали вместе с ним в Ирландию, где и осели.

По словам модератора, он сильно испугался, когда обнаружил, что семь забаненных им пользователей из протеррористической группы на “Фейсбуке”, основанной в Египте и активно поддерживающей ХАМАС, а также симпатизирующей “Исламскому государству”, просматривали его личный профиль в этой соцсети.

Пресс-служба Facebook сообщила, что сбой устранили вскоре после того, как он был обнаружен, а также было сделано все, чтобы подобные ошибки не повторялись.

Однако собеседник “Гардиан” очень сильно испугался. В “Исламском государстве” наказание для тех, кто в том или ином виде противостоит этой террористической организации, одно — обезглавливание. Достаточно было сообщить своим активистам и сочувствующим в Дублине, и участь модератора была бы печальной.

Молодой человек уволился с работы и “лег на дно” в Восточной Европе на пять месяцев. “Оставаться в Дублине было слишком опасно”, — объяснил он. Еще в Ираке его отца однажды похитили и жестоко избили боевики, а дядя был там убит. “Главной причиной, по которой мы перебрались в Ирландию, стало желание уехать подальше от терроризма и угроз”.

По его словам, еще пять его коллег оказались в зоне риска. Их профиль изучали активисты ИГИЛ, “Хизбаллы” и РПК. Все они признаны в США террористическими организациями.

По словам модератора, он и его коллеги почувствовали неладное, когда к ним начали отправлять запросы о дружбе забаненные ими пользователи, сочувствующие террористам.

Тогда в компании оперативно провели внутреннее расследование и вычислили сбой. Крэг Д’Cауза, глава отдела внутренних расследований Facebook, отметил, что сбой был обнаружен в ноябре 2016 года. И с тех пор в компании приняли целый ряд мер, направленных на защиту своих сотрудников. Все, кто потенциально мог бы пострадать в результате сбоя программы, были предупреждены об опасности.

При этом, по словам Д’Cаузы, эту опасность не стоит преувеличивать, потому что с высокой долей вероятности подозреваемые в терроре не смогут вычислить точное местонахождение модераторов из-за обилия доступных данных, в которых легко запутаться.

“Я понимаю, что говорит Крэг, но рисковать не собираюсь, — отметил
скрывающийся модератор. — Я не готов ждать, когда мне пришлют заминированную посылку по почте. Две недели действовал сбой, и еще две недели шло расследование. Мои данные были доступны целый месяц для всех желающих”.