TL; DR: Погані актори ніколи не сплять, і ми завжди еволюціонуємо, як їх ідентифікувати та пом'якшувати. Але з майбутніми виборами ми знаємо, що ви хочете побачити більше. Таким чином, ми беремо на себе щоквартальний звіт про маніпуляції вмістом та безпеку облікових записів, з першим поділимося у жовтні. Але по-перше, ми хочемо сьогодні поділитися контекстом щодо історії зусиль щодо маніпуляції вмістом та того, як ми розвивались протягом багатьох років для збереження автентичності сайту.

Коротка історія

Турбота щодо маніпуляції вмістом Reddit така ж стара, як і сама Reddit. До того, як були субредіди (близько 2005 р.), Всі бачили однаковий зміст, і нас насамперед хвилювали спам та маніпуляції з голосуваннями. Коли ми зростали в масштабах і впроваджували підкредити, нам довелося стати більш досконалими у виявленні та зменшенні цих проблем. Створення субредитів також створювало нові загрози, де «бригадирування» стає більш поширеним явищем (навіть якщо це рідко визначено). Сьогодні ми маємо справу не тільки з хакерами зростання, ботами та вашими типовими лайнерами, але ми маємо турбуватися про більш прогресивні загрози, такі як державні суб'єкти, зацікавлені втручатися у вибори та розпалювати суспільні поділи. Це являє собою еволюцію в зміні маніпуляцій не тільки на Reddit, але і в Інтернеті. Ці просунуті супротивники мають набагато більше ресурсів, ніж типовий спамер. Однак, як і в перші дні в Reddit, ми прагнемо боротися з цією загрозою, в той час як краще надаючи можливість користувачам і модераторам мінімізувати вплив несанкціонованого або маніпульованого вмісту.

Що ми зробили

Наша стратегія полягала в тому, щоб зосередити увагу на фундаментальних принципах і подвоїтись на речі, які захищали нашу платформу в минулому (включаючи вибори 2016 року ). Впливові кампанії представляють собою еволюцію в зміні маніпуляцій, а не щось принципово нове. Це означає, що ці кампанії будуються на основі тієї самої тактики, що й історичні маніпулятори (безумовно, з власним смаком). А саме, компрометовані рахунки, маніпулювання голосами та неправдива участь громад. Ось чому ми посилили нашу захист від подібних питань на сайті.

Компрометовані рахунки

Тільки цього року ми вживали запобіжних заходів на понад 10,6 мільйонів акаунтів із компрометованими обліковими записами для входу ( перевірити себе ) або обліковими записами, на які потрапили боти, що намагаються їх порушити. Це важливо, оскільки компрометовані облікові записи можуть бути використані для отримання негайного довіри до сайту та для швидкого масштабування атаки на вміст на сайті (так, навіть цей викинутий обліковий запис із паролем = Пароль! - це потенційна загроза!).

Маніпуляція з голосуваннями

Мета наших правил проти обману - унеможливити надмірне вплив людини на голоси щодо певного змісту. Ці правила, поряд із загальнодоступними повідомленнями користувачів (оскільки ви знаєте поганий вміст, коли його бачите), є одними з найпотужніших захистів, які ми маємо забезпечити, щоб дезінформація та вміст низької якості не отримували особливої ​​тяги до Reddit. Ми посилили ці засоби захисту (таким чином, ми не можемо повністю поділитися, не передаючи секретний соус). Як результат, ми знизили видимість контенту, який маніпулює голосами, на 20% за останні 12 місяців.

Зміст маніпуляції

Маніпулювання вмістом - це термін, який ми використовуємо для об'єднання таких речей, як спам, втручання у спільноту тощо. Ми повністю переглянули, як ми вирішуємо ці проблеми, включаючи посилення уваги до проактивного виявлення та машинного навчання, щоб допомогти поверхневим кластерам поганих облікових записів. За допомогою наших новіших методів ми можемо вдосконалити виявлення швидше та забезпечити більш повне усунення всіх облікових записів, пов’язаних із будь-якою спробою. Ми видалили на 900% більше політик, що порушують вміст у першій половині 2019 року, ніж аналогічний період 2018 року, і 99% цього було раніше, ніж про це повідомили користувачі.

Повноваження користувачів

Поза виявленням та пом'якшенням рівня адміністратора ми визнаємо, що значна частина того, що зберігає вміст на Reddit автентичним, - це користувачі та модератори. У нашому звіті про прозорість за 2017 рікми виділили відносно невеликий вплив, який російські тролі мали на цей сайт. 71% тролів мали 0 карму чи менше! Це прямий наслідок усіх вас, і ми хочемо надалі надавати вам можливість грати важливу роль в екосистемі Reddit. Ми інвестуємо в команду продуктів безпеки, яка створить покращені функції безпеки (користувачів та вмісту) на сайті. Ми все ще працюємо над цим персоналом, але ми сподіваємося, що незабаром ми отримаємо нові функції (включаючи контроль над натовпами, який ми переробляємо завдяки хорошим відгукам наших альфа-тестерів). Ці функції почнуть надавати користувачам та модераторам кращу інформацію та контроль над типом контенту, який відображається.

Що далі

Наступним компонентом цієї битви є спільний аспект. Як наслідок великих ресурсів, доступних державним супротивникам та їхніх недобрих цілей, важливо визнати, що ця боротьба не є тією, з якою Reddit стикається один. У боротьбі з цими передовими супротивниками ми будемо співпрацювати з іншими гравцями в цьому просторі, включаючи правоохоронні органи та інші платформи. Працюючи з цими групами, ми можемо краще дослідити загрози, оскільки вони виникають на Reddit.

Наша прихильність

Ці супротивники є більш досконалими, ніж попередні, але ми прагнемо забезпечити, щоб вміст Reddit не маніпулював. Часом деякі наші зусилля можуть здаватися важкими (вимушення скидання пароля), а в інший час вони можуть бути більш непрозорими, але знайте, що за кадром ми наполегливо працюємо над цими проблемами. Для того, щоб забезпечити додаткову прозорість навколо наших дій, ми будемо публікувати звіт про безпеку із обмеженим обсягом кожного кварталу. Це буде зосереджено на діях, пов’язаних із маніпулюванням вмістом та захистом облікового запису (зауважте, він не міститиме жодної інформації про юридичні запити та щоденні видалення політики щодо вмісту, оскільки вони надалі будуть публікуватися щорічно у нашому Звіті про прозорість). Ми отримаємо перший у жовтні. Якщо у вас є конкретна інформація, яку ви хочете, або у вас є питання, повідомте нас у коментарях нижче.

[РЕДАКТ: Я підписуюся, дякую всім за чудові запитання та відгуки. Буду перевіряти це час від часу і намагатимусь відповісти, наскільки це можливо.]