Інтернет-тероризм та екстремізм: чи можливо від нього захиститися

Інтернет-тероризм та насильницький екстремізм мають міжплатформенний та транснаціональний характер. Ці тенденції є очевидними у тематичних дослідженнях – від міжнародного вербування Ісламською державою іноземних бійців-терористів, включаючи жінок, до теорій змови, що закликають до насильства.

Будь-які зусилля, спрямовані на ефективну протидію тероризму та насильницькому екстремізму, повинні виходити за рамки однієї країни та однієї платформи. Наступним великим викликом для урядів та неурядових організацій (НУО), які співпрацюють із технологічними компаніями, є усвідомлення реальності того, що Інтернет та його послуги дуже неоднорідні, а платформи з глобальними користувачами все частіше не базуються у США чи якійсь іншій країні союзнику США.

Здатність технологічних компаній ділитися інструментами зменшення ризиків на різних платформах, а також співпрацювати з урядами та громадянським суспільством для обміну тенденціями та просування сумісних рамок реагування на кризи, за останні роки пройшла значний шлях. Ці зусилля сприяли таким ініціативам, як Глобальний Інтернет – форум з протидії тероризму (GIFCT); Техніка проти тероризму (TAT); та Глобальну мережу з екстремізму та технологій (GNET). Ці організації та мережі працюють з більш широкими урядовими форумами, такими як Інтернет-форум ЄС, Виконавчий директорат Організації Об'єднаних Націй з питань боротьби з тероризмом та Заклик до дії в Крайстчерчі – у спробах просування зусиль технологічних компаній щодо саморегулювання та збільшення проактивних відповідей.

На сьогоднішній день GIFCT та інші працювали над крос-платформними зусиллями для своїх компаній-учасниць. Це включає такі речі, як база даних обміну хешами, або «цифрові відбитки пальців», фотографій та відео, які були визначені як терористичний вміст, щоб платформи могли відстежувати та видаляти його, якщо це необхідно. Вивчаючи прогрес, досягнутий у сфері безпеки дітей, хешовані версії терористичного вмісту дозволяють ділитися ідентифікаторами такого вмісту без обміну будь-якими даними користувачів або особистою інформацією.

Спільні зусилля також включають крос-платформенну систему реагування на інциденти, щоб оперативно реагувати на реальні атаки, які мають елементи в Інтернеті, такі як пряма трансляція стрілянини в Крайстчерчі в 2019 році. Робочі групи об’єднують урядовців, лідерів технологій, представників громадянського суспільства, перших осіб, що реагують, та інших зацікавлених сторін для формування найкращої практики та розуміння таких питань, як реагування на кризи, алгоритми змісту та позитивні втручання для протидії екстремізму в Інтернеті, рамки звітності щодо прозорості та підходи до протидії тероризму.

Дослідження терористичних та насильницьких екстремістських тенденцій показують, що в одній онлайн-терористичній кампанії часто використовуються три або більше платформ. Мала, менш регульована платформа зазвичай використовується для приватної координації, наприклад, наскрізна шифрована платформа чату. Друга платформа використовується для зберігання оригінальних копій пропаганди та засобів масової інформації. Крім того, основні члени або прихильники розповсюджують стратегічний контент на більших платформах соціальних медіа, або «підсилювальних» торгових точках, які неминуче стануть відомими платформами, які кожен використовує, щоб отримати максимальну популярність. Боротьба з тероризмом в Інтернеті вимагає вирішення цієї взаємодії, але будь-яка окрема платформа чи компанія не мають уявлення про тенденції в інших місцях Інтернету.

Академічні уявлення про суперечливі тенденції та спроби визначити, які платформи використовуються, є ключовими для технологічних компаній, щоб відповідно адаптувати свої зусилля з безпеки. Урядові зусилля щодо залучення інтернет-компаній до боротьби з тероризмом та протидії екстремізму також повинні спиратися на експертні знання, щоб створити широку мережу, яка включатиме різноманітніші платформи.

Платформи соціальних медіа не передають зашифровану інформацію про користувача. Без сильних сигналів на платформі, таких як текст або зображення, якими можна поділитися разом із посиланням, вони не знають, що посилання URL-адреси, призводить до порушення вмісту, якщо цей вміст розміщено на сторонній платформі. Вони також часто не можуть сказати, що користувач є «терористом» або «екстремістом» без явних сигналів на своїх платформах. Дослідження, що вивчають посилання, пов'язані з одним виданням «Ісламської держави», показали, що URL-адреси, якими ділилися лише у Twitter, пов'язані з 244 різними платформами розміщення вмісту, значною мірою розміщеними на менш відомих мікросайтах, таких як 4shared.com, cloudup.com або cloud.mail.ru.

Великі компанії соціальних медіа, що базуються в Кремнієвій долині, завжди будуть по праву піддаватися ретельному контролю, але якщо політики збираються ефективно кинути виклик тероризму та насильницькому екстремізму в Інтернеті, їм потрібно мислити глибоко та глобально.

Екстремістські організації знають про брендинг та членство в Інтернеті. Ці організації та їх послідовники все більше залучаються до «обміну», коли їх аудиторія зростає. Логотипи та лозунги субкультури неонацистських груп наносяться на футболки, прапори, шапки, маніфести та навіть «набори для виживання», які можуть придбати члени та прихильники. Фінансові технології та платформи онлайн-ринку часто шокують, коли правозахисні групи та неурядові організації соціальної справедливості відзначають ці монетизовані продукти.

Дивлячись на поточні зусилля та пропаганду посилення регулювання в Інтернеті, фокус майже повністю зосереджений на створеному користувачами контенті в соціальних мережах. Законодавство ЄС, Австралії, Великобританії та інших країн зосереджено майже виключно на швидкому видаленні зображень та відео. Однак багато платформ, які використовуються для подальших терористичних та насильницьких екстремістських зусиль, мають менше стосунку до офіційної пропаганди в соціальних мережах, а більше – до фінансування та координації.

Послуги конференц-зв'язку, платформи гостинності для бронювання номерів, менші платформи чату, сусідні з іграми комунікаційні платформи та транспортні програми – все це залучено до терористичних та екстремістських заговорів та подій останніх років. Щоб допомогти керувати цими платформами, увагу доведеться переключити на ширший спектр засобів безпеки. Виявлення логотипів, класифікатори тексту, деформація мережі та спільний доступ до URL-адрес – це лише деякі із способів, за допомогою яких співпраця може покращити безпеку та проактивну роботу. Ми не можемо просто алгоритмічно вийти з проблеми. Алгоритмічний нагляд та інструменти, які можуть посилити роботу, безумовно, необхідні, але інструментарій завжди потрібно поєднувати з контекстом та наглядом людини. Розвідка з відкритим вихідним кодом та аналіз досліджень необхідні, щоб у модераторів платформ були ресурси, які допоможуть їм керуватися. Тоді платформи несуть відповідальність за те, щоб взяти ці висновки та діяти відповідно до них та правових вказівок і їх політики. Хоча інструменти та алгоритми допомагають платформам вирішувати питання щодо масштабу та швидкості, людський нагляд та контекстні ресурси потрібні для забезпечення тонкого розуміння та пом’якшення потенційної цензури.

Глобальні користувачі, глобальні платформи

Останні 10-20 років люди пов'язують глобальні технології з Кремнієвою долиною або, принаймні, з великими американськими компаніями. Ці компанії повинні принаймні дотримуватися законів США і часто неявно приймати американські норми щодо свободи слова та інших прав. Але оскільки вони поширилися по всьому світі, їхня база користувачів також розширилася в геометричній прогресії серед неамериканської аудиторії. Для боротьби з тероризмом та протидії екстремізму це означало необхідність великого розширення розуміння мови та нюансів того, як соціальні та культурні норми мови ворожнечі та насильства проявляються на міжнародному рівні.

Не можна очікувати, що показники насильницького екстремізму в США будуть виглядати ідентично показникам у Європі, Азії та Африці. У кожному регіоні та країні є свої насильницькі екстремістські та терористичні організації, кожна з яких має свою конкретну соціально-політичну історію, яка часто містить закодовані символи, гасла та наклеп. Однак не кожна технологічна компанія має можливість найняти десятки тисяч модераторів по всьому світу. Лише найбільші монетизовані компанії можуть дозволити собі цю внутрішню інфраструктуру підтримки. Міжсекторальні зусилля та державно-приватне партнерство залишатимуться ключовими, особливо для невеликих платформ, які спираються на сторонні дані та інструменти. Нарешті, глобальні компанії все частіше виходять з ринків, що не є американськими. В опитуванні 50 найкращих платформ соціальних медіа Організації з економічного співробітництва та розвитку 13 базувалися в Китаї. Ці компанії приходять з країн з різними правилами та інфраструктурою нагляду, а також різними культурними нормами, що стосуються конфіденційності та безпеки. Це по суті не погано. Однак немає реальних наднаціональних глобальних механізмів для запровадження цифрових норм, і навіть коли правозахисні неурядові організації та органи ООН підкреслюють необхідність нагляду за «правами людини», GIFCT та ті, хто відстежує прогрес технологічної платформи, вже бачать різні тлумачення того, що це означає.

Чи вирішують технологічні компанії свободу слова, конфіденційність чи безпеку? Часто вирішення для одного відбувається за рахунок двох інших. Платформи, що рухаються між цими трьома необхідними опорами, пішли різними шляхами. Кінцева конфіденційність користувачів із наскрізною зашифрованою комунікацією піддається критиці як надання безкоштовного проходу для експлуатації дітей та терористів. Політика, орієнтована на безпеку, щоб швидше видалити поганий вміст на платформах, критикується за потенційну цензуру з можливими наслідками для активістів, коли дані передаються урядам. Вільність слова без параметрів неминуче призводить до дегуманізації та насильства, якщо його не контролювати.

Міжгалузева співпраця

Як завжди, немає єдиного рішення для вирішення всіх нюансів, пов'язаних із протидією тероризму та насильницькому екстремізму в Інтернеті. Однак, щоб еволюціонувати та зменшувати ризик з часом, однозначно необхідний підхід. Наступне велике питання: хто готовий прийти за стіл переговорів і що вони можуть зробити разом? Завжди буде легше судити про ті компанії, які вже є за столом, про тих, хто намагається забезпечити певний рівень прозорості, і про тих, хто готовий визнати, що щось пішло не так. Що робити з компаніями, які не бажають брати участь у діалогах чи забезпечувати прозорість. Це все частіше буде ставати головним питання для урядів та законодавців.