Пространство правды и пространство лжи стали сближаться, отсюда фейки и постправда

Прошлый мир пытался жестко разграничить пространство правды и пространство лжи. Журналистика имела свои нормы, которые не допускали прихода лжи в пространство правды, тиражируемого массовыми коммуникациями. Конечно, в том мире была и пропаганда, где эти два пространства могли пересекаться.

В принципе считается, что каждая страна передает вовне тот пропагандистский образ, который отражает то, чем она обладает в наименьшей степени. Советский Союз проецировал зажиточную жизнь своих граждан, а США — высокий интеллектуальный уровень своих. Поэтому Советский Союз показывал условного токаря Петрова в его новой квартире, где за окном можно было увидеть его собственную машину. То есть он создавал картинку всеобщего счастья, показывая картинку реально существующего индивидуального счастья. То есть правда на одном уровне оказывался ложью на другом, поскольку однотипного коллективного благополучия не было.

Пропаганда в этом плане похожа на литературу. И та, и другая пытаются на индивидуальных фактах показать правила, тренды. И в этом заложена возможность лжи, когда госпропаганда начинает это использовать. Для обычного человека фильм «Кубанские казаки» и был правдой, а не его нелегкая собственная жизнь за окном, которую он рассматривал как исключение.

Литературные нарративы сильны тем, что обладают стратегическим влиянием в отличие от сообщения в газете. Газета завтра будет уже другой, а роман сохранится еще долгое время. Тексты Оруэлла подействовали намного сильнее любой газетной статьи. И сегодня, например, США усиленно разрабатывают методы борьбы с нарративами радикального ислама, поскольку они управляют разумом сильнее, чем нарративы американские [1 — 5].

В принципе любой информационно-коммуникативный продукт несет в себе потенциальную опасность, поскольку за ним может стоять «подрывная» по отношению к имеющейся виртуальная система. Например, на наших глазах полем битвы вдруг стал интернет [6]. А этого нового пространства вообще не было несколько десятилетий тому назад.

Отсюда параллельное развитие с информационно-коммуникативными технологиями цензуры разного типа. Когда-то Г. Иннис назвал монастыри монополистами знаний, поскольку монахи-переписчики средних веков что-то переводили на новый долговечный материал пергамент, а что-то — типа Аристотеля как языческий текст — оставляли за бортом ([7], см. также [8]).

Изобретение печати приносит новые возможности для цензуры, поскольку печать концентрировалась в определенных точках. В то время как многие авторы «выиграли от эры массовой грамотности, печатный станок одновременно облегчил контроль и цензурирование литературы. Это стало особенной проблемой для авторов, живущих в тоталитарных режимах типа нацистской Германии или Советского Союза, где возникли системы подпольной публикации, чтобы избежать цензуры» [9].

Печать была коллективным производством, легко доступным для контроля. Но уже появление индивидуальной печатной машинки, а потом ксерокса стало шоком для спецслужб, поскольку тиражирование «чужого» стало трудно контролировать. Считается, что Польша, например, вышла на свой революционный путь благодаря множительной технике, которую ввозила католическая церковь.

Самой главной преградой для советского человека стала не та цензура, которая называлась «литом» и сидела в кабинетах, а та, которая поселилась в головах. Внутренняя цензура не позволяла писать то, что будет отклоняться, то, за что можно было понести наказание. Писатели не любят писать «в ящик».

В первые годы после семнадцатого система еще не сформировалась, и множество интересных и оригинальных писателей начали свой путь. Это касается и образования, когда множество сильных ученых с дореволюционным образованием работали в науке. Особенно это касается оборонной тематики, где власть всю советскую историю давала существенные послабления ученым-оборонщикам, а это в свою очередь заставляло развивать и образование.

Писатели в силу индивидуального характера своего труда реально могли контролироваться только на конечном результате. По этой причине для привлечения к созданию нужных произведений была придумана система госзаказа. И писатели, и композиторы, и режиссеры как бы подталкивались к фабричной системе создания произведений, необходимых с точки зрения государства.

О. Лекманов говорит о советских писателях: «Я думаю, что особенность советского проекта и того, что делает государство, заключалась в том, что писателю не только стали говорить, чего он не должен писать, но и что он должен писать. Раньше условный «договор» выглядел так: писатель не должен высказываться напрямую против церкви и власти, писать порнографию и так далее. А что он там напишет про природу, любовь — это ему не диктовалось. Что касается советского проекта, то в нем это произошло не сразу, можно говорить о некоей эволюции. Впрочем, можно назвать конкретную дату для литературы — 1934 год, первый Съезд советских писателей, когда их просто построили в ряд. Была создана структура, иерархия, и все писатели подчинялись высшему начальству, которое, в свою очередь, подчинялось Сталину. Этой структурой было очень удобно управлять» [10].

 И еще: «Писатель должен был, описывая, скажем, белую птицу, после этого как-то выйти на тему советской власти. Если он писал про любовь между мужчиной и женщиной (что не очень поощрялось), то она обязательно должна была быть какой-нибудь непутевой дояркой, а он — бригадиром, который исправит ее. В общем, писателю, художнику стали жестко диктовать, что и как он должен делать».

В принципе можно сказать, что управление производством виртуального строилось по принципу фабрики или колхоза. Были созданы творческие союзы, в каждом из которых был свой председатель, который был наиболее «правильным» писателем. Но иногда даже правильные писатели стрелялись на этом посту, как это произошло с А. Фадеевым.

Сегодня неуправляемый интернет пришел во все более несистемный мир. Мы называем его несистемным, поскольку происходит переход к его новому состоянию, а на сегодняшний день в нем существуют и действуют и старые, и новые правила. А интернет исходно при создании предполагал такую неуправляемость, с политической точки зрения Запад все время видел его под углом того, что таким образом меньшинства получат возможность сделать свой голос услышанным.

Нам даже трудно представить себе сегодня сочетание Интернета и СССР. Как говорилось в фильме, Боливар не выдержит двоих. Или Интернет, или СССР должны были бы умереть. Если бы они оба сохранились, то это был бы не СССР, или не Интернет.

Ненормальное в нашем мире является нормальным в идущем на смену будущем мире. Таким примером могут быть и фейки. Они как бы «сидят» на иной модели порождения информации. Если раньше мы видели эту модель как АВТОРИТЕТНЫЙ ИСТОЧНИК (ограниченное число) — ИНФОРМАЦИЯ, то с постепенным умиранием печатных изданий, которые и удерживали эту рамку, мы имеем модель, характерную не для печатного, а для устного общения: ИСТОЧНИК (неограниченное число) — ИНФОРМАЦИЯ. А поскольку в случае соцмедиа источников может быть миллион, то и возникает миллион «правд».

Сегодня исследователи констатируют: «Назовите это дезинформацией, фейковыми новостями, мусорными новостями или сознательно распространяемым обманом, все это уже было с тех пор, как первый проточеловек прошептал первые злонамеренные сплетни. Однако современные технологии с их разработанной инфраструктурой для загрузки, комментирования, реагирования в виде лайков, передачи другим создали почти идеальную среду для манипуляции и  насилия, которая, возможно, угрожает самому пониманию разделяемой правды» [11].

Кстати, тут может возникнуть вопрос, что, возможно, просто правда уже не нужна, раз ее статус так резко упал. Человек далекого прошлого отчаянно нуждался в правде, будучи совершенно незащищенным, и одну из таких правд-защит ему дала религия. Сегодняшний человек чувствует себя достаточно защищенным, чтобы погружаться в фэнтези и не искать правды.

Более того, исследования активно подтверждают то, что неправда распространяется в социальных сетях гораздо лучше правды. И это может нам говорить о том, что она более нужна, поскольку неправда распространяется быстрее именно благодаря пользователям.

Объяснение этому исследователи видят таким: «Социальные медиа трансформировали способы оперирования с новостями и политическим контентом, предоставив пользователям возможность создавать и передавать новости.  […] Интернет контент может свободно двигаться с одного конца земли на другой. Каждый с клавиатурой или смартфоном может стать издателем, создавая и делясь контентом и информацией с любыми пользователями вне зависимости от географических расстояний. Микроблогерство и журналистика граждан, возникшие благодаря свободному потоку информации, несут важное и позитивное влияние на свободу слова и демократию, поскольку традиционные медиа и телевидение более не имеют монополии на новости и информацию о политике» [12].

И в ожидании новых выборов возникает идея о защите персональных данных от политических партий. Ее автор С. Бредшоу пишет: «Мы живем в сетевом обществе, где данные является валютой нашей информационной экономики. Каждый раз когда мы лайкаем пост, взаимодействуем с друзьями или делаем онлайновый заказ, мы порождаем информацию о своем поведении, интересах, ценностях и отношениях. Интернет компании традиционно использовали эти данные, чтобы создавать детальные профили пользователей, чтобы связать продукцию с конкретными сегментами населения. Однако этими техниками воспользовались для построения детальных психологических профилей избирателей, что может быть использовано для доставки политической рекламы и пропаганды. В современной электронной среде личные данные не только используются, чтобы продвигать традиционные потребительские продукты, но и продавать нас мировым лидерам» [13].

При этом хоть много отрицательных слов было высказано в этом контексте о ботах как распространяющих лживую информацию, но реальную опасность несут не боты, а люди [14]. Именно они создают те нарративы, которые затем «стреляют» по избирателям, подталкивая их на требуемый тип поведения.

И получается, что суть даже не в том, что соцмедиа дали возможность индивидуальным пользователям творить свою правду, а в том, что было создано информационное пространство, в котором просто нет ни моральных, ни каких других ограничителей. Перед нами как бы скоростное шоссе, но без никаких знаков ограничений дорожного движения. А поскольку информации много, то отдельный пользователь уже не в состоянии оценивать ее на правдивость.

Одновременно возникают иные правила, по которым живет эта «дорожная» среда. Таким новым феноменом стал изменившийся статус внимания. Оно было всегда, оно и в прошлое время направляло и создавало информационные и виртуальные потоки. К примеру, это массовая культура и литература, где читатель/зритель является равноправным творцом с настоящим автором.

Исследователи говорят сегодня о новом статусе внимания такое: «Социальные медиа — и шире, интернет в целом — принадлежат экономике внимания, где наиболее ценным контентом является тот, кто скорее всего привлечет внимание. Перегрузка информацией позволила интернету сделать внимание самым ценным ресурсом. Вирусный контент от забавных видео до сенсационных заголовков, собирает клики, ретвиты и лайки, принося рекламный доход» [15].

Есть и другая ветвь использования big data, чем то, что мы все пишем в Фейсбуке. А. Пентленд, признанный гуру big data, говорит, что то, что мы делаем в Фейсбуке, мы редактируем под стандарты, это то, что мы хотим рассказать другим, а big data расскажет о нашем реальном поведении, где мы проводим время, что покупаем. И на основании этого можно увидеть, что мы собой представляем, дать ответ на вопрос банка, вернем ли мы заем, дать ответ доктору, не появится ли у нас диабет ([16 — 17] см. также примеры исследования больших данных в полицейской аналитике [18 — 20]). Анализ big data для случая предотвращения диабета, а траты на эту болезнь в стране составляют в США миллиарды [21 — 23], привел в результате к падению числа диагностируемых после многих лет роста. Так в 2009 было 1.7 диагнозов в год, то в 2011 число новых пациентов упало до 1.5 миллионов, а в 2014 — до 1.4 миллиона [24].

Big Data изучает связи — людей друг с другом, их поведение и последствия. Сегодня ставится и новая задача, отталкивающаяся от того, что не удается предсказывать социальные протесты даже при мониторинге социальных сетей.

Следующее объяснение этому дают ученые Массачусетского технологического института, создающие новую науку о связях в статье с интересным подзаголовком «Распространение использования социальных медиа не отразилось на существенных социальных изменениях». Они имеют в виду, что социальная мобилизация через сети работает очень слабо, и пишут: «В отличие от контента сообщений и структуры социальных сетей стимулы являются намного менее видимыми. Они проявляют себя через действия индивидов, и часто конкретное действие приходит из множества стимулов. Прежде чем мы сделаем практическую теорию социальной мобилизации, мы должны создать новые пути измерения, влияния и моделирования стимулов в сетях и для интерпретации индивидуальных действий в их рамках» [25] .

Как видим, big data посмотрела на процессы социальных протестов и соцмедиа не с позиций социальной мобилизации, поскольку она оказалось неработающей, и это известный факт из опыта арабской весны. Всплеск информационный сам по себе завершается ничем, просто через несколько дней, поскольку нет перехода на следующий шаг.

Перед нами все время возникают разные фрагменты иного мира, который никак не наступит. Просто разные части нашего сегодняшнего мира движутся вперед с разной скоростью. Пока именно информационно-коммуникативные технологии оказываются в лидерах.

Визионер и футуролог К. Келли акцентирует то, что такой «уход» в новые миры характерен  для всех ситуаций сегодняшнего дня. Мир материальных объектов остается позади, а у него были одни законы, которые не совпадают с миром, который идет ему на смену.

Келли отмечает: «Индустриальная экономика занималась материальными вещами, сетевая — в основном неосязаемыми: идеями и информацией. Это вносит совершенно новые правила игры. Например, в физическом мире я могу сделать и продать партию продукта, но, если продукция на складе закончилась, мне уже нечего продавать. В сетевой экономике все иначе: у меня есть идея, я продам ее вам — и теперь у нас обоих есть идея. Я могу передать эту идею какому угодно числу людей без необходимости каждый раз делать ее копии, каждый раз сохраняя у себя то, что я только что продал. Это совершенно другой тип производства, который предполагает намного более бурную динамику роста. При этом сетевая экономика не отменяет индустриальной: пока страна не прошла стадию индустриализации, она не может перейти к сетевой экономике. Эта проблема сейчас заметна на примерах многих африканских стран, которые сильно отстали от мира» [26].

И даже проблема внимания, которая характерна для гуманитарных объектов типа телевидения, становится проблемой всей экономики: «В мире, где машины могут создать изобилие чего угодно, единственная вещь, которая окажется в дефиците, — это человеческое внимание. Я думаю, что в скором времени потребителям будут платить за то, что они обращают внимание на продукты компаний. При этом внимание одних будет более ценным, чем интерес других. Мы уже видим начало этого процесса — компании привлекают к рекламе «лидеров мнений», с помощью больших данных ранжируют пользователей по влиянию на других людей. Компании начинают использовать максимально прицельный таргетинг — сообщения, обращенные не к массе людей, а к конкретному индивиду. Фактически они берут на вооружение то, что не так давно начало применяться в политических целях. Но это будет ухабистая дорога — слишком много моральных проблем затронуто».

Сегодняшним нарративам  приходится перестраиваться под новые интересы. Они могут реализовываться в видеоиграх, где игрок сам управляет сюжетом, что было невозможно в прошлом. Они могут быть нагружены не только развлекательной, но и разрушающей модель мира зрителей/читателей информацией. И они могут становиться оружием в очередной холодной войне.

Нарративы задают модели мира для конкретного человека и отдельной страны. Они показывают цели, раскрывают причинно-следственные связи всех поступков. Они, как клубок, размотав который, можно увидеть и прошлое, и настоящее, и будущее.

Особенно опасной является ситуация, когда картина мира в голове лидера расходится с реальностью, поскольку она заставляет его действовать неадекватно. Вот слова Г. Павловского о Путине: «он расстыковался с принципом реальности. Он под кайфом своей глобальной ценности. Когда погиб «Курск» — я хорошо это помню — он сразу сказал как отрезал: «Наверняка было какое-то разгильдяйство». И так и оказалось. Но глобальный Путин такого позволить себе не может. К тому же на него начинает влиять чудовищный прессинг «Останкино», оно работает на него как театр одного зрителя. Теперь он может поверить в любую постановочную конспирологию — хоть в посылку Boeing, полного мертвецов, чтобы его дискредитировать. Раз ты ось мира, то на что не пойдет враг, чтобы тебя убрать? Все, что происходит, осмысляется им как спецоперации врага, который денно и нощно ищет возможность его убрать. И Россию он теперь видит иначе. Россия — в нем. Он символ России, он знает свой рейтинг, у него есть внутреннее мерило величия. Но не может ничего изменить — символ не вправе меняться» [27].

Разрушение интереса к правде можно косвенно увидеть в борьбе российской власти с социологией, которую можно увидеть в весьма поучительном интервью Л. Гудкова, главы Левада-центра [28 — 29]. Часть социологических служб была даже «заклеймена» в качестве иностранных агентов.

Мы говорим о когнитивной атаке по отношению к сфере информационных/виртуальных войн. Но такая атака может иметь и совершенно мирный характер, а ее последствия лежат в существенном изменении ментальности массового сознания. Это может быть, к примеру, «оттепель» времен Хрущева, хоть он и не любил этот термин, приписывая его «сыну троцкиста» Б. Окуджаве. Такие «одномоментные» послабления иногда встречались в советской истории, оставляя при этом достаточно глубокие последствия.

Мир вокруг меняется не только революциями, но и искусством. Виртуальное может менять реальность, поменяв взгляд на нее. Так, например, оценивается сегодня роль художников объединения «Мир искусства»: «этот непривлекательный, рутинный современный мир можно ведь и переделать, переформатировать, сделать его иным для глаза, для визуального восприятия. Спасти красотой: то есть изменить интерьеры, книги, здания, одежду. Чтобы не только искусство, но и повседневный быт стал дру­гим. Такая получается парадоксальная комбинация эскапизма с рефор­матор­ством и дизайнерством. И надо сказать, что эта грандиозная задача — ни много ни мало как изменить вкус целой эпохи — этим нескольким людям во многом удалась. Буквально через 10 лет русская публика, до того воспитан­ная на пове­ствовательных картинах с внятным сюжетом — передвижнических или акаде­мических, — оказалась готова принять русский авангард» [30].

Неправда в той или  иной степени исходит от всех. Простой пример «Малая земля» Брежнева, которую пропаганда сделал центром войны. Событие несомненно было, но статус его столь же несомненно многократно завышен.

Ситуация становится на порядок хуже, когда распространятся начинают лживые новости, где лидерство находится у разведок, что у КГБ или ФСБ, что у ЦРУ [31]. Их возможности столь велики, что в случае конфликтной ситуации уже сложно будет пробраться сквозь завесу лжи, создаваемую ими. И так по множеству других параметров. Сегодня даже «прозрачность» (transparency) вписали на роль «матери» фейков ([32], см.также [33]). Любая конфликтная ситуация также становится генератором фейковых новостей, поскольку они призваны заменить реальность (см. российские примеры [34 — 35]). С пропагандистскими подпорками виртуальный мир легко побеждает реальный, тем более при системной работе.

Мы также столкнулись со странным феноменом разных последствий двух революций в коммуникации: книгопечатания и интернета. И тот, и другой резко увеличили объемы циркулирующей информации, число авторов и особенно читателей, поскольку увеличились массивы информации. Если первый скачок, пришедший с изобретением книгопечатания Гутенбергом, создал пространство правды, придав ему непоколебимую силу, подключив науку и образование, то современный скачок, наоборот, впустил в мир индустриально порождаемое пространство лжи в виде фейков и постправды. Можно это рассматривать также как последствия производства массового продукта, который в таких ситуациях всегда максимально упрощается. Тут можно сравнить высокую культуру и массовую. Расширение круга потребителей всегда возможно только за счет упрощения распространяемого объекта.

Б. Коварик, у которого есть отдельная книга, посвященная революциям в коммуникациях [36], говорит об изменении скорости, пришедшем с изобретением Гутенберга: один монах мог переписать одну страницу за день, пресс Гутенберга увеличил силу монаха в 200 раз [37]. Лютер прибил свой текст к двери церкви 31 октября 1517 года. Но через несколько лет 300 тысяч копий было напечатано и распространено, что привело к реформации и разделению церкви. Однако негативной стороной книгопечатания он считает возникновение империй, колониализма, капитализма и появление национального государства.

Виртуальный мир все время меняется, опережая в этом плане мир реальный. Виртуальность дает человеку разных героев. Их можно увидеть в истории  советского, а потом и постсоветского кино. Были танкисты, потом трактористы, потом уже после войны офицеры, потом физики-ядерщики из «Девяти дней одного года», а на завершении этого цикла пришла «интердевочка». Не будем считать, что все это всегда герои для подражания, что было бы слишком простым решением. Но определенная история прошедшего времени явно выстраивается.

Сегодня мы попали в новый период, когда виртуальность как в виде фейков и постправды, так и телесериалов и видеоигр пришла в нашу жизнь на смену пропаганды как виртуальности прошлого периода. И мы снова живем под крылом виртуальности, только нового типа, грозя оттуда нехорошей пропаганде.

Подписывайтесь на канал «Хвилі» в Telegram, страницу «Хвилі» в Facebook.

Литература

1. Weaponized narrative: the new battlespace // weaponizednarrative.asu.edu/file/272/download?token=kV886rEe
2. Scott J. Information warfare: the meme is the embryo of the narrative illusion // icitech.org/wp-content/uploads/2018/02/CCIO-Information-Warfare-The-Meme-is-the-Embryo-of-the-Narrative-Illusion.pdf
3. Cobaugh P. A Five-Point Strategy to Oppose Russian Narrative Warfare // medium.com/@paulcobaugh/a-five-point-strategy-to-oppose-russian-narrative-warfare-56e0006aab2a
4. Maan A. Calls to Terrorism and Other Weak Narratives http://www.ajitkaurmaan.com/uploads/2/6/7/9/26794704/calls_to_terrorism_and_other_weak_narratives.pdf
5. Ruston S. W. Narrative landmines // smallwarsjournal.com/jrnl/art/narrative-landmines
6. Маскало Г. Война в сети. Государства превращают интернет в поле битвы // inosmi.ru/politic/20180502/242110835.html
7. Innis H. Empire and communications. — Toronto, 2007
8. Почепцов Г. Новые медиатеории: Гарольд Иннис // psyfactor.org/lib/newmedia3.htm
9. Puchner M. How stories have shaped the world // www.bbc.com/culture/story/20180423-how-stories-have-shaped-the-world
10. Советскому человеку промыли мозги. Что с этим делать — непонятно // lenta.ru/articles/2018/05/02/lovehate/
11. Waldrop M. News Feature: The genuine problem of fake news // www.pnas.org/content/114/48/12631
12. Bradshaw S. a.o. Why does junk news spread so quickly across social media? Algorithms, advertising and exposure in public life // kf-site-production.s3.amazonaws.com/media_elements/files/000/000/142/original/Topos_KF_White-Paper_Howard_V1_ado.pdf
13. Bradshaw S. Data-protection must be extended to political parties // www.theglobeandmail.com/opinion/article-data-protection-laws-must-be-extended-to-political-parties/
14. Heffernan V. Bots aren’t the enemy in the information war — we are // www.wired.com/story/social-media-makes-us-soldiers-in-the-war-against-ourselves?mbid=nl_050218_gadgetlab_list1_p3&CNDID=50699076
15. Marwick A., Lewis R. Media Manipulation and Disinformation Online // datasociety.net/pubs/oh/DataAndSociety_MediaManipulationAndDisinformationOnline.pdf
16. Pentland A. Social physics. How Social Networks Can Make Us Smarter — New York, 2014
17. Pentland A. Reinventing society in the wake of big data // www.edge.org/conversation/alex_sandy_pentland-reinventing-society-in-the-wake-of-big-data
18. Почепцов Г. Новые аналитические подходы в работе полиции. Опыт США и Великобритании // psyfactor.org/psyops/new-police.htm
19. Winston A. A pioneer in predictive policing is starting a troubling new project // www.theverge.com/2018/4/26/17285058/predictive-policing-predpol-pentagon-ai-racial-bias
20. Seo S. a.o. Partially Generative Neural Networks for Gang Crime Classification with Partial Information // www.aies-conference.com/wp-content/papers/main/AIES_2018_paper_93.pdf
21. Elvidge S. Using data analytics to improve diabetes prevention // bigdata-madesimple.com/using-data-analytics-to-improve-diabetes-prevention/
22. Beaton T. Research collaboration to use big data for diabetes prevention // healthitanalytics.com/news/research-collaboration-to-use-big-data-for-diabetes-prevention
23. Cichosz S.L. a.o. Toward big data analytics. Review of Predictive Models in Management of Diabetes and Its Complications // www.ncbi.nlm.nih.gov/pmc/articles/PMC4738225/
24. Bresnick J. Is Population Health Management Paying Off for Diabetes? // healthitanalytics.com/news/is-population-health-management-paying-off-for-diabetes
25. Cebrian M. a.o. Beyond viral // web.media.mit.edu/~cebrian/beyond-viral.pdf
26. Келли К. Рано или поздно мы сами станем богами. Интервью // www.rbc.ru/technology_and_media/03/05/2018/5ae303db9a79476a10cd49e3?from=center_2
27. Павловский Г. Все, что в мире происходит, осмысляется как спецоперация врага. Интервью // newtimes.ru/articles/detail/160874
28. Гудков Л. Независимой социологии в России нет. Интервью // trv-science.ru/2018/04/24/gudkov-demina-sociology/
29. Калинин К. и др. Крымский опрос как зеркало русской социологии // trv-science.ru/2016/01/12/krymskij-opros-kak-zerkalo-rossijskoj-sociologii/
30. Ельшевская Г. Русский модерн. Лекция 1 // arzamas.academy/materials/1201
31. Осгуд К. Кампания ЦРУ по распространению фейковых новостей // www.theguardian.com/uk-news/2018/may/06/cambridge-analytica-kept-facebook-data-models-through-us-election
32. Fish S. ‘Transparency’ Is the Mother of Fake News // www.nytimes.com/2018/05/07/opinion/transparency-fake-news.html?action=click&pgtype=Homepage&version=Moth-Visible&moduleDetail=inside-nyt-region-1&module=inside-nyt-region®ion=inside-nyt-region&WT.nav=inside-nyt-region
33. Lessig L. Against transparency // newrepublic.com/article/70097/against-transparency
34. Inside the Kremlin house of mirrors. How Liberal Democracies can Counter Russian Disinformation and Societal Interference // hcss.nl/sites/default/files/files/reports/Inside%20the%20Kremlin%20House%20of%20Mirrors.pdf
35. Эплбаум Э. Фейковые новости, которые россияне слышат у себя дома // inosmi.ru/social/20180506/242149705.html
36. Kovarik B. Revolutions in Communication: Media History from Gutenberg to the Digital Age. — New York — London, 2016
37. Ramani M. How a German city changed how we read // www.bbc.com/travel/story/20180507-how-a-german-city-changed-how-we-read