€ 82.76
$ 71.31
Прививка от дезинформации: как защититься от неправды в цифровом мире

Прививка от дезинформации: как защититься от неправды в цифровом мире

Колумнист Undark Тереза Карр рассказывает, как училась распознавать фейки

Будущее
Фото: Christian Gertenbach/Unsplash

В субботу днем я устроила хаос в виртуальном городе Harmony Square — по словам его основателей, «зеленом и приятном месте», известном своим лебедем в пруду, живой статуей и фестивалем пиццы с ананасами. Используя сайт фейковых новостей под названием Megaphone (с лозунгом «громче, чем все остальные»), и армию ботов, я вызвала возмущение и раскол населения. В конце концов, Harmony Square был уничтожен.

Я получила огромное удовольствие от своего 10-минутного злодеяния — даже несколько раз засмеялась. И в этом была суть. Разрушение города — главное действие в онлайн-игре Breaking Harmony Square, которую создали Государственный департамент США и Министерство внутренней безопасности совместно с психологами из Кембриджского университета и голландской инициативой DROG, которая использует игры для борьбы с дезинформацией. Будучи главным сотрудником по дезинформации в Harmony Square, я узнала о методах манипуляции, которыми люди пользуются, чтобы привлечь внимание последователей, разжечь рознь, а затем использовать социальную напряженность в политических целях.

Изобретатели игры развивают психологическую концепцию, заимствованную из иммунологии — прививку. Игровой процесс — как вакцина, поэтому, если кто-то столкнется с подобными манипуляциями в реальном мире, то будет знать, с чем имеет дело. Исследования показывают, что люди, которые играют в игры, лучше контролируют методы манипуляции, более уверены в своих суждениях и реже делятся дезинформацией. Хотя я уже была знакома с некоторыми стратегиями, после игры я научилась лучше обнаруживать манипулятивные сообщения в Facebook и Twitter.

Это легкий подход к тяжелой проблеме, поскольку управляемый цифровой мир все больше вторгается в реальную жизнь. «Мы не просто боремся с эпидемией; мы боремся с инфодемией», — сказал в феврале прошлого года генеральный директор Всемирной организации здравоохранения Тедрос Аданом Гебреисус в своей провидческой речи перед Советом безопасности Мюнхена, когда новый коронавирус SARS-CoV-2 стал распространяться по миру. «Фейковые новости разносятся быстрее, чем этот вирус, и они не менее опасны».

Как ученые, так и журналисты пишут, что люди, получающие новости из социальных сетей и мессенджеров, гораздо чаще верят ложным заявлениям о Covid-19 и вакцинах, разработанных против него. Также исследователи писали о том, как распространение в социальных сетях ложной информации о подтасовке выборов помогло спровоцировать восстание 6 января в Капитолии США.

И хотя большинство из нас скорее всего смогут определить заведомо фальшивые новости или мем, призванный вызвать эмоции, многие люди не осознают, насколько сильно подвержен манипуляциям цифровой мир. «Вычислительная пропаганда — использование алгоритмов, автоматизации и больших данных для формирования общественной жизни — становится повсеместной и широко распространенной частью повседневной жизни», — пишут исследователь из Оксфордского института Интернета Саманта Брэдшоу, и директор института Филип Ховард в отчете за 2019 год, в котором подробно рассказывается об организованных манипуляциях в социальных сетях. Ученые обнаружили свидетельства того, что политические партии и правительственные институты в 70 странах использовали ту же тактику, которую я использовала против жителей Harmony Square — накопление ботов-последователей, создание фейковых новостей и распространение дезинформации в социальных сетях.

Одна из стратегий борьбы с дезинформацией заключается в применении таких методов, как прививка, которая помогает людям стать более устойчивыми цифровыми гражданами, говорится в анализе, опубликованном в журнале Psychological Science in the Public Interest в декабре прошлого года. «Идея состоит в том, чтобы дать людям возможность принимать собственные — более эффективные — решения путем предоставления им простых инструментов или эвристики, несложных, но действенных правил», — говорит ведущий автор, научный сотрудник Института развития человека им. Макса Планка Анастасия Козырева.

«Человеческая психология полна не только уязвимостей, но и того, что крепко и прочно в нас», — отмечает она. Психологические науки могут быть полезны в создании среды, которая сохраняет автономию и дает подсказки, помогающие людям, а не манипулирующие ими.

Исторически сложилось так, что человеку сложно адаптироваться к новым технологиям — примерно как к велосипедам в XIX веке, считает профессор Школы информации Мичиганского университета Ирен Паскетто. «Велосипеды вызвали негативную реакцию, их сочли опасными и способными подорвать местную экономику», — говорит она. Езда на велосипеде — более быстрая, чем ходьба, и более дешевая, чем передвижение на лошади или повозке — стала настолько популярной, что рестораны и театры опасались разорения. Врачи, церковные лидеры и другие люди считали велосипеды морально и физически опасными для женщин, которые надевали шаровары и наслаждались новообретенной мобильностью. Конечно, отмечает Паскетто, общество со временем привыкло к велосипедам, равно как и к радио, телефонам, автомобилям и так далее.

Но цифровая среда уникальна тем, насколько быстро она поглощает нашу жизнь, подчеркивает Козырева. Всемирной паутине всего 32 года. Расцвет социальных сетей произошел только в последние два десятилетия. «Я не думаю, что мы когда-либо видели такие радикальные — и даже не постепенные — изменения, как в случае с интернетом», — говорит она. По ее словам, более половины мира сейчас в сети, и люди все чаще основывают свой выбор на информации, которую получают в цифровой среде.

По словам профессора информатики и компьютерных наук Университета Индианы Филиппо Менцера, большинство людей не осознают, что их выбором активно манипулируют и управляют с помощью технологий, которые фильтруют и анализируют информацию. «За десять лет мы перешли от модели, когда информация поступала через доверенных посредников, таких как газеты или вечерние новости, к модели получения новых знаний через социальные сети.

В современном мире неточная информация очень легко может стать популярной, а затем алгоритмы ранжирования еще больше ее распространяют. По словам Менцера, платформы постоянно меняют правила и настраивают свои секретные алгоритмы. «Даже исследователям — не говоря уже о каком-либо отдельном пользователе — совершенно невозможно понять, как и почему они получают одну информацию, а не другую». Все это, добавляет он, «меняется с гораздо более высокой скоростью, чем та, к которой мозг в состоянии приспособиться».

Чтобы склонить баланс сил обратно к личности, Козырева и ее коллеги предложили использовать когнитивные и поведенческие вмешательства по типу прививок, чтобы усилить контроль людей над своим цифровым окружением. Менцер также выступает сторонником такого подхода. Под его руководством Обсерватория социальных сетей при Университете Индианы разработала несколько инструментов и игр, чтобы приоткрыть завесу над распространением дезинформации в социальных сетях.

Среди этих инструментов Hoaxy, поисковая система, которая визуализирует, как распространяются заявления в Twitter, и Botometer — он показывает, насколько высокая активность в социальных сетях вызвана автоматизированными компьютерными программами — ботами. В исследовании, опубликованном в журнале Science в 2018 году, ученые из Массачусетского технологического института использовали программное обеспечение, лежащее в основе Botometer, чтобы отследить распространение в Twitter 126 тысяч историй, как ложных, так и правдивых. Они обнаружили, что ложь распространяется дальше и быстрее, чем правда, во всех категориях информации, и что последствия этого наиболее заметны в политической сфере. Исследовательский центр Pew Research Center использовал инструмент Университета Индианы, чтобы показать: почти две трети ссылок, которыми делятся в Twitter, публикуются ботами.

Козырева и ее команда также выступают за применение концепции поведенческой экономики, известной как «подталкивание» — создание среды, которая направляет людей к более правильному выбору — для формирования более здорового цифрового пространства. Они подробно описывают длинный список действий: отключение уведомлений, перемещение отвлекающих приложений с главного экрана (или их удаление), ужесточение настроек конфиденциальности, использование таких программ, как Freedom или Boomerang для выборочного управления приложениями, и просто игнорирование таких сайтов, как Facebook, где процветает дезинформация.

Директор по смешанному и сетевому обучению в Университете штата Вашингтон Майкл Колфилд часто слышит мнение, что люди, которых легко обмануть фальшивыми новостями, не обладают навыками критического мышления. Он утверждает, что это заблуждение. Раньше информация в основном поступала в виде новостей, которые обеспечивали контекст. Но сегодня эти обрывки информации, данных и статистики отделены от фактов и обстоятельств, окружающих их — поэтому даже когда люди пытаются провести собственное исследование, им трудно собрать все воедино. «Информация на самом деле не поддается расшифровке, и мы как бы купились на лживые утверждения, будто можем взломать код».

Колфилд, Козырева и другие эксперты считают, что нужно повышать способность людей оценивать надежность информации, обучая их упрощенным версиям стратегий проверки фактов. Колфилд говорит, что ему удалось научить студентов бакалавриата быстро оценивать источник за четыре шага. «Как только у них появляется контекст, они довольно точно говорят: «О, я доверяю ему на этом уровне по этим причинам», — отмечает он.

Все эти методы основаны на идее, что люди хотят участвовать в игре с интернет-манипуляциями и, в некоторых случаях, бросить вызов своим убеждениям. «У людей есть почти врожденная способность презирать манипуляции и ложь», — уверена Козырева.

Но Паскетто, которая помогла основать журнал Misinformation Review при Гарвардской школе Кеннеди, не уверена в этом. Козырева и ее коллеги «похоже, полагают, что дезинформированные люди знают об этом и не хотят, чтобы их дезинформировали в будущем, — говорит Паскетто. — Я не думаю, что это непременно так».

Есть мнение, что только поведенческие и когнитивные вмешательства защитят людей от манипулятивных сил в интернете. «Важно не говорить, что мы нашли серебряную пулю или что теперь, когда у нас есть когнитивные инструменты, которые научат людей цифровой грамотности, все будет хорошо, — подчеркивает Козырева. — Нет, ничего не будет хорошо, потому что, очевидно, задействованные силы настолько велики, что эти вмешательства обычно производят весьма незначительный эффект».

Колфилд обеспокоен тем, что его усилиями воспользуются те, кто воспринимает прогресс в образовании как причину не заниматься проблемами на политическом уровне. Он отметил: то, что вы прошли курсы вождения, не означает, что вы отменяете законы вождения. «Учитывая все обстоятельства, возможно, именно законы защищают вас в большей степени, чем курсы».

Паскетто считает, что в конечном итоге люди адаптируются к интернету, как и к другим технологическим инновациям. «Я вижу, что гражданское общество действительно упорно борется за регулирование интернета и переосмысление его устройства, — говорит она. — А потом я вижу, как исследователи медиаграмотности работают над разработкой новой учебной программы, чтобы объяснить детям, как обращаться с онлайн-медиа. Я вижу, что общество очень заинтересовано в решении этой проблемы». (Например, голландские и британские команды, работавшие над Breaking Harmony Square, также разработали аналогичную игру под названием Bad News, где есть версия для детей 8-11 лет).

Мы не можем просто развести руками, говорит Колфилд. «Цинизм, вероятно, более разрушителен для демократии, чем персональная ложь». На самом деле, по его словам, цель многих дезинформационных кампаний — создать непроницаемый туман конкурирующих фактов, чтобы люди сдались и задумались: «А кто же на самом деле говорит правду?»

«Если удалить правду из уравнения, вы окажетесь в мире, где авторитаризм — действительно единственный путь вперед, — говорит он. — Если вы потеряете истину, то получите власть».

Мы, люди, жаждем новизны и удовольствия, поэтому, возможно, поиск истины может начаться с игры. В Breaking Harmony Square, чем лучше вы используете манипулятивные тактики в сети, тем больше лайков и подписчиков заработаете. Мой окончательный результат составил 58 868 подписчиков, но готова поспорить, что смогу побить этот рекорд, если сыграю еще раз. А вы сможете?

Источник

Интересная статья? Подпишитесь на наш канал в Telegram, чтобы получать больше познавательного контента и свежих идей.

Свежие материалы