Клапаны и трубы: как новая метафора способна изменить интернет

На протяжении многих лет основной метафорой интернета была «городская площадь» — бесконечное пространство для свободного выражения мнений, где высказаться может каждый. Но по мере того, как масштабные цифровые платформы стали доминировать в современной жизни, метафора публичных выступлений уже не может отразить современную нестабильность общества.

Возможно, следует сравнивать интернет с более древней проблемой инфраструктуры — городской системой канализации. Размещаемый контент сродни воде, веб-сайты и другие интерфейсы аналогичны насосам, а цепочки распространения мнений — это риск заражения. Если рассматривать интернет с точки зрения системы общественного здравоохранения, то мы сосредоточимся не на самой информации, а на том, как она генерируется, распространяется и потребляется через цифровые платформы.

Истоки этой модели лежат в истории двухсотлетней давности первых защитников чистой воды в викторианской Англии. В то время опасные для жизни болезни, опустошавшие города (холера, тиф, туберкулез и скарлатина) не были чем-то новым. Новыми были современные условия жизни. Инфекции, на распространение которых в деревне могли уйти недели, опустошали целые районы города всего за несколько дней, и никто не мог понять, почему.

Представители рабочего класса в те времена недолго искали виновников: ими стали врачи. Толпы нападали на представителей медицинского сообщества, и в результате государственные деятели не знали, как совместить безопасность докторов и общественные интересы. Почему возникала эта ярость? В промышленно развитых городах традиционный способ остановить распространение инфекции — карантин — оказался неэффективным. Население легко потеряло доверие к тем, кто «наживался» на лечении.

Первый серьезный подход к этой проблеме был предпринят коалицией врачей, либеральных правозащитников и социальных реформаторов, начиная с 1830-х годов. Получившие прозвище «миазматики», они выдвинули идею о том, что виновником эпидемий является загрязненный воздух. Если район города не может пройти «проверку на запах», то, как утверждали они, очевидно, что его уже не спасти.

Миазматики, включая таких выдающихся людей, как Флоренс Найтингейл, оставили противоречивое наследие. Они были одними из первых, кто подчеркнул, что болезни имеют не только биологические, но и социальные и экономические причины, что было крайне важно. Но одновременно они были глубоко неправы относительно роли воздуха в распространении основных болезней того времени: вывод просто отражал ограниченные взгляды и строгую мораль того времени.

Эти противоречия проявились во время двух ключевых событий. Одним из них стало Великое Зловоние 1858 года, когда сочетание жаркой погоды и скверной утилизации отходов превратило Темзу в выгребную яму. Зловоние было настолько сильным, что даже портьеры в здании парламента пришлось вымачивать в растворе хлорной извести. Никто не мог спастись от вредного воздуха и по предположениям миазматиков, это означало, что никто не был защищен от болезней. Но на самом деле после Великого Зловония не последовало ни одной серьезной вспышки.

Второе новаторское решение проблемы распространения болезней выдвинул гениальный врач Джон Сноу, который уже много лет подозревал, что именно вода (а не воздух) является фактической причиной городских эпидемий. В ходе тщательного эксперимента в реальных условиях Сноу доказал, что источником эпидемии холеры 1854 года в лондонском районе Сохо был насос на Брод-стрит. Его исследования показали, что жители всего города заболевали, если случайно набирали воду из источника с этим насосом, даже если в соседней пивоварне, которая брала воду из другого источника, не было зарегистрировано ни одного случая заболевания. Других разумных объяснений не было: неизвестная на тот момент причина, скрытая в этом насосе и была ответственна за распространение инфекции. Хотя Сноу старался сформулировать свои результаты так, чтобы не отвергать теорию миазмов, последствия были очевидны.

После долгих споров в течение следующих 20 лет в Лондоне была внедрена первая в мире современная канализационная система. И с 1850 по 1900 год проблема городских болезней была переосмыслена: от вопроса индивидуальных обстоятельств жизни и халатности, к проблеме экономической зависимости и социальной взаимосвязи. Когда стало ясно, что необходимы не только медицинские специалисты, но и эффективные водопроводы и предохранительные клапаны, государственная политика перешла от разовых процедур к целостной оценке здоровья населения, с учетом новых критериев. Позиции общественного здравоохранения изменились: если эпидемия холеры продолжалась, то только потому, что город отказывался обеспечивать питьевой водой уязвимые слои населения.

Сегодня мы наблюдаем онлайн-версию «Великого Зловония» и остро нуждаемся в методах Джона Сноу. Быстро накапливаются доказательства того, что социальные медиа наносят значительный вред в огромном масштабе, особенно в плане ухудшения психического здоровья и доверия. Поскольку эти эффекты не поддаются прямому измерению (за исключением изобличительных наблюдений и комплексных исследований в режиме реального времени), нам, как и Сноу, остается лишь строить догадки о причинах, пытаясь получить более точные данные.

Что потребуется, чтобы создать нечто подобное санитарной инфраструктуре для социальных сетей или генеративного ИИ? В недавно опубликованном проекте  приводятся доказательства, что это означает создание инструментов оценки, позволяющих связать особенности механизма работы соцсетей (например, рекомендательных алгоритмов) с результатами для пользователей, такими как влияние на психическое здоровье.

Если вспомнить метафору, современные технологические вмешательства, как правило, сосредоточены на стратегиях модерации, ориентированных на конкретных пользователей и отдельные фрагменты контента. Это похоже на работу медсестер в системе здравоохранения: важнейший, но недостаточно финансируемый ресурс общественного благополучия. Но как мы все понимаем, хорошая медсестра — это не главный способ борьбы с загрязнением воды. Так и модерация контента недостаточна для борьбы с механизмом его распространения.

Современные платформы уже работают как экспериментальные лаборатории, проводя выборочные контролируемые испытания снова и снова, чтобы улучшить результаты в соответствии с целями компаний. Необходимы инструменты для проверки «насоса» — моделей и интерфейсов платформ, которые определяют, как контент воздействует на пользователей в течение длительного времени. Это позволит оценить, следует ли вводить ограничения для защиты групп риска. В случае потенциальных проблем, таких как воздействие на психическое здоровье или системное снижение доверия, влияние платформы должно оцениваться наряду с внутренними показателями роста и доходов. Как врачи рассматривают младенцев и детей как отдельную, уязвимую к болезням, группу, современные исследователи должны уделять особое внимание важнейшим векторам риска, таким как постоянное использование социальных сетей подростками.

Санитарный контроль не только остановил распространение и смягчил последствия эпидемий, он дал понимание самой природы болезней: что в конечном счете привело к созданию теории микробов. Начиная с первых экспериментов Луи Пастера, новая наука бактериология подтвердила существование микроорганизмов, о чем Джон Сноу только догадывался. Как только конкретная бактерия, вызывающая холеру, была идентифицирована под микроскопом, был установлен новый краеугольный камень общественного здравоохранения.

Сегодня мы находимся в похожей ситуации: у нас есть четкое представление о причинно-следственных механизмах, которые могут опосредованно причинять вред благополучию людей (например, межличностные сравнения среди подростков, приводящие к проблемам с психическим здоровьем). Но точно так же, как в Лондоне 1850-х годов не понадобились полные теоретические представления о микробах, чтобы начать оценивать влияние воды и создать санитарные системы, первым шагом для смягчения вреда от масштабных алгоритмов платформ является установление базовых эффектов. Урок общественного здравоохранения заключается в том, что необходимо действовать на базовом уровне, чтобы затем достичь общего согласия в вопросах измерения и оптимизации контента крупных платформ и генеративных систем ИИ.

Мы можем продолжать относиться к технологическим платформам как к городской площади, где побеждает самый громкий и неприятный голос. Но вместо того, чтобы обвинять отдельных людей и призывать просто отписаться, когда ситуация становится неприятной, мы можем принять стандарты общественного благополучия. Решение будет найдено не за счет увеличения числа модераторов контента или все более умных чат-ботов, а за счет новых объектов инфраструктуры: труб, клапанов и насосов, которые действительно обеспечат безопасность пользователей.

Источник