Сила влияния и бездействия: почему так трудно призвать к ответу алгоритмы

Когда 14-летняя Молли Рассел погибла в 2017 году, в ее телефоне обнаружили графические изображения, демонстрирующие самоповреждения, электронную рассылку «депрессивных картинок, которые могут вам понравиться» и советы по сокрытию психических заболеваний от близких. Следователи сначала посчитали эту смерть самоубийством. Но спустя почти пять лет суд отменил это решение. Теперь утверждается, что Рассел умерла «от акта самоповреждения, страдая от депрессии и негативного влияния онлайн-контента», и алгоритмы, которые предлагали ей этот контент, в курсе происходящего.

Это не первый случай, когда технологии и суицид оказываются рядом в громких делах, которые раздвигают границы науки и права. И уж точно не последний. Все больше исследований показывают, что платформы социальных сетей играют определенную роль в развитии депрессии, проблем с восприятием своего тела и других трудностей с психическим здоровьем у пользователей. В то время, как большинство дел до сих пор были сосредоточены на людях, которые используют платформы для кибербуллинга, расследование гибели Рассел стало, возможно, первым случаем ,когда интернет-компании было официально предъявлено обвинение в доведении до самоубийства.

Однако решение суда не обязательно означает, что платформы социальных сетей будут привлечены к ответственности. Имеющиеся исследования, связывающие проблемы психического здоровья с соцсетями, в основном основываются на связи факторов: вызвало ли одно из них другое, сказать сложно. Возложить окончательную ответственность за самоубийства на интернет-контент по-прежнему невозможно.

В конце концов, Молли Рассел — не единственный человек, в определении причины смерти которого не помешали бы некоторые нюансы, предписанные судом. Умирают ли 6,5 миллиона человек в год от загрязнения воздуха или от ископаемого капитала? Являются ли сердечные приступы основной причиной смерти, или это порочный круг бедности? Если уж на то пошло, то какое самоубийство не является актом самоповреждающего поведения, финальной точкой в долгой серии подобных случаев?

Ответы на эти вопросы имеют важное значение. Будущее таких дел зависит от готовности судей и присяжных разбираться со все более длинными цепочками причинно-следственных связей. Это также ставит законодателей перед необходимостью сделать неудобный, смелый шаг за пределы существующей науки о самоубийстве.

На всякий случай, стоит уточнить: поощрение самоубийства — это отвратительно, исходит ли оно от школьного хулигана, анонимного аккаунта или вашей новостной ленты. Но это не всегда делает его незаконным.

В 2006 году Лори Дью из Миссури и ее коллега создали фальшивый аккаунт на MySpace, чтобы выдать себя за подростка, которого они назвали Джош Эванс. Дрю использовала этот аккаунт для общения со своей 13-летней соседкой Меган Майер. Дрю считала, что Майер распространяла слухи о ее дочери Саре. Сообщения начинались с флирта, но в конце концов «Джош Эванс» якобы написал Майер: «Без тебя мир будет лучше». Вскоре после этого Майер была мертва.

Даже когда стало известно о фальшивом аккаунте на MySpace, местная полиция отказалась арестовывать Дрю. Майеры так и не возбудили против нее дело. А когда прокуратура предъявила Дрю федеральные обвинения по закону о компьютерном мошенничестве и злоупотреблении, законопроекту 1986 года о кибербезопасности, дело замяли. В итоге Дрю осталась на свободе.

Следующий похожий случай произошел в 2014 году. Конрад Рой, 18-летний подросток из Массачусетса, покончил жизнь самоубийством. В его телефоне были обнаружены многолетние разговоры с подругой по переписке Мишель Картер. Она неоднократно подталкивала его к самоубийству с помощью текстовых сообщений. Картер, которой на момент смерти Роя было 17 лет, впоследствии была осуждена судом по делам несовершеннолетних за непреднамеренное убийство и отбыла 11 месяцев в тюрьме.

Судя по сообщениям СМИ о действиях Картер, желание наказать ее имело смысл, как считает Марк Туник, политический теоретик из Университета Флорида Атлантик. Но в работе «Сообщения, самоубийство и закон» Туник утверждает, что две категории непредумышленного убийства — бездействие (или невмешательство) и совершение (вред, причиненный по неосторожности) — не применимы к Картер. Во-первых, у девушки-подростка не было обязанности защищать Роя, как это делали бы родители или врач. Что еще более важно, суд не смог доказать, что Картер стала причиной смерти Роя.

Многие теоретики права согласны с ним, в той или иной степени. В американских судах вопрос о причине часто решается с помощью теста «если бы не»: если бы профессор Плам не ударил миссис Пикок по голове подсвечником в оранжерее, миссис Пикок осталась бы жива. Поскольку самоубийство традиционно рассматривается как добровольный поступок человека, суды обычно считают, что любая другая цепочка причинно-следственных связей прерывается в эти решающие последние мгновения. Картер могла посылать сколько угодно сообщений, но при таком подходе реальным «если бы не» были действия самого Роя.

Сила социального влияния еще больше усложняет представления о личной ответственности за самоубийство. Это может быть действие отдельного человека, но самоубийство — это «по большей части социальное расстройство», — считает Дэвид Финк, социальный эпидемиолог из Психиатрического института штата Нью-Йорк. Методы и обоснования широко варьируются в зависимости от времени и культуры. Экономические факторы, по-видимому, оказывают глубокое влияние на уровень самоубийств. Сейчас врачи и ученые пытаются понять, какую роль играют социальные сети в распространении вредоносных идей.

По крайней мере, с 1970-х годов специалисты доказывают, что освещение факта самоубийства повышает риск возникновения у человека суицидальных мыслей или действий. На этом фоне обвинение личности кажется контрпродуктивным и неполным.

Однако исследователи не смогли определить четкий механизм распространения этих идей. Отчасти проблема связана с методами, доступными исследователям, говорит Сет Абрутин, социолог из Университета Британской Колумбии.

На одном конце спектра находятся самоубийства, которые связаны между собой тесными узами, например, самоубийства среди заключенных, старшеклассников и молодежи. Чтобы понять, спровоцировало ли одно самоубийство в общине другие, и если да, то как, исследователи, такие как Абрутин, проводят углубленные интервью с теми, кто еще жив. Они обнаружили, что распространение суицидальных мыслей и поведения связано не столько с «заражением, сколько с обучением»: подобно тому, как люди учатся играть в шахматы или бросают курить, люди, умершие в результате самоубийства, похоже, учат окружающих по-новому думать о своей беде, средствах самоубийства и многом другом.

На другом конце спектра находятся самоубийства, которые распространяются с меньшей силой, но по более широкой сети, как, например, после самоубийства знаменитости. Такие случаи изучаются с помощью статистических методов: ученые ищут колебания в количестве самоубийств, которое можно было бы ожидать на основе данных за определенный год. Например, в течение нескольких месяцев после самоубийства актера Робина Уильямса, вызвавшего общественный резонанс, исследователи обнаружили увеличение числа случаев суицида на 10%, вероятно, в результате широкого освещения в СМИ.

Но оба эти метода не дают ответа на некоторые из самых фундаментальных вопросов. Опросы ограничены как точностью самоотчетов, так и тем фактом, что многих людей уже нет в живых, чтобы поделиться своими историями. Хотя статистические методы могут доказать, что рассказы о самоубийстве имеют значение, они не дают глубокого понимания того, как эту информацию можно изменить к лучшему.

В последние годы стало ясно, что социальные медиа находятся между этими двумя крайностями, и данные, необходимые для заполнения этой серой зоны, принадлежат тем самым компаниям, которые надеются скрыть свое влияние на пользователей. В то время как популярные платформы социальных сетей открыто заявляют о своей цели способствовать установлению тесных связей на огромных расстояниях, они отказываются от любого независимого анализа последствий. Это делает изучение распространения суицидального поведения через цифровые каналы фактически невозможным.

Суицидологи также знают, что попытки возложить вину за самоубийство могут привести к впечатляющим последствиям. Исследование Абрутина предполагает, что то, как мы говорим о самоубийстве, само по себе является вектором. В исследовании, проведенном в 2019 году в одном сообществе, где произошла волна самоубийств среди молодежи, Абрутин и его коллеги показали, что объяснение этих смертей стремлением учащихся «сбежать» от таких проблем, как «школьный стресс», похоже, научило других учащихся с аналогичными проблемами, что самоубийство — это вариант и для них.

Эту логику легко распространить на случай с Расселом: если все согласны с тем, что депрессивные посты в социальных сетях могут довести человека до самоубийства, значит, с учетом этого объяснения умрет больше людей. Но в то же время, по словам Абрутина, правильное изложение событий также может снизить риск возникновения суицидальных мыслей или поведения. Нахождение способов рассказать об индивидуальной и общественной жизнестойкости, а также о наличии ресурсов для людей, столкнувшихся с суицидальными мыслями, на самом деле может быть эффективным средством защиты.

Возможно, мы никогда не сможем с удовлетворением сказать, что социальные сети стали причиной смерти Молли Рассел или кого-либо еще. Но это не значит, что мы не можем работать над предотвращением вреда в будущем.

Высказывания, побуждающие к самоубийству, могут быть прямо запрещены законодательством. В то время, как исследования по этой теме все еще находятся в зачаточном состоянии, юрист Николас ЛаПальм предложил новую концепцию под названием «подавление воли». Этот стандарт позволит понять, «насколько действенными» являются слова такого человека, как Картер, «когда его или ее жертва уже борется с депрессией». Если суды признают, что кто-то может подавить волю другого, цепь причинно-следственной связи может остаться в силе, «потому что жертва не обладала в тот момент достаточными психическими ресурсами, чтобы сделать выбор», чтобы противостоять словам другого человека.

Сегодня можно утверждать, что алгоритмы платформ социальных сетей «подавляют волю» пользователей, определяя их слабые стороны и предлагая им контент, который заставляет чувствовать себя хуже. Если бы этот тип контента был незаконным, платформам пришлось бы изобретать способы доказать, что их алгоритмы не подталкивают пользователей к депрессии и самоубийству. Но важно признать, что эти компании, скорее всего, будут использовать больше алгоритмов для очистки своих платформ от любого потенциально криминального контента. «Алгоритмы не очень хорошо справляются с серыми зонами», — говорит Тони Д. Сэмпсон, исследователь цифровой культуры из Университета Восточного Лондона. Поэтому любой фильтр будет невероятно поверхностным; если запретить все, что связано с самоубийством, то статья, подобная этой, может просто не пройти. Без более глубокого понимания механизма распространения самоубийств нет реального способа сделать эти инструменты более точными.

Учитывая эти ограничения, законодательство лучше сосредоточить на том, чтобы заставить компании социальных сетей перестроить свои рекомендательные системы и постепенно удалять вредный контент из поиска, а не вводить уголовную ответственность за предполагаемые последствия таких сообщений. Очень важно, чтобы правительства также заставили компании социальных сетей передавать данные независимым исследователям, которые смогут использовать свои выводы для более точного запрета контента и, возможно, даже определить позитивные способы, которыми эти платформы могут поддержать пользователей, борющихся с суицидальными мыслями.

Источник