Интернет имени Потемкина: ученые о будущем троллинга

Я хочу рассказать об одной своей пустяковой привычке, которую я настойчиво рекомендую всем, кто реагирует на троллей и других неприятных персонажей в интернете.

Иногда вместо того, чтобы просто проигнорировать противный комментарий, я набираю самый остроумный ответ, который только могу придумать, делаю скриншот и сохраняю его в в маленькой папке, которую пересматриваю, когда хочу повеселить своих коллег.

На самом деле я не отправляю ответ. Я удаляю этот глупый отклик и продолжаю свою жизнь.

Мы все это уже знаем. Интернет, как и весь остальной мир, может быть как ужасным, так и волшебным.

Но в последнее время появилось ощущение, что все стало еще хуже: что тролли, которые наслаждаются хаосом, вновь активизировались и, возможно, перехватили все прекрасные и самые альтруистические пространства в интернете. Там идет настоящая битва добра со злом. Новый отчет Pew Research Center и Imagining the Internet Center Университета Элона свидетельствует, что технологи солидарны во мнении: «Плохие парни побеждают».

Исследователи опросили более 1500 технологов и гуманитариев о силах, влияющих на то, как люди общаются друг с другом в интернете. Вопрос звучал так: «Будет ли в следующем десятилетии общественная дискуссия в интернете определяться негодяями, агрессорами и троллями и характеризоваться общим тоном раздражения, недоверия и отвращения?»

Подавляющее большинство опрошенных — 81% — ожидают, что в следующем десятилетии тон онлайн-дискуссии либо останется прежним, либо ухудшится.

При этом некоторые пространства, которые неизбежно возникают, чтобы защитить людей от троллей, могут способствовать появлению своего рода «потемкинского интернета», красивые фасады которого скрывают истинное отсутствие вежливости, говорит аналитик технологической индустрии Сьюзан Этлингер.

«Кибератаки, доксинг (публикация персональных данных) и троллинг продолжатся, пока социальные платформы, эксперты по безопасности и этике будут спорить о лучших способах сбалансировать безопасность и конфиденциальность, свободу слова и защиту пользователей. Многое из этого будет происходить публично, — сказала Этлингер Pew. — Более тревожно то, что защитники неприкосновенности частной жизни и безопасности, стремясь создать более безопасный и равный интернет, будут подталкивать негодяев к таким скрытым каналам, как Tor».

Tor — это программа, которая позволяет людям выходить в сеть и общаться анонимно, поэтому его используют люди, которые хотят скрыть свои следы от правительственного наблюдения, а также те, кто хочет получить доступ к даркнету, тролли, осведомители и т.д.

«Конечно, это уже происходит, просто незаметно для большинства из нас», — говорит Этлингер, имея в виду использование скрытых каналов в интернете. — Хуже всего то, что мы попадаем в какой-то потемкинский интернет, в котором все выглядит достаточно ярким и солнечным, а на деле скрывает более тревожную и менее прозрачную реальность».

Неудобная правда в том, что люди любят троллинг. Людям нравится оставаться анонимными, когда они досаждают, пристают и запугивают других в интернете, и предотвратить это трудно по двум причинам: во-первых, из-за «постоянно увеличивающегося масштаба интернет-дискуссий и их возрастающей сложности», а во-вторых, потому что технологические компании, похоже, мало заинтересованы в решении этой проблемы.

Должны ли мы кормить троллей?

«Очень часто ненависть, беспокойство и злость побуждают людей прийти на какую-то платформу, — заметил в своем докладе профессор права Университета Мэриленда Фрэнк Паскуале. — Поведение, увеличивающее доходы от рекламы, будет не только допускаться, но и поощряться, за исключением, конечно, самых вопиющих случаев».

Культурное значение прессы, когда-то задававшей тон гражданской дискуссии, сейчас меньше, чем когда-либо. Популярность разговорного радио и новостей на кабельных каналах, где людей поощряют кричать друг на друга, говорит о явных отклонениях от некогда более высокого стандарта дискуссии в профессиональных медиа. Немногие медиа поддерживают цивилизованную дискуссию в разделах комментариев. И тогда, конечно, социальные медиа-платформы вроде Facebook и Twitter становятся новой общественной площадкой.

«Facebook корректирует свой алгоритм, чтобы обеспечить определенный уровень качества — , — сказал Эндрю Начисон, основатель We Media, в своем ответе Pew. — Но это действительно уловка для оптимизации количества. Чем больше мы возвращаемся, тем больше денег они зарабатывают… Так что крики и скандалы продолжаются».

Резонансный вывод, звучащий в отчете Pew, заключается в том, что проблема публичных дискуссий не решается сама собой. «С учетом атак троллей, наблюдения со стороны правительства, цензуры и т.д. интернет становится все более и более тесным», — говорит научный сотрудник Internet Initiative Japan Рэнди Буш.

Многие из опрошенных сказали, что сейчас мы наблюдаем флейм-войны и стратегические манипуляции, которые будут только ухудшаться. И это не просто неприятные комментарии, твиты Дональда Трампа или даже целенаправленное преследование. Вместо этого мы попали в мир «убийственного повествования», который выступает в качестве боевого пространства XX века, как выразились авторы недавнего эссе «Оборона». И людям необходимо разработать специальную технологию для предстоящей битвы.

Исследователи уже используют технологии, чтобы понять, с чем мы столкнулись. Команда ученых из Стэнфорда и Корнелльского университета использовала алгоритмы машинного обучения для прогнозирования того, склонен ли человек к троллингу. Анализируя настроение человека и контекст дискуссии, исследователи получали правильный результат в 80% случаев.

Они узнали, что плохое настроение делает человека более склонным к троллингу, и что троллинг чаще всего происходит поздним вечером (и крайне редко утром). Они также отслеживали склонность к распространению троллингового поведения. Когда первый комментарий в потоке написан троллем — расплывчатый термин, но давайте использовать его, — вероятность того, что появятся другие тролли, в два раза выше, чем в ветке, начатой не троллем. Кроме того, чем больше вызывающих комментариев в дискуссии, тем выше вероятность того, что участники начнут троллинг в других, не связанных между собой обсуждениях.

«Один комментарий тролля в обсуждении — возможно, написанный человеком, вставшим не с той ноги, — может спровоцировать ухудшение настроения других участников и еще больше подобных комментариев в других местах, — пишут исследователи из Стэнфорда и Корнелла. — Поскольку это негативное поведение продолжает распространяться, троллинг может стать нормой в сообществах, если оставить его без внимания».

Многие считают, что масштаб проблемы требует технологических решений. Троллей не остановить, просто создавая пространства, препятствующие анонимности, считают участники опроса Pew, так как это также позволяет «правительствам еще более свободно использовать надзорные инструменты для наблюдения за гражданами, подавления свободы слова и формирования социальных дебатов».

«Одной из самых больших проблем будет поиск надлежащего баланса между защитой анонимности и соблюдением последствий оскорбительного поведения, которое слишком долго позволялось в онлайн-дискуссиях», — говорит Бейли Поланд, автор книги «Ненавистники: агрессия, ругань и насилие онлайн». Использование псевдонима может быть одним из полезных методов — когда реальная личность пользователя скрыта, но его поведение на определенном форуме со временем может быть проанализировано в связи с подозрениями в агрессии. Машины также могут помочь: чатботы, фильтры и другие алгоритмические инструменты могут дополнять человеческие усилия. Но они и усложнят ситуацию.

«Когда чатботы начнут преследовать людей с ядовитыми речами, как мы будем определять «речь»? — задается вопросом Эми Уэбб, генеральный директор Future Today Institute. — На данный момент наша правовая система не настроена на будущее, в котором мы должны учитывать нарушения свободы слова ботов».

Другая проблема заключается в том, что независимо от того, какие решения люди придумают для борьбы с троллями, тролли будут сопротивляться. Даже для оптимистов, которые уверены, что троллей можно победить, а гражданская дискуссия будет преобладать в интернете, в этом уравнении много неизвестных.

«Онлайн-дискуссия — это новое явление по сравнению с историей общения, — сказал Райан Суини, директор аналитики Ignite Social Media. — Технологическая эволюция опередила эволюцию гражданской дискуссии. В конце концов мы догоним. Я надеюсь. Сейчас — решающее время».

Оригинал