€ 73.01
$ 65.83
Джеймс Брайдл: Кошмарные видео детского YouTube, и что не так с интернетом сегодня

Лекции

Саморазвитие 130 Лидерство 53 Будущее 296 Свой бизнес 35 Образ жизни 15 Экономика 69 История 6

Джеймс Брайдл: Кошмарные видео детского YouTube, и что не так с интернетом сегодня

Писатель и художник Джеймс Брайдл приоткрывает завесу темного и странного дна интернета, где на YouTube неизвестные влезают в мозг маленьким детям и взамен получают доходы от рекламы. Начиная от «яиц с сюрпризом» и «песни семьи пальчиков» и заканчивая сгенерированной алгоритмами подборкой недетских видео с участием известных персонажей мультфильмов — все эти видео пугают и используют детей. Кроме того, становится понятно, куда движется наш мир, которым все больше управляют данные

Джеймс Брайдл
Будущее

Меня зовут Джеймс. Я писатель и художник, а еще я занимаюсь технологиями. Например, на улицах разных городов мира я рисую эскизы военных дронов в натуральную величину, чтобы люди задумались и разобрались в этих незаметных и трудных для понимания технологиях. Я создаю такие вещи, как нейросети, которые предсказывают результаты выборов на основе прогнозов погоды, потому что я заинтригован теми возможностями, которые могут предложить эти новые чудны́е технологии. В прошлом году я изобрел свой беспилотный автомобиль… Но так как я не особо доверяю технологиям, я также соорудил и ловушку для них.

И я делаю эти вещи, главным образом, потому что абсолютно увлечен ими, но еще я считаю, что говоря о технологиях, мы по большей части говорим о нас самих и о нашем ви́дении мира. Представляю вам историю о технологиях.

Это видео про яйцо с сюрпризом. По сути, в нем человек раскрывает целую кучу шоколадных яиц и показывает игрушки из них зрителям. И все. Это все, что он делает, целых семь долгих минут. Я хочу, чтобы вы отметили здесь две вещи. Во-первых, у этого видео 30 млн просмотров. А во-вторых, оно размещено на канале с 6,3 млн подписчиков и 8 млрд просмотров, и все видео на нем похожи на это — 30 млн человек смотрят на то, как парень распаковывает яйца. Звучит странно, но если вы забьете в поиск на YouTube «яйца с сюрпризом», то найдете 10 млн таких видео. И я считаю, что это не все. Думаю, их гораздо, гораздо больше. Если продолжите искать, их будет бесконечное множество. Существуют миллионы, миллионы таких видео с самыми причудливыми комбинациями брендов и материалов, и каждый божий день их выкладывают все больше и больше. Что за странный мир. Не так ли?

Но дело в том, что такие видео смотрят не взрослые. Их смотрят дети, маленькие дети. Эти видео как наркотик для малышей. Есть что-то в повторении, в той регулярной дозе дофамина при раскрытии интриги, что их так цепляет. И маленькие дети пересматривают эти видео снова, и снова, и снова, они делают это часами, и еще, и еще. А если попытаетесь отнять у них экран, они будут кричать, и кричать, и кричать. Если не верите мне — я уже видел, как некоторые в зале кивают — если не верите мне, спросите у людей, у которых есть маленькие дети, и они расскажут вам все о видео про яйца с сюрпризом. Вот с чего мы начнем. Сейчас 2018 год, и некоторые, если не многие, люди используют те же механизмы, которыми пользуются, скажем, Facebook и Instagram, чтобы вы постоянно проверяли их приложение. И их же используют на YouTube, чтобы промывать мозги маленьким детям, получая взамен доходы от рекламы.

Ну, я надеюсь, что они делают именно это. Точнее, для этого. Ведь на YouTube можно получать доход от рекламы более простыми способами. Можно просто что-то придумывать или его воровать. И если забить в поисковик популярные мультики для детей, «Свинку Пеппу» или «Щенячий патруль», можно увидеть, что их тоже миллионы в онлайн-доступе. Разумеется, большинство из них размещены не создателями оригиналов. Их выкладывают с сотни различных случайных аккаунтов, и почти невозможно узнать, кто именно их выкладывает и каковы их цели. Звучит знакомо? Потому что именно по такому механизму работает большинство цифровых служб, где невозможно отследить источник информации. Это как фальшивые новости для детей, и мы с рождения приучаем их жать на первую попавшуюся ссылку, не смотря на ее источник. Это не кажется такой уж хорошей идеей.

Есть еще одна очень популярная вещь для детей на YouTube. И это «Песня семьи пальчиков». Я только что услышал стон в зале. Вот эта «Песня семьи пальчиков». Это самое раннее, что мне удалось найти. Видео загружено в 2007, и у него только 200 тысяч просмотров, что просто ничто в данном случае. Но у нее дико навязчивый мотив, и я не буду ее включать, потому что она въестся в ваш мозг точно так же, как въелась в мой, а я не буду так с вами поступать. Но, как и яйца с сюрпризом, она влезла в головы детям и застряла там. И спустя несколько лет эти песни семьи пальчиков начали появляться везде. Есть версии на разных языках с разными персонажами мультиков, снятые при помощи еды или каких угодно материалов, которые есть под рукой. И опять-таки, есть немыслимое, просто невероятное количество таких видео в открытом доступе в немыслимых комбинациях. И чем больше времени вы с ними проводите, тем больше чувствуете, что, возможно, начинаете сходить с ума.

Тут-то я и задумался над этим, над этим чувством полного отчуждения и полнейшего непонимания того, как было создано все, что мне показывают вокруг. Так как невозможно узнать, откуда все эти видео берутся. Например, кто их делает? Некоторые из них, оказывается, сняты группой профессиональных мультипликаторов. Некоторые просто в случайном порядке подбираются программой. Некоторые созданы вроде бы адекватными детскими аниматорами. А некоторые придумали люди, которых, очевидно, вообще нельзя подпускать к детям.

И опять-таки, эта невозможность понять, кто создает данный контент — какой-то бот? человек? тролль? О чем говорит то, что мы уже не можем увидеть разницу между ними? И не кажется ли вам теперь эта неопределенность знакомой?

Основной способ получения просмотров своих видео — и помните, просмотры значат деньги — это напихать в название видео популярные словечки. Например, берете «яйца с сюрпризом» и добавляете «Щенячий патруль», «пасхальные яйца» или вообще что угодно. Пишете все это в названии, пока это не превратится в бессмысленный набор слов, который совершенно не понятен людям. Потому что, разумеется, смотреть это видео будут лишь маленькие дети, а что они вообще понимают? Ваша настоящая аудитория в таких случаях — это программы, ПО. Это алгоритмы. Это софт, который использует YouTube, чтобы отбирать видео, которые похожи на другие видео, чтобы делать их популярными, ставить в рекомендованное. И поэтому вы видите такую бессмысленную кашу как в названии, так и в содержании.

Но вам нужно помнить, что за этой оптимизированной для алгоритмов системой стоят люди. Люди, которым приходится разбираться в этом диком наборе слов, словно музыкант-импровизатор, который отвечает на крики миллионов малышей. В эти системы впутаны настоящие люди, и это уже другой невероятно странный аспект этой культуры алгоритмов. Потому что, даже если вы человек, вам приходится вести себя, как машина, чтобы просто выжить.

Кроме того, по ту сторону экрана все-таки сидят маленькие дети. Их, как завороженных, удерживают эти странные механизмы. И большинству из них слишком рано даже пользоваться этим сайтом. Они просто молотят по экрану своими ручками. Но благодаря автовоспроизведению эти видео проигрываются снова и снова по кругу долгие, долгие часы. Сейчас у этой системы есть такая особенность, что автовоспроизведение заводит вас в крайне странные места. Вот так через цепочку в десяток видео вы можете от милого видео с паровозиком, обучающим счету, попасть на мастурбирующего Микки Мауса. Прошу прощения за это. Дальше еще хуже. Вот что происходит, когда куча разных ключевых слов, куча всяких завлекалочек и эта бессмысленная генерация контента оказываются в одном месте. Вот, где гнездятся все эти до ужаса странные ключевые слова. Вы скрещиваете видео про семью пальчиков с кадрами из фильмов про супергероев, добавляете странные локальные шутки, и внезапно оказываетесь в наистраннейшем месте.

Контент, напрягающий родителей, обычно с наличием жестоких или сексуальных сцен, так? Персонажей детских мультиков насилуют, убивают, издеваются таким образом, что это пугает детей. А происходит это потому, что программа использует все это, чтобы автоматически генерировать самые страшные детские кошмары. И такой контент действительно оказывает влияние на детей. Родители жалуются на то, что их дети получают психотравмы, боятся темноты, боятся своих любимых персонажей мультиков. Если вы что-то отсюда и вынесете — если у вас маленькие дети, держите их подальше от YouTube.

Но с другой стороны, меня очень беспокоит, что мы даже не знаем, как мы дошли до такого. Мы взяли все эти вещи и совместили их так, как никто из нас не желал. Но так мы строим весь мир. Мы берем все эти данные, очень много плохих данных, много исторических данных, переполненных предрассудками, со всеми нашими худшими мотивами в истории, и мы строим из этого огромные базы данных, а затем их автоматизируем. И все это выливается в кредитные отчеты, страховые платежи, профилактические системы надзора, директивы по назначению наказаний. Вот как мы строим наш мир сегодня на основе этих данных. И я не знаю, что хуже: то, что мы строим полностью оптимизированные системы для худших аспектов человеческого поведения, или то, что мы делаем это непредумышленно, не отдавая отчет своим действиям, потому что не до конца понимаем системы, которые построили, и теперь мы не знаем, как что-то изменить.

Есть две причины, по которым, как мне кажется, на YouTube все есть так, как есть. И первая причина — это реклама, то есть монетизация внимания, никаких других целей она не преследует и не заботится о людях, в действительности разрабатывающих контент. Никакой централизации власти, никакого разграничения. Как бы вы ни относились к использованию рекламы для поддержки продуктов, то, что кто-то, не понимая работы алгоритма, надеется, что валяющиеся в песке взрослые мужики в подгузниках принесут им деньги, наводит на мысли, что мы, вероятно, не на этом должны основывать наше общество и культуру и не так их спонсировать.

Вторая и основная причина — это автоматизация, которая все это распределяет, как только оно появляется, без какого-либо надзора. А когда оно становится доступным, мы как бы разводим руками и говорим: «Это не мы, это все технологии». Или: «Мы тут ни при чем». Так не пойдет, потому что все это не только подчиняется алгоритмам, но и ими контролируется. Когда в YouTube впервые обратили внимание на это, сначала они сказали, что разработают новые алгоритмы машинного обучения, чтобы следить за контентом. Машинное обучение, по словам любого эксперта, — это, по сути, то, что мы начали называть софтом, принцип работы которого мы не понимаем. И я считаю, что с нас хватит этого. Мы не должны перекладывать на искусственный интеллект решение, что приемлемо, а что нет, ведь мы знаем, что будет. Он станет подвергать цензуре и другие вещи: видео гомосексуального содержания, законные публичные выступления. То, что дозволено в этом плане не должно решаться непостижимыми системами. Это должно решаться в ходе беседы между всеми нами.

Но я напомню, что альтернатива тоже неблагоприятна. YouTube недавно объявил, что выпустит версию приложения для детей, которое будет полностью проверяться людьми. Цукерберг в Конгрессе сказал, что в Facebook будет то же самое, когда его спросили, как будет проверяться их контент. Он сказал, что это поручат людям. И имеют в виду они то, что первыми видео увидят не дети, а сомнительные работники с низкой зарплатой, без должной поддержки психического здоровья, которых эти видео также травмируют.

И я думаю, что все мы можем достичь гораздо большего.

На мой взгляд, эти вещи объединяет между собой наличие посредника. То есть то, что мы понимаем через посредника. Иными словами, то, как мы понимаем, как вести себя в своих интересах. А это сделать почти невозможно в условиях тех систем, которые мы не полностью понимаем. Неравное распределение власти всегда приводит к насилию. И мы видим, что с этими системами неравный уровень понимания приводит к тому же. Если мы как-то и можем улучшить эти системы, то только сделав их понятнее пользователям, чтобы каждый из нас имел представление о том, что там на самом деле происходит.

Однако, я думаю, что основное здесь то, что эти системы, как я, надеюсь, объяснил, касаются не конкретно YouTube. Они касаются всего. Проблемы контроля и посредничества, неясности и сложности, насилия и эксплуатации, которая, по сути, происходит из-за концентрации власти в нескольких руках — это очень серьезные проблемы. И это проблемы не только YouTube и не только технологий в целом, они даже не новы. Они существовали годами. Но мы наконец создали эту систему, всемирную сеть — интернет, которая представляет их нам так невероятно, что их стало невозможно отрицать. Технологии обладают необычайной возможностью как поддерживать, так и развивать все наши самые странные и тайные желания и склонности, раскрывать их всему миру, а также фиксирует их так, что мы их замечаем и больше не можем делать вид, будто их не существует. Мы должны перестать видеть в технологиях решение всех наших проблем и вместо этого относиться к ним как к средству выявления этих проблем, чтобы можно было размышлять в правильном ключе и начать их решать.

Хелен Уолтерс: Джеймс, спасибо, что пришел и выступил у нас. Что замечательно, когда на ум приходят фильмы, в которых роботы господствуют над миром, все это кажется более привлекательным, чем то, о чем ты рассказал. Но меня волнует вот что: в этих фильмах всегда есть какое-то сопротивление. Есть ли сопротивление в данном случае? Видишь ли ты какие-то зачатки и предзнаменования сопротивления?

Джеймс Брайдл: Не знаю насчет прямого сопротивления, еще слишком рано для этого. Думаю, это глубоко заложено в нашей культуре. Моя подруга Элеанор Саитта всегда говорит, что любая технологическая проблема глобального масштаба — это в первую очередь политическая проблема. И все, над чем мы работаем, нельзя разрешить, просто разработав улучшенные технологии, необходимо менять общество, которое эти технологии создает. Так что нет, на данный момент мы еще слишком далеки от этого. Но, как я сказал, по-моему, разбирая их, объясняя их, откровенно говоря о них, мы можем по крайней мере запустить этот процесс.

ХУ: Когда ты говоришь о доступности и цифровой грамотности, мне трудно представить, что мы должны переложить это бремя на самих пользователей. Но кто же будет ответственен за обучение в этом новом мире?

ДБ: Опять-таки, думаю, ответственность лежит на всех нас, и все, что мы делаем, создаем, строим, должно совершаться при всеобщем согласии, включая тех, кто избегает этого обсуждения. И мы должны быть уверены, что создаем системы не для обмана людей, чтобы они сделали, что нам нужно, но что люди действительно вовлечены в процесс обучения на каждом этапе, потому что все эти системы образовательные. Я надеюсь, что даже такая безжалостная штука, если правильно к ней подойти и разобраться, несет в себе элемент обучения, которое позволит вам увидеть, как сложные системы взаимодействуют и, возможно, впоследствии применить эти знания где-нибудь еще.

ХУ: Джеймс, это такая важная тема, и я знаю, что многие здесь открыты и готовы к разговору, поэтому спасибо, что начал наше утро.

ДБ: Спасибо большое. Спасибо.

Перевод: София Кучина
Редактор: Наталия Ост

Источник

Свежие материалы