€ 70.89
$ 64.25
Андреас Экстрём: У вашей поисковой системы есть моральные предубеждения

Лекции

Саморазвитие 130 Лидерство 53 Будущее 0 Свой бизнес 35 Образ жизни 15 Экономика 69 История 6

Андреас Экстрём: У вашей поисковой системы есть моральные предубеждения

Информация, получаемая с помощью поисковых запросов в интернете, стала восприниматься в качестве истины в последней инстанции. Но может ли результат поиска действительно быть абсолютно объективным? Шведский публицист и журналист Андреас Экстрём полагает, что с философской точки зрения это невозможно. В своем познавательном рассказе автор призывает нас объединить направления гуманитарных наук и технологий, напоминая нам о том, что за каждым алгоритмом скрывается набор личных убеждений его разработчика, от которых ни один код не может полностью избавиться

Андреас Экстрём
Будущее

Когда я посещаю школы и общаюсь со студентами, я всегда у них спрашиваю: «Почему вы «гуглите»? Почему вы выбираете Google из всех поисковиков?» Как ни странно, я всегда получаю три одинаковых ответа. Первый: «Потому что он работает», и это прекрасный ответ, я тоже гуглю по этой же причине. Второй будет озвучен как-то так: «А разве есть другие альтернативы?» Это не такой же прекрасный ответ, и я обычно на это отвечаю: «Попробуйте погуглить слово «поисковик», и вы сможете найти несколько интересных альтернатив». И, наконец, третий, не менее значимый ответ. В итоге кто-то из студентов поднимет руку и скажет: «С Google я уверен, что всегда получу лучший и наименее предвзятый результат». Уверен, что всегда получу лучший и наименее предвзятый результат.

Поскольку я гуманитарий, пусть и «цифровой» гуманитарий, меня такой ответ приводит в замешательство, даже если я тоже осознаю, что эта вера в непредвзятый результат поиска является основой нашей общей любви и признательности Google. Я покажу вам, почему с философской точки зрения это почти невозможно.

Но сначала позвольте мне рассказать немного подробнее об основном, часто забываемом принципе работы поисковой системы. Каждый раз, когда вы гуглите что-то, сначала спросите себя: «Ищу ли я единичный факт?» Например: «Какая столица Франции?» «Как в химии обозначают молекулу воды?» Если так, замечательно. Спокойно гуглите. Нет такой группы ученых, которая скоро докажет, что это на самом деле Лондон и Н3O. Здесь вы не увидите теории заговора. Мы договорились на глобальном уровне о ряде фактов, с которыми согласны все.

Но если вы немного усложните вопрос и спросите, например: «Почему начался конфликт между Израилем и Палестиной?» Вы уже не ищете обособленный факт, вы ищете знание, которое намного сложнее и деликатней. И чтобы получить знание, сперва нужно изучить 10, 20 или 100 фактов, утвердить их и сказать: «Да, они все отражают реальность». Но в зависимости от того, какой я, молодой или старый, черный или белый, гей или нет, я оценю их по-разному. И я скажу: «Да, это правда, но вот это для меня важнее, чем это». Именно в этом кроется любопытная деталь, потому что мы начинаем думать как люди. Поэтому мы начинаем спорить и формировать общество. И чтобы до чего-то дойти, нам нужно отфильтровать все факты через взгляды друзей и соседей, родителей и детей, коллег, газет и журналов, чтобы в конце прийти к настоящему знанию, в чем поисковик нам вряд ли поможет.

Я обещал вам пример, чтобы объяснить, как непросто прийти к верному и объективному знанию, просто чтобы вы задумались об этом. Я сделаю несколько поисковых запросов. Сперва попробуем набрать «Мишель Обама», первая леди США. Найдем ее изображения. Видно, что поиск работает хорошо. Это идеальный результат, более или менее. На изображениях только она, без появления президента.

Как это работает? Очень просто. Google использует много инструментов для лучших результатов, но в целом важны две составляющие. Первое — как фотографию подписывают на разных сайтах. Есть ли в подписи «Мишель Обама»? Это верный показатель, что это она на изображении. Второе — Google смотрит на сам файл изображения, на имя самого файла, загруженного на сайт. Тот же принцип, назван ли файл «МишельОбама.jpeg»? Это еще один верный признак, что на нем нет Клинта Иствуда. На этих двух пунктах базируется результат, похожий на тот, что я показал.

В 2009 году Мишель Обама стала жертвой расистской агитации, когда люди хотели оскорбить ее с помощью поисковых результатов. В интернете широко распространяли фотографию, на которой из-за измененного лица она выглядела, как обезьяна. И фото было опубликовано везде. Люди намеренно его публиковали, чтобы оно было одним из первых результатов поиска. Они писали «Мишель Обама» в описании и называли загружаемый файл «МишельОбама.jpeg». Очевидно, для влияния на результаты поиска. И это сработало. Если в 2009 году вы бы погуглили фото «Мишель Обама», то переделанное фото обезьяны появлялось одним из первых.

Теперь результаты самообновляемые, в чем и состоит красота процесса, потому что Google проверяет правильность каждый час и каждый день. Но Гуглу показалось этого мало, и разработчики сказали: «Это расистский и плохой результат поиска, нужно почистить его вручную. Мы напишем код для обновления результатов этого поиска». Это было сделано. Не думаю, что кто-то может подумать, что это была плохая идея. И я так не думаю.

Но потом, через несколько лет, самый востребованый в поисковых запросах человек по имени Андерс, Андерс Беринг Брейвик, сделал то, что он сделал. 22 июля 2011 года навсегда стало ужасным днем в истории Норвегии. Этот мужчина, террорист, взорвал несколько государственных зданий, в пешей доступности отсюда в Осло, Норвегия, поехав затем на остров Утойя, где застрелил целую группу подростков. Почти 80 человек погибли в тот день.

Многие люди опишут этот ужасный поступок в два этапа, то есть он сделал две вещи: взорвал здания и застрелил подростков. Это не так. На самом деле было три этапа. Он взорвал здания, он застрелил подростков, и он сел ждать, когда мир начнет гуглить его. И все эти этапы были одинаково хорошо подготовлены.

И если и был кто-то, кто сразу это понял, это был веб-разработчик из Швеции, эксперт по оптимизации веб-поиска из Стокгольма, Ник Линдквист. Он также общественный активист, использующий социальные сети в блогосфере и на Facebook. И он сказал всем: «Если и есть что-то такое, что этот парень сейчас хочет, так это управлять своим имиджем. Давайте попробуем видоизменить его образ. Давайте попробуем в цивилизованном мире выразить протест против его поступка, оскорбив его в результатах поиска».

Каким образом? Он написал своим читателям следующее: «Зайдите в интернет, найдите фотографии собачьих экскрементов на дороге, найдите фотографии собачьих экскрементов на дороге и опубликуйте их на ваших сайтах и блогах. Не забудьте написать имя террориста в описании фото и назовите файл «Брейвик.jpeg». Давайте покажем Google лицо террориста». И это сработало. Спустя два года после расизма в отношении Мишель Обамы агитация против Брейвика сработала. Если бы вы прогуглили его фото через несколько недель после 22 июля из Швеции, вы бы увидели фото собачьих экскрементов высоко в поиске в качестве небольшого протеста.

Как ни странно, Google не вмешался в этот раз. Они не стали вручную чистить результаты. Поэтому вопрос на миллион: есть ли различия между двумя ситуациями? Есть ли различия между способами оскорбления Мишель Обамы и Андерса Брейвика? Конечно, нет. Способ абсолютно одинаковый, но Google решил вмешаться только в одном случае из двух.

Почему? Из-за того, что Мишель Обама — это уважаемая личность, а Андерс Беринг Брейвик — ужасный человек. Вы понимаете, что произошло? Оценка человека, и есть только одна сила в мире с авторитетом сказать, кто есть кто. «Ты нам нравишься, ты нам не нравишься. Мы верим тебе, мы не верим тебе. Ты прав, ты не прав. Ты Обама, а ты Брейвик». Это власть как я ее вижу.

Поэтому я прошу вас запомнить, что за каждым алгоритмом всегда стоит человек, человек с личным набором убеждений, от которых не сможет полностью избавиться ни один код. И мое обращение направлено не только к Google, но и ко всем верующим в силу кода в мире. Вам нужно идентифицировать ваши собственные предубеждения. Вам нужно понимать, что вы человек, и нести подобающую ответственность.

Я говорю это, потому что считаю, что мы достигли точки во времени, когда крайне важно снова связать вместе два направления как можно крепче — гуманитарные науки и технологии. Крепче, чем когда-либо. Время по крайней мере напомнить себе, что соблазнительная идея о том, что может существовать непредвзятый результат поиска, – это миф и, скорее всего, останется мифом.

Перевод: Наргиз Линекер
Редактор: Максим Аверин

Источник

Свежие материалы