Складной мир: мрачные прогнозы Кай-Фу Ли

Инвестор и ученый Кай-Фу Ли — один из самых влиятельных экспертов в области ИИ. Его книга «Сверхдержавы искусственного интеллекта» — рассказ о борьбе Кремниевой долины и Китая за лидерство в сфере искусственного интеллекта. В одной из глав автор рисует антиутопическую картину: развитие технологий приведет к неравенству между нациями. На русском языке книга выходит в издательстве МИФ.

Складной Пекин

Ровно в 6 утра город начинает проглатывать сам себя. Стоящие плотными рядами здания из бетона и стали складываются пополам, наклоняясь вперед и в стороны. Их балконы и террасы находятся под фасадами, и внешние стены выглядят как гладкие непроницаемые поверхности. Секции небоскребов поворачиваются вокруг своей оси, словно грани огромных кубиков Рубика. Внутри этих модульных зданий проходит жизнь обитателей Третьего пространства Пекина — тружеников низшей категории, которые работают в ночные часы и спят днем. По мере того как элементы городского пейзажа встают на свое место, квадратные секции земной поверхности начинают плавно переворачиваться на 180 градусов. Когда над землей оказывается обратная сторона этих квадратов, мы видим совсем другой город. Первые лучи рассвета озаряют горизонт, и из своих подземных ниш появляются целые улицы, усаженные деревьями, большие парки, роскошные частные дома. Они раскладываются, обретают объем и наконец покрывают собой всю поверхность земли. Жители Первого пространства просыпаются, потягиваясь и любуясь утренним миром вокруг себя.

Так видит будущее города Хао Цзинфан — писательница, работающая в жанре научной фантастики, и исследователь-экономист. Небольшой рассказ Хао «Складной Пекин» получил престижную премию Hugo Award в 2016 году за изображение города, где жизнь разных экономических классов разделена и протекает в разных мирах.

Пекин далекого будущего населяют три касты, каждая из которых пребывает на поверхности земли определенное время. Пять миллионов жителей элитного Первого пространства начиная с 6 утра наслаждаются жизнью полные сутки в чистом современном городе, где много воздуха и света. Когда Первое пространство складывается и переворачивается, 20 млн жителей Второго пространства получают 16 часов, в течение которых они работают на фоне довольно приятного городского пейзажа. И, наконец, появляются обитатели Третьего пространства — 50 млн сортировщиков отходов, продавцов еды и чернорабочих. Их пребывание на поверхности длится 8 часов — с 10 вечера до 6 утра, они работают в темноте, среди мрачных небоскребов и мусорных ям. Работу по сортировке отходов, составляющую основу жизни Третьего пространства, можно полностью автоматизировать, но ею занимаются вручную: это нужно, чтобы обеспечить занятость миллионов несчастных.

Конечно, это всего лишь фантастический рассказ, но его идея выросла из реальных опасений по поводу экономического расслоения и безработицы в нашем автоматизированном будущем.

Сверхдержавы ИИ против всех остальных

Предприниматели Кремниевой долины любят преподносить свою продукцию как «демократизирующую доступ» к чему-то, «объединяющую людей» и, конечно же, «делающую мир лучше». Такой взгляд на технологии как на средство борьбы с неравенством всегда был несколько утопичным, но в эпоху ИИ он может превратиться в нечто гораздо более опасное. Если ИИ не контролировать, он способен резко усугубить неравенство как на международном, так и на внутреннем уровнях. И это неравенство может, в свою очередь, привести к раздору между сверхдержавами ИИ и остальным миром и разделить общество по классовому признаку, как в фантастической антиутопии, придуманной Хао Цзинфан.

Подобно технологиям и промышленности, ИИ естественным образом тяготеет к монополии. Он совершенствуется, получая новые данные, и это создает замкнутый цикл: чем лучше продукт, тем больше пользователей, чем больше пользователей, тем больше данных, а чем больше данных, тем лучше продукт. Когда какая-то компания вырывается вперед, этот цикл может быстро сделать дистанцию между ней и конкурентами непреодолимой.

Благодаря этому циклу китайские и американские компании уже захватили мировое лидерство в области ИИ. Канада, Великобритания, Франция и некоторые другие страны охотно открывают двери своих лабораторий перед талантливыми исследователями, но им часто не хватает других составляющих, необходимых, чтобы стать истинными сверхдержавами ИИ: большой базы пользователей и динамичной венчурной экосистемы для предпринимателей.

Нам еще предстоит увидеть рождение новаторских компаний в этих странах, и лондонской DeepMind дело не ограничится. Однако все семь гигантов искусственного интеллекта и подавляющее большинство лучших инженеров в области ИИ уже сосредоточены в США и Китае. Они строят огромные хранилища данных, питающие разнообразные продукты, такие как самоуправляемые автомобили, автономные дроны, устройства для перевода с иностранных языков и для распознавания лиц, программы для восприятия и синтеза естественного языка и многое другое. Чем больше данных эти компании накапливают, тем труднее будет компаниям из других стран конкурировать с ними.

По мере того как ИИ простирает свои щупальца во все отрасли экономики, эти технологические сверхдержавы будут получать все новые преимущества. По оценкам PwC, Соединенные Штаты и Китай намерены получить как минимум 70% от 15,7 трлн долларов, которыми ИИ обогатит мировую экономику к 2030 году, причем на долю Китая придется 7 трлн. Другим государствам останется подбирать остатки, в то время как сверхдержавы ИИ будут наращивать производительность труда внутри страны и получать потоки прибыли из всех стран земного шара. Американские компании, скорее всего, будут претендовать на многие развитые рынки, а у китайских гигантов больше шансов заполучить рынки Юго-Восточной Азии, Африки и Азии. Боюсь, что этот процесс усугубит и значительно увеличит разрыв между имущими и неимущими. В то время как сверхдержавы ИИ за счет огромной прибыли будут становиться все богаче, страны, не перешагнувшие определенный технологический и экономический рубеж, окажутся в рядах отсталых или отстающих. В сферах производства и услуг почти все будут делать умные машины, расположенные в супердержавах ИИ, а более слабые государства продолжат терять то конкурентное преимущество, которое привело к процветанию их предшественников, — дешевую рабочую силу.

Лишенные возможности вырваться из нищеты, бедные страны будут стагнировать, в то время как супердержавы ИИ ожидает экономический взлет. Я опасаюсь, что постоянно растущий разрыв в развитии экономики поставит бедные страны в полную зависимость от богатых. Их правительства могут попробовать, например, предложить сверхдержавам ИИ доступ на свои рынки в обмен на экономическую помощь населению. Но в любом случае подобные сделки не будут основаны на свободе воли или равенстве между нациями.

Мрачная картина

Внимательно вглядываясь в экономический горизонт, мы видим, что искусственный интеллект, вероятно, начнет производить богатство в невиданных прежде масштабах — и это могло бы стать поводом для радости. Однако если не контролировать ИИ, то от него будет полностью зависеть и глобальное распределение этого богатства, что приведет к неравенству и отчаянному положению миллионов людей. Страны, в которых ИИ не получит широкого распространения, останутся на низших ступенях экономического развития и будут низведены до подчиненного статуса. Страны с развитыми технологиями ИИ будут богатеть, но столкнутся с высокой монополизацией экономики и расслоением рынков труда.

Не ошибитесь: это не просто очередная встряска вроде тех, которые уже не раз переживала капиталистическая система. Те рано или поздно приводили к тому, что рабочих мест становилось больше, зарплаты повышались, качество жизни улучшалось и система стабилизировалась. Свободный рынок должен быть саморегулирующимся, но искусственный интеллект способен разрушить механизмы саморегуляции, которые действовали раньше. Дешевая рабочая сила не обладает никакими преимуществами перед машинами, и процесс монополизации продолжается. Все вместе это может породить уникальный исторический феномен, который в корне преобразит наши рынки труда, экономику и общество. Даже если самые страшные предсказания, касающиеся потери рабочих мест, не сбудутся, социальное воздействие неравенства может быть столь же разрушительным. Даже если мы никогда не построим складной город, как в научно-фантастическом рассказе Хао Цзинфан, нам никуда не деться от риска, что в XXI веке возникнет новая кастовая система: общество разделится на элиту, процветающую благодаря ИИ, и ту часть, которую историк Юваль Ной Харари прямолинейно называет «бесполезным классом», — людей, которые никогда не смогут генерировать достаточную экономическую ценность, чтобы поддерживать свое существование. Хуже того, новейшая история уже показала нам, насколько хрупкой может быть политическая стабильность перед лицом неравенства. Боюсь, что политические перевороты последних лет — это лишь стрельба холостыми патронами по сравнению с восстаниями, которые ждут нас в эпоху ИИ.

Личные ценности: грядущий кризис смысла

Беспорядки будут возникать не только по политическим, экономическим и социальным причинам, но и по глубоко личным. За столетия, прошедшие после промышленной революции, мы стали воспринимать свою работу не только как источник средств к существованию, но и как повод для гордости, часть нашей личности и даже смысл жизни. Когда нас просят представиться или представить другого человека, в первую очередь мы обычно упоминаем свою или его профессию.

Работа заполняет наше время и упорядочивает нашу жизнь, а также связывает нас с другими людьми. Регулярная зарплата воспринимается не только как вознаграждение за полезный труд, но и как символ признания, того, что мы — важная часть общества.

Разрыв этих связей и принуждение людей к карьерным падениям нанесут ущерб не только нашему финансовому благополучию. Они могут разрушительно повлиять на наше отношение к себе и лишить нас цели.

В интервью газете New York Times в 2014 году уволенный электрик по имени Фрэнк Уолш описал психологические последствия безработицы: «Я потерял чувство собственного достоинства, понимаешь, о чем я? — сказал он. — Кто-то спрашивает тебя: „Чем ты занимаешься?“ И я мог бы ответить: „Я электрик“. Но сейчас я ничего не говорю. Я больше не электрик».

Потеря работы в три раза повышает вероятность депрессии (за полгода) и в два раза — вероятность суицида. Злоупотребление алкоголем и опиоидными средствами растет вместе с уровнем безработицы, причем некоторые ученые объясняют рост смертности среди необразованных белых американцев снижением экономических показателей. Это явление называют «смертью от отчаяния».

Последствия индуцированной ИИ безработицы нанесут людям еще более глубокую психологическую травму. Они столкнутся с перспективой не просто временно потерять работу, а быть навсегда исключенными из функционирования экономики. Победители в этой игре будут в восторге от удивительных возможностей машин, но остальной части человечества предстоит задать себе серьезный вопрос: что значит быть человеком в мире, где все могут делать машины?

Читайте подробнее о книге «Сверхдержавы искусственного интеллекта» в базе «Идеономики».