Бурная эпоха ИИ уже наступила. От принимаемых сейчас решений зависит будущее

Ключевая мысль текста Гейтса: переход к эпохе ИИ станет одним из самых неспокойных периодов в истории человечества. Пока мы недостаточно к нему готовимся. Но если мир предпримет правильные шаги, искусственный интеллект станет доброй силой и улучшит жизнь каждого.

За всю жизнь у меня было всего две работы. Сначала я участвовал в создании программного обеспечения, которое расширяло возможности людей, этим я занимался в Microsoft.

Вторую работу я начал в 2008 году, полностью посвятив себя тому, чтобы вернуть обществу заработанное в Microsoft состояние и помочь сделать мир более здоровым, образованным и справедливым. Этим я буду заниматься до конца жизни.

Оба опыта определяют мой взгляд на искусственный интеллект. Когда в 13 лет я впервые познакомился с компьютерами, меня заворожила идея сделать их умнее и научить выполнять задачи, которые тогда были под силу только человеку. Хотя термин «искусственный интеллект» появился примерно в то же время, когда я родился, по-настоящему заметных успехов эта технология добилась лишь в последнее десятилетие. Сегодня ее возможности уже поражают — и продолжают расти с головокружительной скоростью. Впервые искусственный интеллект способен заменить человеческое мышление и даже превзойти его.

ИИ станет либо самым мощным инструментом выравнивания возможностей в истории, либо источником вопиющей несправедливости.

С точки зрения социальной справедливости ИИ станет либо самым мощным инструментом выравнивания возможностей в истории, либо источником вопиющей несправедливости. Перед нами колоссальная задача. Даже при самом благоприятном развитии событий переход к новой эпохе ИИ станет одним из самых неспокойных периодов в истории человечества. Как использовать эту технологию, чтобы сделать мир справедливее, и не позволить ей увеличить разрыв между богатыми и бедными? Как защитить тех, кто наиболее уязвим перед ее негативными последствиями, — в том числе людей, которые лишатся средств к существованию и ощущения, что сами распоряжаются своим будущим?

Я убежден: найти ответы на эти вопросы и начать действовать — важнейшая задача для всего мира. Если мы предпримем правильные шаги, ИИ превратится в силу добра и улучшит жизнь каждого.

К сожалению, пока мы к этому не готовимся. Я не вижу признаков того, что лидеры, эксперты и местные сообщества всерьез и в должной мере занимаются этими проблемами. Плана, который помог бы нам войти в эпоху ИИ, не существует.

Отчасти дело в том, что многие комментаторы недооценивают масштаб грядущих перемен. На мой взгляд, тому есть несколько причин.

Первая — модели ИИ по-прежнему ошибаются. Трудно представить, что они заменят человеческое мышление, если еще совсем недавно не могли решить простую судоку или посчитать, сколько букв r в слове strawberry.

Но проблему надежности быстро решают: исследователи создают модели, которые способны проверять собственную работу и совершенствовать себя. Вскоре во многих задачах они будут значительно превосходить людей.

Вторая причина — аналогии с прежними технологическими революциями вводят нас в заблуждение. Мы никогда не сталкивались с технологией, которая могла бы так быстро распространяться, а также думать и двигаться подобно человеку. Персональному компьютеру понадобилось 20 лет, чтобы заметно изменить нашу работу: требовалось создать программы, снизить цену устройств, научить людей пользоваться новыми инструментами и встроить их в бизнес-процессы. ИИ, напротив, работает на устройствах, которые у нас уже есть, и общается на естественном языке. Нам не нужно приспосабливаться к нему — он способен приспособиться к нам. Он может посмотреть тот же учебный ролик, по которому обучают сотрудников, и усвоить уже накопленные данные.

Здесь я должен признать, что могу быть необъективен. Технологическая индустрия принесла мне огромную выгоду. Хотя я значительно диверсифицировал свои инвестиции, меня по-прежнему связывают с ней финансовые интересы. Как председатель Фонда Гейтса я сотрудничаю с Microsoft и другими компаниями, работающими в сфере ИИ, чтобы эта технология применялась на благо людей во всем мире.

Однако мое отношение к ИИ не продиктовано желанием заработать. Вся прибыль от моих инвестиций, в том числе технологических, поступит в Фонд Гейтса и будет направлена на борьбу с глобальным неравенством. Разумеется, читателям решать, мешает ли это обстоятельство мне быть объективным.

На этот раз все и правда иначе

Сколько себя помню, мне всегда хотелось, чтобы инновации появлялись быстрее. Но в случае с ИИ мои чувства сложнее.

Нам нужно время, чтобы подготовиться к социальным, политическим и экономическим потрясениям.

Я хотел бы, чтобы мир как можно быстрее получил пользу от ИИ, а связанные с ним проблемы возникли как можно позже. Но польза и проблемы приходят одновременно. Нам нужно время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вступаем. Больше всего времени требуется тем, у кого его меньше всего: сотруднику бухгалтерии, которого заменит бот, или человеку, зарабатывающему 20 долларов в час и потерявшему работу из-за робота, эксплуатация которого обходится в 10 долларов в час.

Многие наблюдатели говорят, что нынешний технологический переход будет похож на предыдущие. В пример приводят Соединенные Штаты, где люди постепенно переходили от сельскохозяйственного труда к офисному. Но этот процесс растянулся на несколько поколений и создавал новые рабочие места, требовавшие человеческого мышления. Теперь же технология способна заменить и само человеческое мышление.

ИИ умеет видеть, слушать, говорить и рассуждать, а со временем сможет выполнять физическую работу не хуже человека. Поэтому перемены не ограничатся одной отраслью. ИИ возьмет на себя работу в юриспруденции, клиентском сервисе, медицине, разработке программ и промышленности. Эти отрасли изменятся стремительно, за одно десятилетие, а не за несколько поколений. Новые рабочие места появятся, но без правильной политики их будет гораздо меньше, чем существует сегодня.

Если бы кто-нибудь предложил убедительный план, позволяющий замедлить развитие ИИ во всем мире, я, скорее всего, его поддержал бы. Но не думаю, что такой план появится: геополитические и экономические стимулы слишком сильно подталкивают всех двигаться вперед на полной скорости.

Чтобы извлечь максимум пользы из этой беспрецедентной технологии, свести к минимуму ее вред и в конечном счете выиграть от перемен, необходимо понимать и преимущества, и риски. Начну с рисков.

Переход к эпохе ИИ несет три серьезных риска

В будущем я намерен подробно написать о каждом из них, а пока остановлюсь на них кратко.

Многие рабочие места исчезнут навсегда.

В 1933 году, во время Великой депрессии, безработица в США достигала примерно 25%. Большую часть следующего десятилетия она оставалась двузначной. В конце концов занятость восстановилась вместе со спросом, инвестициями и экономическим ростом.

Возможно, из-за ИИ безработица не поднимется до такого уровня. Однако его влияние не исчезнет после завершения очередного экономического цикла. Сильнее всего рискуют специалисты начального и среднего уровня, тогда как новые рабочие места в основном потребуют навыков, на приобретение которых уходят годы.

Небольшое сокращение занятости среди офисных работников уже началось. После широкого распространения генеративного ИИ число занятых заметно снизилось среди молодых сотрудников тех профессий, которые особенно легко автоматизировать, — но не среди их коллег старшего возраста.

Думаю, эта тенденция продолжится и не ограничится несколькими отраслями или профессиями. Одними из первых перемены могут затронуть продажи и поддержку клиентов (онлайн и по телефону), разработку программного обеспечения и работу помощников юристов. Но затем они пойдут гораздо дальше: ИИ возьмет на себя задачи, для которых сегодня еще нужны подготовленные специалисты: например, оценку кредитных заявок, анализ данных и даже первичную сортировку пациентов. В некоторых сферах, таких как разработка программного обеспечения, снижение издержек создаст дополнительный спрос. Поэтому, пока отдельные задачи, например проектирование, лучше выполняют люди, чистое сокращение рабочих мест там будет меньше, чем в других областях.

Перемены коснутся и рабочих профессий. Робототехника пока отстает от ИИ, но со временем стоимость роботов тоже резко снизится. Многие американцы, с которыми я беседую, не представляют, как быстро совершенствуются роботы, способные выполнять сложные движения: значительная часть передовых разработок ведется в других странах, прежде всего в Китае. А кого-то, возможно, сбивают с толку недавние вирусные ролики, в которых роботы неуклюже танцуют. Думаю, к концу десятилетия «умные» роботы начнут конкурировать с людьми при выполнении некоторых физических задач, например, в строительстве и гостинично-ресторанном бизнесе.

Вместе роботы и ИИ способны запустить порочный круг. Как только одна компания внедрит их и за счет экономии снизит цены, ее конкуренты почувствуют огромное давление и будут вынуждены сделать то же самое. Если технологию не станут внедрять действующие компании, это сделают стартапы. Многие люди перейдут на другую работу, но потеря прежнего места, переобучение и поиски нового вызовут серьезные потрясения. Рыночные силы будут все сильнее ускорять внедрение технологий. Если мы не вмешаемся, хороших рабочих мест станет меньше, а выгоды достанутся узкой группе людей.

Особенно меня тревожит положение молодежи, которая выйдет на рынок труда, где вакансий начального уровня станет меньше. Молодые люди хорошо понимают проблему: они активнее всех пользуются ИИ и видят как его возможности, так и скорость его развития. Неудивительно, что многие из них относятся к этой технологии отрицательно.

Самый масштабный перелом произойдет, когда ИИ научится работать почти безошибочно. Тогда он сможет действовать самостоятельно, без проверки со стороны человека, а у компаний появятся все экономические стимулы позволить ему это.

Это в корне изменит наши представления о труде, доходе и экономической безопасности. Как будет работать экономика, построенная вокруг занятости, если трудиться станет меньше людей, или же многие будут работать заметно меньше часов?

В капиталистическом обществе работа дает большинству людей деньги на основные жизненные потребности, а кроме того, остается важнейшим источником достоинства и социальных связей.

Высокая безработица в отдельно взятом сообществе может вызвать далеко идущие последствия. Исследования показывают, что в некоторых районах США закрытие заводов способствует росту смертности от передозировок опиоидами. А теперь представьте, что подобное давление одновременно испытывают офисные и промышленные работники по всей стране.

Уже сейчас нужно думать, как сократить потери рабочих мест, чтобы все могли воспользоваться благосостоянием, которое создаст ИИ. Когда люди уже лишатся работы или будут вынуждены довольствоваться неполной занятостью, действовать будет поздно. ИИ создает структурный вызов для самой организации нашей экономики — и требует размышлений и действий уже сегодня.

ИИ расширит возможности тех, кто причиняет вред, а возможно, и самих систем ИИ.

Задолго до того, как ИИ стал массовой технологией, в интернете можно было найти сведения о том, как создавать бомбы, биологическое оружие и даже компьютерные вирусы. ИИ не только значительно облегчит доступ к такой информации, но и поможет применить ее на практике. Даже преступники с весьма скромными навыками смогут атаковать цели любого масштаба: отдельных людей, компании и государства.

Даже преступники с весьма скромными навыками смогут атаковать цели любого масштаба.

Мошенничество с применением ИИ, дезинформация, дипфейки и слежка — именно с этими угрозами многие люди острее всего столкнутся в повседневной жизни.

Возможности ИИ уже начинают использовать для кибератак. Самые сильные специалисты по кибербезопасности из тех, кого я знаю, всерьез боятся ближайших лет: атакующие получают новые мощные инструменты быстрее, чем защитники успевают устранять все уязвимости. В конце концов, одна и та же модель ИИ может найти брешь в программе, чтобы компания ее закрыла, или помочь преступнику ею воспользоваться. Ресурсов для проведения атаки требуется все меньше, а отделить опасные возможности технологии от полезных нам пока не удалось.

Подумайте, какая инфраструктура окажется уязвимой: больницы, финансовые учреждения, системы водоснабжения, электросети, системы распределения государственных пособий. Когда атакуют эти учреждения, пострадать могут пациенты, клиенты и получатели помощи.

То же относится к биотерроризму. ИИ поможет совершить спасающие жизни прорывы в создании лекарств и вакцин, но одновременно упростит разработку новой смертельно опасной болезни. И вновь полезные возможности трудно отделить от опасных. Это глобальная проблема.

До сих пор речь шла о том, как ИИ усилит злоумышленников, которые сегодня обладают сравнительно небольшой властью. Но те же инструменты сконцентрируют еще больше власти там, где она уже есть. Например, автономное оружие еще сильнее расширит возможности государств применять смертоносную силу, исключив человека из принятия решения. Следить за общественным мнением и манипулировать им станет проще, дешевле и эффективнее.

Со временем применять ИИ во вред людям смогут не только люди и организации. Уже сейчас системы ИИ порой действуют не так, как задумали их создатели. Технология развивается быстрее и неожиданнее, чем кто-либо предполагал. По мере того как модели будут становиться мощнее, они могут начать действовать вопреки нашим интересам, и мы рискуем утратить над ними контроль. В будущем я еще вернусь к этой теме.

Модели ИИ могут начать действовать вопреки нашим интересам — и мы рискуем утратить над ними контроль.

ИИ может помешать полноценному развитию наших детей и заменить человеческие отношения.

Когда я рос в Сиэтле, друзей у меня было немного, лишь несколько мальчиков, похожих на меня. Мне потребовались большие усилия и серьезная помощь мамы, чтобы развить социальные навыки и научиться находить общий язык с самыми разными людьми. К этим урокам я обращаюсь и сегодня, в 70 лет.

Сомневаюсь, что приложил бы столько же усилий, будь у меня тогда ИИ-компаньон. Такие системы разговаривают с вами так, как вам же удобно. Они не заставляют выходить из зоны комфорта, всегда доступны и никогда не сердятся. Поэтому они могут вызывать сильнейшую зависимость и лишать нас уроков, которые мы получаем, выстраивая отношения с другими людьми.

Исследований на эту тему пока мало, а их результаты не всегда однозначны. Но уже есть признаки, которые должны нас всерьез насторожить. Например, в одном исследовании, охватившем более 1100 пользователей ИИ-компаньонов, специалисты Стэнфордского университета и Университета Карнеги — Меллона обнаружили, что люди с более узким кругом общения чаще других обращались к чат-боту за компанией. И чем больше времени они проводили с ним и чем более личным и эмоциональным становилось общение, тем хуже они себя чувствовали.

Для молодых людей последствия могут оказаться пожизненными. В книге «Тревожное поколение» Джонатан Хайдт рассуждает о влиянии социальных сетей, и это наблюдение еще точнее применительно к ИИ: «Подобно молодым деревьям, открытым ветру, дети, которые регулярно сталкиваются с небольшими рисками, вырастают во взрослых, способных без паники справляться с гораздо более серьезными опасностями. И наоборот, дети, выросшие в защищенной теплице, порой оказываются парализованы тревогой еще до того, как достигают зрелости».

ИИ-компаньон, устроенный так, чтобы никогда вас не расстраивать, — это большая защищенная теплица.

Мы лишь начинаем понимать, чем интернет, и особенно социальные сети, может угрожать развитию молодых людей. Мы уже видим навязчивое использование, нарушения сна, кибербуллинг и столкновение с вредным контентом. ИИ способен усилить многие из этих рисков, сделать их более убедительными и почти не оставляющими возможности от них укрыться. Не стоит ждать еще одно поколение, прежде чем отнестись к этим опасностям всерьез. Австралия, Великобритания, Норвегия и другие страны вводят меры для защиты детей в интернете. Дальше всех пошел Китай. Его правила серьезно ограничивают приложения с ИИ-компаньонами, запрещают механики, формирующие эмоциональную зависимость, а также виртуальных родственников и романтических партнеров для несовершеннолетних.

Тот же инструмент, который позволит людям учиться больше, чем когда-либо, может привести к тому, что многие станут учиться меньше.

Меня беспокоит и влияние ИИ на образование. По иронии судьбы тот же инструмент, который позволит людям учиться больше, чем когда-либо, может привести к тому, что многие станут учиться меньше. Один предварительный опрос показал связь между более активным использованием ИИ и менее развитым критическим мышлением. Среди молодых людей эта связь была выражена сильнее.

Сейчас человечеству особенно опасно терять способность мыслить критически. В эпоху дипфейков и дезинформации, которую можно подогнать под каждого из нас, умение отличать правду от лжи становится жизненно необходимым навыком.

Где провести границу в решении этих психосоциальных проблем, пока неясно. В некоторых случаях ИИ может помочь человеку лучше понять, как строить отношения с людьми. Для одиноких пожилых или маломобильных людей он порой станет единственным контактом с внешним миром, и это лучше, чем ничего. Но где бы ни прошла граница, провести ее должны мы сами, осознанно и намеренно.

Добро, которое мы способны творить с помощью ИИ, может оказаться поистине огромным

Часто говорят, что мы переоцениваем масштаб краткосрочных перемен и недооцениваем долгосрочные.

В случае с ИИ я вижу другую картину. Одни замечают лишь преимущества технологии и уделяют недостаточно внимания ее отрицательным сторонам. Другие впадают в противоположную крайность и сосредоточиваются исключительно на реальных опасностях, упуская возможную пользу.

Нам необходимы и глубокая обеспокоенность вредом, который нужно свести к минимуму, и трезвый оптимизм относительно пользы, которую следует сделать доступной каждому.

Максимизировать преимущества не менее важно, чем минимизировать вред. Если люди увидят, как ИИ облегчает им жизнь, это поможет укрепить общественное доверие, необходимое для преодоления самых трудных этапов перехода. Если же первым проявлением ИИ в жизни большинства людей станет потеря работы, те, кто и сейчас относится к нему скептически, отвергнут технологию окончательно. Тогда реализовать ее преимущества будет сложнее. Вот еще одна причина, по которой государствам, различным отраслям, в том числе здравоохранению, и разработчикам ИИ следует уже сегодня действовать сообща.

Способность объединять знания из всех научных областей позволит ИИ ускорить инновации и приблизить решение самых трудных технических задач человечества: обеспечить всех надежной чистой энергией, противостоять изменению климата, производить достаточно продовольствия, искоренять болезни и делать многое другое. Исследователи, которые разрабатывают методы лечения рака или занимаются ядерной энергетикой, смогут с помощью ИИ анализировать огромные массивы научной литературы. Он поможет обнаружить закономерности, незаметные человеку, и определить самые перспективные эксперименты. Когда интеллект перестанет быть таким ограничивающим фактором, как сегодня, небольшие компании смогут конкурировать с организациями, располагающими гораздо более крупными исследовательскими бюджетами. Исследования, разработки и инновации получат мощнейший импульс.

Здравоохранение — одна из областей, где ИИ поможет решать практические проблемы. Во многих небольших больницах США нет штатных специалистов, способных быстро поставить диагноз пациенту в критической ситуации. Там ИИ может помочь вовремя распознать инфаркт и уберечь семью от разорительных расходов, вызванных экстренной медицинской помощью. Один из примеров — Viz.ai. Сервис анализирует снимки, чтобы выявлять инсульты и другие неотложные состояния, и помогает медицинским командам координировать лечение пациентов. Им уже пользуются почти в 2000 американских больниц.

ИИ также поможет врачам первичного звена точнее ставить диагнозы и поддерживать связь с пациентами за пределами клиники. А пациентам — разбираться в результатах анализов и сложных схемах приема лекарств.

Быстрее всего влияние ИИ в странах с низкими доходами проявится в сельском хозяйстве.

Многие удивляются, когда я говорю, что сельское хозяйство — вторая область, где страны с низкими доходами быстрее всего почувствуют влияние ИИ. В большинстве таких стран фермеры не получают надежных прогнозов погоды и рекомендаций о том, какие семена выбирать, как защищать урожай и скот от болезней или улучшать почву. Из-за роста населения и изменения климата им как никогда нужна помощь. Благодаря ИИ малообеспеченные фермеры вскоре смогут получать по всем этим вопросам советы лучше тех, что сегодня доступны даже самым состоятельным хозяйствам, и значительно повысят урожайность.

Третья область, где ИИ может облегчить жизнь людей, — государственные услуги. В США я встречал семьи, которых по понятным причинам приводила в отчаяние необходимость оформлять медицинскую страховку, помощь на образование или продовольственные пособия. Перед огромной стопкой сложных бюрократических форм многие были готовы сдаться. ИИ способен радикально упростить процесс: люди быстрее получат необходимую поддержку, а государство станет работать эффективнее. Власти могут заметно улучшить взаимодействие с гражданами, прежде всего с теми, кому особенно нужны услуги системы социальной защиты.

Несмотря на мои опасения по поводу влияния ИИ на психическое здоровье, я думаю, что и здесь он способен принести большую пользу. В большинстве сообществ не хватает психологов-консультантов, психиатров и специалистов по зависимостям. При условии надежной защиты личных данных инструменты ИИ могут помогать людям замечать тревожные признаки. При необходимости они предложат научно обоснованные способы справиться с проблемой и подключат специалиста, чтобы тот мог быстрее реагировать и лучше выстроить лечение.

ИИ способен принести пользу и образованию, несмотря на опасения, о которых я говорил выше. Он освободит учителям время для индивидуальной работы с учениками или занятий в небольших группах и поможет яснее видеть, какие темы вызывают трудности у всего класса. Ученикам пойдет на пользу инструмент, который сохраняет то, что исследователи называют «продуктивной борьбой», — умственное усилие, необходимое для настоящего понимания. При первом знакомстве ученика с новой идеей ИИ дает содержательные объяснения, предлагает вопросы и ответы. Позже, проверяя усвоение материала, он уже не сообщает готовый ответ, а помогает прийти к нему самостоятельно.

В совокупности прогресс во всех этих областях может сделать повседневную жизнь проще и доступнее, а возможности человека менее зависимыми от его дохода и связей.

ИИ может предоставить отдельным людям и малому бизнесу доступ к возможностям, для которых сегодня требуются дорогостоящие специалисты или большой штат, одновременно повышая качество и снижая стоимость товаров и услуг. Он поможет людям с инвалидностью жить более независимо, а работникам и предпринимателям с хорошими идеями добиваться гораздо большего, чем сегодня.

Но важнее всего то, что ИИ может вернуть людям часть времени и внимания, которые сейчас поглощают бумаги, бюрократия, поиск надежной информации и задачи, для решения которых они не могут нанять специалиста. Эти преимущества могут показаться скромными, но, умноженные на миллионы жизней, они окажутся огромными: больше людей будут вовремя получать хорошие советы и обретут больше свободы, чтобы сосредоточиться на жизни, которую хотят построить.

Нужно целенаправленно добиваться того, чтобы ИИ приносил пользу всем, а не только немногочисленным богачам.

Во всех этих случаях ключевое слово — «может». ИИ может улучшить жизнь людей с любым уровнем дохода. Но автоматически этого не произойдет. Как и в случае с любой новой технологией, нужно целенаправленно добиваться того, чтобы он приносил пользу всем, а не только немногочисленным богачам. Государства и благотворительные организации должны будут сыграть активную роль, чтобы менее обеспеченные граждане и страны с низкими доходами получили от ИИ все возможные преимущества.

У Фонда Гейтса остается 19 лет из 20, за которые он намерен потратить оставшиеся 200 млрд долларов. ИИ поможет ему достичь амбициозных целей: ускорит разработку вакцин и лекарств от ВИЧ, туберкулеза, малярии и недоедания, а также поможет медицинским работникам и пациентам правильно пользоваться этими средствами. Одна из целей фонда — еще раз вдвое сократить ежегодную детскую смертность, как это уже удалось сделать с 2000 по 2024 год. Во всей нашей работе, не только в здравоохранении, но и в сельском хозяйстве и образовании, мы будем в полной мере использовать ИИ.

В следующем месяце я гораздо подробнее расскажу об этих инициативах в ежегодном докладе фонда Goalkeepers. В том числе о стремлении сделать модели ИИ доступными на языках жителей всех стран, где мы поддерживаем проекты, а не только на языках, распространенных в богатых странах и государствах со средним уровнем дохода. Многие ведущие компании в сфере ИИ, включая OpenAI, Anthropic, Google и Microsoft, сотрудничают с фондом во всех этих начинаниях, и их участие заметно меняет дело.

Миру нужен план

Хорошо, что некоторые компании в сфере ИИ предлагают решения проблем, порожденных их собственной технологией. Но не следует ждать, что именно они возглавят эту работу. Часть вопросов лежит за пределами их компетенции, к тому же в демократическом обществе решать эти проблемы — не их роль.

Решения должны вырабатываться в рамках открытого демократического процесса с участием избранных политиков, специалистов по государственной политике, педагогов, медиков, представителей местных властей и лидеров сообществ. Перемены нарушат привычную жизнь миллионов людей, поэтому нам понадобится более сильная и гибкая система социальной защиты, которая поможет пройти переходный период. Местные сообщества уже выражают обеспокоенность тем, сколько энергии и воды требуется дата-центрам. Если решений не будет, некоторые группы потребуют полностью остановить разработку и внедрение ИИ.

Эти решения должны опираться на наши ответы на глубокие вопросы, которые ставит перед нами ИИ, в том числе на вопрос о том, как сохранить человечность как таковую, когда машины способны мыслить лучше нас. Религиозные лидеры, посвятившие жизнь размышлениям о том, что значит быть человеком, могут сыграть здесь ключевую роль. Меня глубоко заинтересовала энциклика Папы Льва XIV об ИИ, «О защите человеческой личности в эпоху искусственного интеллекта». Она закладывает прочный фундамент для предстоящей работы.

В ближайшие месяцы я поделюсь новыми идеями о том, как добиться, чтобы польза от ИИ перевесила причиняемый им вред. А пока предложу три, начиная с той, которую считаю самой важной.

Создать новую систему для управления переходным периодом

Первоочередная задача колоссальна: нужно выстроить национальную и международную систему регулирования ИИ.

Ни один из существующих институтов не создавался для работы с технологией, которая распространяется настолько быстро и затрагивает столько сторон нашей жизни. Значит, понадобятся новые институты.

Масштаб этой работы трудно переоценить. После терактов 11 сентября правительство США провело крупнейшую со времен Второй мировой войны реорганизацию только ради совершенствования одной функции, национальной безопасности.

ИИ потребует гораздо, гораздо большего. Он затронет не только национальную безопасность, но и занятость, образование, налогообложение, энергетику, выборы, качество воздуха и воды, общественное здоровье, финансовую систему, правоохранительные органы, транспорт, государственные земли и информационные системы.

Все эти сферы пересекаются так, как нынешняя бюрократия не приспособлена учитывать. Министерство труда может понимать последствия для занятости, но ничего не знать о рисках для безопасности. Орган, регулирующий бизнес, может разбираться в концентрации доли рынка [в руках одного игрока], но не представлять, как ИИ влияет на детей и подростков. Предоставленные сами себе, ведомства будут видеть лишь отдельные части системы, тогда как последствия распространения ИИ затронут ее целиком.

На национальном уровне странам понадобятся органы, способные определять приоритеты для разных ведомств. Их задача — убедиться, что учтен каждый риск. Иначе атака с применением ИИ может оказаться успешной просто потому, что никто не считал своим делом ее остановить.

Но даже страна, которая наведет порядок у себя, останется уязвимой перед трансграничными рисками. Поэтому параллельно потребуется создать международную организацию.

Она не будет похожа ни на один из существующих институтов, хотя сможет опереться на некоторые действующие модели. В мире есть режим инспекций ядерных вооружений, правила международной авиации и соглашения по защите озонового слоя. Новой глобальной организации по ИИ понадобятся элементы всех трех систем, и даже больше.

Резонно спросить, способны ли мировые институты спроектировать и воплотить такую архитектуру. Государство действует медленно — если вообще действует, — а поляризация внутри стран и между ними сегодня как никогда затрудняет любые решения. Не обойтись и без некоторого сотрудничества между США и Китаем.

Но мы не можем позволить себе медлить. Начать следует с разработки процесса, который позволит создать подходящие институты до того, как потрясения заставят правительства перейти в режим кризисного управления. Национальным лидерам необходимо регулярно собирать экономистов, технологов, специалистов по рынку труда, руководителей компаний и самих работников, чтобы определять, где существующие институты не справляются и какие новые полномочия могут потребоваться. Странам придется учиться друг у друга.

Государствам, где работают ведущие разработчики ИИ и сосредоточены ключевые звенья производственных цепочек, уже сейчас следует начать встречи для выработки общих норм,  пока конкурентная борьба не сделала сотрудничество еще сложнее.

Создание системы, о которой я говорю, займет годы. Именно поэтому начинать нужно сейчас.

Оставить некоторые профессии людям

Мой отец умер от болезни Альцгеймера в 2020 году. На поздних стадиях болезни о нем круглые сутки заботились профессиональные сиделки, которые понимали его, даже когда ему было трудно выразить свои мысли. Он не всегда мог сказать, что голоден, но они всегда это знали.

Мы с семьей навсегда сохраним благодарность этой удивительной команде. В их заботе об отце было нечто незаменимо человеческое. Ни один робот не смог бы, да и не должен был, делать эту работу.

Я думаю об этих людях, когда возникает вопрос, какие профессии исчезнут, а какие сохранятся. Полагаю, по мере развития ИИ и роботов мы будем оставлять некоторые занятия исключительно людям. Я называю эту область Human Reserved — «оставлено за человеком». Это один из примеров идей, которые нам предстоит обдумать.

Мне нравится выражение Human Reserved, потому что английское слово reserved напоминает мне о природных заповедниках: местах, где можно было бы проложить дороги и возвести здания, но мы сознательно отказываемся от этого, поскольку утрата оказалась бы слишком велика.

Некоторые занятия могут попасть в категорию «оставленных за человеком» по экономическим причинам. Например, потому, что передача определенной роли машинам лишит работы множество людей, которым трудно сменить профессию. Нельзя сказать 55-летнему человеку, всю жизнь проработавшему на стройке, что теперь ему нужно ухаживать за пожилыми, и ожидать, что новая работа принесет ему удовлетворение.

Иногда такое решение будет продиктовано другими соображениями. Представьте, например, что робот сообщает вам страшную новость о неизлечимой болезни. Технически ничто ему не мешает. Но делать этого он не должен.

Со временем границы области Human Reserved будут меняться. Например, сейчас стоит подумать о том, чтобы сохранить некоторые профессии и внедрять в них ИИ постепенно, на протяжении многих лет или даже десятилетий, обязавшись оставить часть рабочих мест людям. В некоторых областях, например образовании или охране психического здоровья, сложится смешанная модель: руководить процессом будет человек, использующий технологии для расширения собственных возможностей.

Границы будут различаться и от страны к стране. Одни государства могут настаивать, чтобы за пожилыми ухаживали люди. Но Япония, где рабочая сила сокращается, а молодежи не хватает для заботы о стариках, возможно, с готовностью примет роботов-сиделок.

Идея Human Reserved ставит множество вопросов, на которые у меня пока нет ответов. Кто решит, что именно оставить людям? Какими критериями следует руководствоваться? Как помешать компаниям нарушать правила и все равно использовать роботов? Что произойдет с международной торговлей, если одна страна разрешит производить товар роботам, а другая нет? Ответы нужно будет искать публично, в рамках общего плана перехода.

Изменить баланс налогообложения труда и капитала

По мере того как людям придется переходить в другие профессии, им понадобятся переобучение и иная поддержка системы социальной защиты. Но работать они станут меньше, а значит, заплатят меньше подоходных налогов. Государственные доходы сократятся именно тогда, когда спрос на помощь окажется максимальным. И средства придется где-то находить, при уже напряженных бюджетах.

Я считаю, что следует облагать налогом токены ИИ и роботов. Сегодня работодатель, нанимая человека, платит налоги и взносы с его заработка. Но, покупая робота, компания обычно может сразу списать расходы на него. Налоговая система подталкивает заменять людей машинами.

Налог немного замедлит отказ от человеческого труда и даст средства на переобучение и укрепление системы социальной защиты. Его необходимо настроить так, чтобы он не тормозил безусловно полезные применения ИИ — например, удешевление медицины и образования.

Критики этой идеи отмечают, что с экономической точки зрения она не обеспечивает оптимальной эффективности. Но они не учитывают более широкую ценность труда для человека и общества. Благодаря ускорению инноваций мы сможем позволить себе небольшую неэффективность как плату за сохранение занятости.

Я предложил ввести налог на роботов много лет назад, и тогда большинство сочло эту идею странной. Я по-прежнему остаюсь ее убежденным сторонником. Такой налог не решит всех проблем, связанных с угрозой ИИ, но станет частью разумного ответа.

Каким бы способом мы ни собирали деньги на дополнительную помощь, они должны доходить до тех, кто нуждается в ней больше всего: до людей, потерявших работу из-за ИИ и роботов; до тех, чьи рабочие часы или зарплаты сократились; до сообществ, где потери особенно сконцентрированы. Начинать эту работу нужно сейчас, чтобы системы были готовы к моменту, когда потребность станет острой.

Что делаю я

Я буду использовать свое влияние и время, чтобы тема ИИ и социальной справедливости заняла более заметное место в общественной повестке. Я стану поднимать этот вопрос перед законодателями при каждом визите в Вашингтон и во время встреч с лидерами разных стран. Он будет занимать центральное место в моих беседах с разработчиками моделей ИИ. Я буду выступать за создание описанной выше национальной и международной системы. Фонд Гейтса поможет развивать полезные применения ИИ, в том числе в Африке. Основанная мной компания Breakthrough Energy будет использовать ИИ, чтобы помогать компаниям создавать дешевую чистую энергию и решать климатическую проблему. Кроме того, я стану регулярно писать об искусственном интеллекте.

Вот мое обращение к лидерам:

У вас есть возможность действовать сейчас, прежде чем резко вырастет безработица, пострадают местные сообщества и будет утрачено общественное доверие. Вы можете сделать так, чтобы государство решало проблему комплексно, а не дробило ее между множеством бюрократических вотчин. Вы можете добиться, чтобы ИИ приносил пользу каждому. И можете работать с другими правительствами над этим общим национальным и глобальным вызовом.

Наконец, я постараюсь расширить круг людей, которые формируют эту дискуссию. В нее должны войти работники, студенты, которым вскоре предстоит выйти на рынок труда, общественные и религиозные лидеры, конфессиональные организации, родители, педагоги и другие люди, чьи голоса часто остаются неуслышанными, хотя они хорошо понимают, как переход отразится на повседневной жизни.

Как сделать так, чтобы преимущества ИИ получили люди, у которых пока нет богатства, влияния и доступа к возможностям?

Как укрепить систему социальной защиты и помочь работникам и местным сообществам процветать, даже если технологические перемены лишат их привычного места в экономике?

Как должны измениться государственные институты?

И как нам сохранить человечность, проходя через все эти перемены?

Беспрецедентная технология требует беспрецедентного глобального ответа.

Беспрецедентная технология требует беспрецедентного глобального ответа. Если мы все сделаем правильно, человечество получит колоссальную отдачу, а мир станет справедливее.

Я почти никогда не перестаю думать об ИИ, и не потому, что знаю все ответы, а потому, что вопросы, которые он ставит, слишком важны, чтобы оставить их небольшой группе технологических деятелей. Лидеры из мира науки, бизнеса, госуправления и гражданского общества — все должны участвовать в формировании нашего будущего.

Источник

Присоединяйтесь к нашему каналу в Telegram! Не надоедаем лишними уведомлениями