Известные нам генеративные системы искусственного интеллекта, такие как ChatGPT и Gemini, принято считать предвестниками скорого появления «сверхчеловеческого» разума. Высказывания о триумфе или гибели человечества в эпоху сверхразвитого ИИ — совсем не безобидный маркетинговый ход, а признак мощной, быстро набирающей обороты идеологии. Она пытается заставить нас принять ИИ с безоговорочным энтузиазмом и трепетать перед его величием. Это способствует тому, что в своем представлении о человеческом разуме и умениях машин мы стираем между ними все различия.
Между тем имеющимся системам искусственного интеллекта не хватает даже самых базовых особенностей человеческого разума. Они не разделяют с нами то, что мы называем сознанием и связанной с ним способностью чувствовать такие вещи, как боль, радость, страх, любовь. У ИИ нет ни малейшего ощущения своего места и роли в мире. Искусственный интеллект может отвечать на вопросы, которые мы задаем, рисовать картинки по нашим запросам, создавать видеоролики и так далее. Но что там, внутри этого инструмента, — неясно.
На конференции по машинному обучению в сентябре 2023 года я спросила лауреата премии Тьюринга Иошуа Бенджио, почему мы все еще слышим рассуждения о «сверхчеловеческом» искусственном интеллекте, когда все разработки очень далеки от того, чем является человек (и тем более сверхчеловек). Бенджио всегда считался одним из наиболее трезвых голосов в области исследований ИИ, поэтому меня удивило, что в своей презентации он предупредил аудиторию, что люди рискуют «потерять контроль над сверхчеловеческим ИИ» всего за несколько секунд. Как, спросила я его, система искусственного интеллекта, лишенная человеческой способности к самоанализу, сочувствию, моральному восприятию, может стать сверхчеловеческой только потому, что решает проблемы быстрее? Разве мы не нечто большее? Я старалась заставить Бенджио признать, что существует огромная разница между сверхчеловеческой способностью к скоростным вычислениям и способностью быть человеком.
Прежде чем я успела закончить свой вопрос, Бенджио спросил: «А вы не думаете, что мозг — это машина? Почему машина, работающая на кремнии, не сможет выполнять какие-либо вычисления, которые делает ваш мозг?»
Идея о том, что компьютеры работают по тем же принципам, что и мозг, не нова. Вычислительные теории разума распространяются и обсуждаются с момента зарождения информатики в прошлом столетии. Множество ученых-когнитивистов, философов, нейробиологов опровергали их, но это определенно не псевдонаучный взгляд. Деятельность человеческого мозга на базовом уровне действительно можно описать как выполнение биологических вычислений. Но что удивило меня в ответе Бенджио, так это его отказ признать, что человеческий интеллект — независимо от того, является он вычислительным по своей сути или нет — включает в себя богатый набор функций, которые выходят далеко за рамки того, что делают даже самые передовые инструменты ИИ. Мы гораздо большее, чем эффективные математические оптимизаторы.
Я полагала, что это довольно очевидное, даже тривиальное, наблюдение. Но Бенджио настаивал на том, что человеческий разум можно свести к вычислительным операциям, и что мы сами являемся не более чем машинами по оптимизации задач. Тогда я с удивлением осознала, что наши разногласия отнюдь не о возможностях моделей машинного обучения. Речь идет о способностях человека и о том, какие из этих способностей мы должны лицензировать.
Что же такое сверхчеловеческий ИИ?
На своем сайте Бенджио определяет «сверхчеловеческий ИИ» как систему, которая «превосходит людей в широком спектре задач». Это довольно расплывчато. Что подпадает под определение задачи? И все ли из того, что выполняет человек, является задачей?
На протяжении десятилетий AGI (Artificial general intelligence, сильный искусственный интеллект) определяется как эквивалент человеческого разума, а не только как что-то, что способно решать задачи, с которыми справляется и человек. IBM до сих пор придерживается этого традиционного понятия в своем определении исследовательской программы Strong AI, ориентированной на AGI:
AGI потребует интеллекта, равного человеческому; у него будет самосознание, способное решать проблемы, учиться и планировать будущее. Сильный ИИ направлен на создание интеллектуальных машин, неотличимых от человеческого разума.
Но OpenAI и такие исследователи, как Джеффри Хинтон и Иошуа Бенджио, теперь рассказывают нам другую историю. Сознательная машина, «неотличимая от человеческого разума», больше не является определяющей амбицией AGI. Сегодняшняя цель — машина, которая будет соответствовать нашим требованиям или превосходить их по широкому спектру экономически важных задач.
Определение AGI от OpenAI стирает все, что не считается экономически важной работой. Это переворачивает вопрос о границах человечности. Вы — работа, которую завершили сегодня? Вы становитесь менее человечными, если занимаетесь делами, которые не являются задачами и не имеют четких решений?
Как только концепция человеческого разума сведется к тому, за что платят на рынке, окажется, что все, что необходимо для интеллектуальной машины (даже сверхчеловеческой) — это производить что-то экономически ценное со скоростью и качеством, которые превышают человеческие в этой же области. Все остальное будет лишено значения. По мере того, как идеология, стоящая за этими определениями, просачивается в массовую культуру, она сказывается на нашем самопонимании. Если вы попытаетесь указать на большой лекции или онлайн-форуме по ИИ, что ChatGPT не может понимать вещи, соответствующие тем словам и предложениям, которые он воспроизводит, что это всего лишь математических генератор ожидаемых языковых шаблонов, вам сразу кто-нибудь ответит: «Но ведь и мы тоже». Согласно этой точке зрения, характеристики людей, действующих мудро, игриво, изобретательно, проницательно, медитативно, смело, сострадательно или справедливо, являются не более чем поэтической вольностью. Они не соответствуют ничему реальному, кроме непрозрачного механического расчета ожидаемых слов и ассоциаций. Это всего лишь витиеватые, неточные слова для бесплодной задачи.
Я не была уверена в том, что сам Бенджио в это верит. После своего выступления он вернулся к моему вопросу и, похоже, хотел задать более примирительный тон и найти точки соприкосновения. Но когда он отказался признать, что люди — это нечто большее, чем машины, действующие по математическим сценариям, я поверила в то, что он в этом убежден.
Если победить нас в игре вычислений — это все, что нужно, чтобы стать сверхчеловеком, то кремниевые «сверхлюди» находятся среди нас со времен Второй мировой войны, когда британский «Колосс» расшифровывал секретные радиосообщения быстрее, чем это могли сделать люди. Однако «Колосс» опередил человека только в одной задаче. По словам Бенджио сверхразумный ИИ победит нас в огромном количестве задач. Но тогда мы должны верить в то, что и человек — это всего лишь универсальная машина для выполнения задач. Как только вы примете за аксиому это разрушительное, сокращающее масштабы понятия человечности, определение, создание универсальной машины со «сверхчеловеческой» производительностью задач не покажется такой уж надуманной идеей.
Но чем же вредна эта идея?
Быть сверхчеловеком
Слово «сверхчеловек» означает «человек, но в большей степени». Быть сверхчеловеком — значит обладать теми же способностями, что и люди, и другими способностями, которых нам не хватает. Это не то слово, которое мы используем для обозначения чего-то, что радикально отличается от нас, чего-то, что лишено фундаментальных человеческих качеств. Просто по некоторым показателям что-то работает лучше, чем мы. Мы не говорим о «сверхчеловеческих самолетах» или «сверхчеловеческих гепардах», хотя и самолеты, и гепарды путешествуют быстрее, чем когда-либо бегал какой-либо человек. Но они — это иное. Мы используем и понимаем термин «сверхчеловек» как нечто, очень похожее на нас.
Вымышленный Супермен, пожалуй, самое известное воплощение идеи сверхчеловека. Супермен не рожден на Земле, но он воплощает и превосходит высшие человеческие идеалы физической, интеллектуальной и моральной силы. Он не становится сверхчеловеком только потому, что летает — это может делать и ракета. Он не сверхчеловек потому, что перемещает тяжелые предметы — для этого подойдет вилочный погрузчик. Он также не является сверхчеловеком потому, что превосходно справляется с «огромным набором» подобных задач. Вместо этого он представляет собой желаемое увеличение того, что мы считаем самым настоящим человеком. Он желает, он сострадает, он любит, он скорбит, он надеется, он заботится, он сомневается; все это он переживает еще интенсивнее и глубже, чем мы. Он далек от бездумного производителя эффективности. Его воплощение в роли Супермена является прямым выражением каждого аспекта человечности, который мы ценим больше всего. Больше того, что мы склонны считать универсальным.
Описывая что-то, что лишено желаний и надежд, как сверхчеловеческое, мы тем самым обесцениваем человека и то, к чему он стремится. В попытках обесценить самые гуманные стороны нашего существования нет ничего нового. ИИ — это просто новый способ того, что уже было. На протяжении всей эпохи индустриализации те, кто был заинтересован в максимальной производительности человеческих тел, пытались убедить нас рассматривать себя — и друг друга — как взаимозаменяемые механизмы, которые подлежат утилизации, как только производительность падает ниже ожидаемого. Профсоюзы и движения за права человека боролись с этой идеологией, отстаивая гуманные, нерыночные стандарты оценки работников — такие как достоинство, справедливость, уважение. Теперь, чтобы окончательно убедить нас в том, что люди — это только механические генераторы экономически выгодных результатов, нужны, кажется, другие станки — те, которые могут заменить нас, используя важные категории — язык и зрение. Когда вы можете получить бесконечное множество преимуществ от приложения на своем смартфоне, вы воспринимаете появление «сверхчеловеческого ИИ» как предрешенное решение.
Возвращение человечности
Но битва не проиграна. Как писал философ Альберт Боргманн в книге 1984 года «Технологии и характер современной жизни», именно тогда, когда технология почти вытеснила жизненно важную область человеческого смысла, мы можем чувствовать и оплакивать то, что у нас отобрали. Именно в этот момент мы начинаем посвящать себя этим ценностям. Сегодня примеры Боргманна могут показаться обыденными. Например, он писал о возрождении кулинарного искусства после микроволновой печи и о том, что эффективная кухонная машина не может восполнить творческую и социальную практики. Действительно, так и произошло: практика кулинарии сегодня имеет гораздо большую культурную ценность, чем в конце прошлого века. Точно так же беговая дорожка не уничтожила бег и прогулки на свежем воздухе. Боргманн считал, что сенсорная и социальная бедность механического опыта может оживить наше культурное внимание к тому, что было преуменьшено — к деятельности, которая затрагивает всего человека, которая постоянно напоминает о нашей принадлежности, о месте в физическом мире.
Возможно, идеология «сверхчеловеческого» ИИ, в которой люди выглядят как медленные и неэффективные обрабатыватели шаблонов, могла бы спровоцировать глубокое возрождение гуманистических смыслов и ценностей. Возможно, моральная и эмпирическая бедность ИИ вернет наиболее жизненно важные человеческие аспекты природного интеллекта в центр нашего внимания. Представьте себе любой сектор общества, где сейчас доминируют машины, и подумайте, как бы это выглядело, если бы цель механической оптимизации стала второстепенной по сравнению с обеспечением гуманных возможностей.
Начнем с образования. Во многих странах идеал морального и интеллектуального формирования личности был сведен к оптимизированным процедурам обучения молодых людей генерировать желаемые ответы на тестовые вопросы. Доверие родителей к институтам образования, любовь молодых людей к чтению находятся на историческом минимуме. Представьте себе, какой мир могли бы построить наши дети для будущих поколений, если мы позволим им снова полюбить учиться, если мы научим их открывать и использовать свой человеческий потенциал?
Или возьмем экономику. Как выглядело бы состояние океанов, воздуха, почвы, продуктов питания, если бы мы перестали поощрять бездумный рост продукции, которую производим машинами? Как изменилось бы будущее, если бы мы установили новые экономические стимулы и меры, привязанные к долгосрочным показателям здоровья, устойчивости, социального доверия?
Что, если налоговые льготы для корпораций и инвесторов полностью зависели бы от того, насколько их деятельность позволит повысить эти гуманистические показатели? Как изменились бы наши рабочие места, и как можно было бы повысить энтузиазм молодых людей вкладывать свою энергию в работу, если бы мерилом успеха компании была не просто механическая оптимизация цены ее акций, а долгосрочная оценка ее вклада в качество жизни людей? Что, если вместо замены дизайнеров, художников, писателей, медиков бездушными машинами, мы попросили бы разработчиков ИИ помочь нам с самыми бессмысленными задачами в нашей жизни, чтобы освободить энергию для творчества?
Что, если мы могли бы создать ИИ на благо тех, кто наиболее уязвим к коррупции, эксплуатации и несправедливости? Что, если бы мы использовали наши лучшие инструменты искусственного интеллекта, чтобы быстрее и надежнее выявлять доказательства коррупционных практик, увеличивать их политическую стоимость и вытеснять несправедливость на обочину общественной жизни?
Даже в этом более гуманном будущем мы были бы далеки от утопии. Но это возможное будущее по-прежнему намного прекраснее, чем любое, в котором доминирует идеология сверхчеловеческого ИИ.
Это не означает, что ИИ нет места в гуманном мире. Нам нужен ИИ, чтобы взять на себя небезопасные задачи, такие как очистка окружающей среды и исследование космоса; нам это нужно, чтобы сократить расходы на рутинные административные процессы; нам нужен ИИ для расширения масштабов обслуживания и ремонта инфраструктуры; нам нужен ИИ для компьютерного анализа сложных систем, таких как климат, генетика, сельское хозяйство и цепочки поставок. Нам не грозит опасность исчерпать задачи для машин.
Нам грозит опасность лунатизма в будущее, где все, что мы делаем, может превратиться в жалкую попытку самим стать машинами. В эпоху, когда вознаграждается только механическое мышление, могут ли люди вспомнить и восстановить то, кем они являются? Я думаю, что сейчас самое время.