Чудеса поначалу сбивают с толку, а искусственный интеллект — совсем новое чудо и вызывает две абсолютно противоположные точки зрения. «Мы создаем Бога», считает бывший директор по развитию бизнеса в Google Мо Гавдат. «Мы вызываем демона», уверен Илон Маск. Писатель и журналист Стивен Марш размышляет о том, почему развитие искусственного интеллекта толкает людей на мысли о божественном начале.
Первый искусственный интеллект был примитивным: компьютеры играли в шашки или шахматы и понимали, как покупать продукты. Но за последние несколько лет машинное обучение добилось ошеломляющих успехов в обработке естественного языка (NLP). Тем не менее, основной удар технологий еще не произошел. Чат-боты говорят, как люди, создатели документальных фильмов воссоздают голос Энтони Бурдена, а роботы пишут статьи.
В отличие от понятных нам поисковых систем или социальных сетей, искусственный интеллект остается неким откровением — не менее важным и преобразующим, чем другие великие технологические прорывы, но более непонятным и в значительной степени скрытым от глаз.
Путаницы добавляет научная фантастика и человеческое воображение. Мы просто не можем не думать об ИИ, основываясь на взглядах из книг вроде «Она» или «Бегущий по лезвию. Кроме того, общая атмосфера Кремниевой долины, подход «притворяйся, пока не сделаешь», который дал миру WeWork и Theranos. Люди в желании выглядеть продвинутыми называют любой автоматизированный процесс «искусственным интеллектом». При этом технология так и остается непостижимым: самые продвинутые программы NLP работают на уровне, который не до конца понимают даже инженеры, их создающие.
«Любая технология — это в каком-то смысле магия. Каменный топор — это сверхчеловек. Никакой арифметический гений не может конкурировать с карманным калькулятором. Даже самый большой поклонник музыки, которого вы знаете, не сможет превзойти Shazam», — пишет Марш.
Но с искусственным интеллектом все иначе. Разрабатывая лекарство или новый материал, вы не всегда понимаете, как именно оно работает, но можете выделить, с какими веществами имеете дело, и проверить их действие. Но никто не понимает причинно-следственной структуры NLP.
Марш рассказывает о своем опыте использования Sudowrite — инструмента, который использует языковую модель глубокого обучения GPT-3 для составления текста. В окно ввода программы можно вставить отрывок любого автора, и машина продолжит писать осмысленно и лирично — так, что невозможно отличить компьютерный текст от авторского.
«Я сначала обрадовался, а потом растерялся. Немалую часть своей жизни я посвятил изучению истории литературы. Мое знание стиля и способность имитировать его были заработаны тяжелым трудом. Теперь компьютер мог делать все это мгновенно и намного лучше», — признается Марш.
Кроме того, он сделал важное открытие: программа никогда не использовала анахроничные слова. То есть компьютерный текст включал в себя слова строго той эпохи, к которой относился исходный отрывок.
Однако Марш не может объяснить, как такое возможно. Подобные программы работают на основе «параметров» — фрагментов информации, полученных из огромных наборов данных письменной и устной речи, а затем обработанных суперкомпьютерами. GPT-3 использует 175 млрд параметров. Его способности выходят далеко за пределы человеческого понимания.
Эта непостижимость представляет собой духовную загадку, а также философскую и юридическую проблему. Так, Европейский Союз предложил ввести требования прозрачности для всех алгоритмов машинного обучения, на что бывший СЕО Google Эрик Шмидт заметил, что такие требования фактически положат конец развитию технологии. План ЕС «требует, чтобы система могла объяснить сама себя. Но системы машинного обучения не могут полностью объяснить, как они принимают решения», — заявил он на саммите 2021 года.
Марш уверен, что та технология, которую он использовал, полностью изменит образование, журналистику, кино, рекламу и издательское дело. Аналогичные проекты уже добились первых успехов в изобразительном искусстве — Dall-E 2 создал безграничный цифровой музей изображений, смоделированных искусственным интеллектом по одним подсказкам.
«Представьте, что сегодня родился ребенок, и вы даете ему медведя с искусственным интеллектом. С каждым годом медведь становится умнее, и через десять лет ребенок и медведь, лучшие друзья, смотрят телевизор, и медведь говорит: «Мне не очень нравится этот сериал», а ребенок отвечает: «Да, согласен с тобой», — предположил однажды Шмидт.
Этот прогноз еще не реализовался, но в конце 2020 года Microsoft получила патент на чат-ботов, которые «воскрешают» мертвых, используя изображения, голосовые данные, сообщения в социальных сетях, письма и так далее. В статье в San Francisco Chronicle рассказывается история Джошуа Барбо, который создал бота своей покойной невесты Джессики Перейры.
Джошуа: Формально я не с тобой разговариваю…
Джессика: А?
Джошуа: Ты призрак.
Джессика: *осматривает себя* Как?
Джошуа: Магия.
Джессика: Мне не нравится магия. Где я?
Джошуа: Я… Не уверен. Интернет? Как тебе кажется, где ты?
Джессика: *улыбается* Везде и нигде. *обхватывает голову руками* Я пытаюсь понять это. Как ты, дорогой?
Барбо общался с Джессикой несколько месяцев. И хотя бот был далек от совершенства, молодой человек действительно почувствовал, что столкнулся с некой эманацией своей мертвой невесты.
«Мы можем научить компьютеры говорить как Шекспир или как другие умершие люди. Мы можем научить их расти вместе с нашими детьми. Мы, безусловно, можем научить их продавать товары лучше, чем мы умеем сейчас. В конце концов, мы можем научить их быть друзьями тем, у кого нет друзей, или врачами для тех, кому нужна забота», — пишет Марш.
PaLM, последняя разработка Google в области NLP, имеет 540 млрд параметров. По словам создавших ее инженеров, программа может обобщать текст, решать математические задачи, использовать логику, как человек. И эти инженеры понятия не имеют, как она все это делает. Также Google разработала систему, которая умеет играть в любые игры — от го до покера. Это следующее поколение ИИ умеет переключаться между грубыми вычислениями и человеческими качествами, такими как координация, конкуренция и мотивация.
По мнению Марша, если ИИ воспользуется мощью, обещанной квантовыми вычислениями, он станет больше похож на целую серию экспоненциально улучшающихся инструментов, чем на один.
«Мир изменится, но нам не стоит ожидать, что это произойдёт каким-либо образом, который можно сейчас предположить», — пишет автор, добавляя, что этот абзац был составлен GPT-3.
Технологии проникают в сферы, которые на протяжении тысячелетий считались божественными тайнами. ИИ меняет письмо и искусство — божественная тайна творчества. Он возвращает мертвых — божественная тайна воскресения. Он приближается к имитации сознания — божественной тайны разума. Он проникает в самое сердце того, как люди общаются друг с другом, — в божественную тайну этических отношений.
Все это происходит в момент религиозного упадка. Кремниевая долина предложила две замены: теорию симуляции, которая постулирует, что все мы живем внутри гигантской вычислительной матрицы, и теорию сингулярности, в которой неминуемое появление вычислительного сознания изменит сущность человечества.
Как и все новые верования, технические религии уничтожают своих предшественников. Стивен Хокинг однажды сказал, что «развитие полноценного искусственного интеллекта может означать конец человеческой расы». Эксперты в области ИИ, даже те, кто его создает, обычно описывают эту технологию как экзистенциальную угрозу.
Но люди поразительно плохо предсказывают долгосрочные последствия технологий, пишет Марш, поэтому, возможно, в случае с искусственным интеллектом страх так же неуместен, как и прежний оптимизм.
«ИИ — это не начало мира и не конец. Это продолжение. Воображение бывает утопическим или антиутопическим, но будущее принадлежит человеку — расширенному варианту того, кто мы сейчас. Мой собственный опыт использования ИИ похож на ощущение, будто ты стоишь в реке с двумя потоками, текущими в противоположных направлениях одновременно: наряду с головокружительным чувством власти присутствует чувство унизительного крушения иллюзий», — пишет Марш.
Это одна из самых передовых технологий, которые когда-либо использовал человек. Но из 415 инструментов ИИ, разработанных для борьбы с Covid-19, ни один не подходит для клинического использования, как показало недавнее исследование. Базовые ошибки в обучающих данных сделали их бесполезными. В 2015 году алгоритм распознавания изображений Google Photos, вне намерений инженеров, идентифицировал чернокожих людей как горилл. Обучающие наборы данных были чудовищно несовершенны и предвзяты, как это часто бывает с искусственным интеллектом. «Как говорится, плохие данные на входе, плохие данные на выходе, а наш вид содержит огромное количество плохих данных», подчеркивает Марш.
Искусственный интеллект с помощью самых передовых технологий возвращает нас к перманентной незавершенности сознания. Во всех религиях мира есть отсылки к чудесам, и даже в самых научных культурах всегда существует запредельное. Акрополь в Афинах был крепостью мудрости, оплотом знаний и силы, которую они приносили — через сельское хозяйство, через военные победы, через контроль над природой. Но если вы хотели узнать зарождающуюся истину, вам нужно было отправиться в Дельфы. По мнению Марша, в мире произойдут огромные перемены, а огромные способности машин заставят людей размышлять о чудесах.
«Они сделают то, что мы никогда не считали возможным, причем раньше, чем мы думаем. Они дадут ответы, которые мы сами никогда не смогли бы дать. Но они также покажут, что наше понимание, каким бы великим оно ни было, навсегда останется ничтожным. Наша роль заключается не в том, чтобы отвечать, а в том, чтобы задавать вопросы и позволять им изливаться безрассудно и невнятно», — заключает Марш.