«Если решение есть, мы его найдем»: Барак Обама об искусственном интеллекте и будущем мира

Вряд ли есть технология, которая в следующие 50 лет изменит мир сильнее, чем искусственный интеллект. Технологии машинного обучения позволяют компьютерам учиться самим, и это обещает массу прорывов в самых разных областях, от диагностики болезней до самодвижущихся автомобилей. Но возникает и масса тревог. Кто контролирует эту технологию? Отберет ли она у нас работу? Опасна ли она? Президента Обаму эти вопросы очень волнуют, и он решил поговорить об этом с предпринимателем и директором MIT Media Lab Джоем Ито и главным редактором Wired Скоттом Дадичем (беседа публикуется с некоторыми сокращениями).

Дадич: Когда вы поняли, что эпоха искусственного интеллекта действительно настала?

Обама: Он проникал в нашу жизнь самыми разными способами, мы просто не замечали. Отчасти дело в том, что наше понимание ИИ окрашено массовой культурой. Есть важное различие между универсальным и специализированным ИИ, и в научной фантастике мы обычно слышим про универсальный: компьютеры становятся все умнее нас и в итоге приходят к выводу, что пользы от нас мало, а потом либо накачивают нас наркотиками, мы становимся жирными и счастливыми, или же наступает Матрица. По моим представлениям, основанным на разговорах с моими научными советниками, до этого еще довольно далеко. Об этом стоит поразмыслить, потому что это заставляет вникнуть в вопросы выбора и свободы воли, которые имеют значение и для специализированного ИИ — использования алгоритмов и компьютеров для решения все более сложные задач. Специализированный ИИ мы видим во всех аспектах нашей жизни, от транспорта и медицины до распределения электричества, и он обещает создать гораздо более продуктивную и эффективную экономику. Если его использовать правильно, мы получим колоссальное процветание и массу возможностей. Но есть и минусы, с которыми нам надо разобраться — в том числе как не потерять рабочие места. ИИ может увеличить неравенство. Он может привести к снижению зарплат.

Ито: Некоторые мои студенты в MIT могут расстроиться, но меня заботит еще и то, что компьютерную науку вокруг ИИ разрабатывают в основном мужчины, и это люди, которым комфортнее общаться с компьютером, чем с другими людьми. Многие из них думают, что если создать этот универсальный ИИ из фантастики, то не нужно будет волноваться обо всех этих неприятностях типа общества и политики. Они считают, что машины с этим разберутся за нас.

Обама: Точно.

Ито: Но они недооценивают все сложности, и мне кажется, что сейчас искусственный интеллект становится чем-то большим, чем компьютерная проблема. Мы в Media Lab используем термин «расширенный интеллект» (использование машинного обучения для расширения границ человеческого разума — Wired). Ведь вопрос в том, как встроить в ИИ социальные ценности.

Обама: Джой как-то привел в пример автономные автомобили. Технология, по сути, уже есть. У нас есть машины, способные быстро принимать решения, которые резко снизят смертность на дорогах, резко повысят эффективность транспортной сети, помогут решить проблему с выбросами углекислого газа. Но Джой спрашивает: какие ценности мы внедрим в эти машины? Классическая проблема: если машина едет, то она может свернуть в сторону, чтобы не задавить пешехода, но тогда она может врезаться в стену и убить пассажира. Это моральное решение, и кто пишет эти правила?

Ито: В исследовании, которое мы провели, большинству людей больше нравится мысль, что водителем и пассажирами можно пожертвовать, чтобы спасти множество других людей. А еще они говорят, что никогда не купят самоуправляющуюся машину.

Обама: Есть и более общий вопрос, который все время встает в связи с ИИ. Нас делают людьми и наши странности — мутации, особенности, недостатки, благодаря которым появляется искусство и новые изобретения. Мы динамичны и мы умеем удивляться. Один из вопросов, о которых стоит задуматься: когда приемлемо, чтобы все работало ровно так, как предполагается, безо всяких сюрпризов?

Дадич: Когда мы говорим о расширенном интеллекте, где прежде всего должны быть сосредоточены исследования?

Ито: MIT, наверное, скажет, что в MIT. [Смеется.] Исторически это обычно были ученые при поддержке государства. Но сейчас самые продвинутые лаборатории — в бизнесе.

Обама: И мы знаем, кто их финансирует. Если поговорить с Ларри Пейджем и другими, их общее отношение: «Нам явно не нужно, чтобы какие-то бюрократы тормозили нас, пока мы пытаемся догнать единорогов». Отчасти проблема в том, что внимание нашего общества к фундаментальным исследованиям заметно упало.

Кто-то сказал мне, что на космическую программу уходило полпроцента ВВП. Кажется, немного, но в сегодняшних деньгах это $80 млрд в год, которые мы должны тратить на ИИ. Сейчас мы тратим, пожалуй, меньше миллиарда. 

Дадич: Илон Маск и Ник Бостром (философ из Оксфордского университета) встревожены тем, что ИИ может превзойти наши способности его понимать. Как нам защитить не только себя, но и саму судьбу человечества?

Обама: Если наши компьютеры умеют играть в го — а это довольно сложная игра со множеством вариаций, — то разработать алгоритм, который позволяет максимизировать прибыль на бирже, уже вполне реально. И тот, кто сделает это первым, быстро обрушит фондовый рынок — или как минимум поставит вопрос об устойчивости этого рынка. Потом, может появиться алгоритм, который установит коды запуска ядерных ракет и поймет, как их запустить. Моя установка для всей команды, которая занимается национальной безопасностью — не надо пока волноваться о том, что машины захватят мир. Беспокойтесь лучше о том, что негосударственные или враждебные силы проникнут в наши системы. В этом смысле это не так уж отличается от работы с кибербезопасностью, только мы должны быть еще сильнее.

Ито: Я согласен. Есть люди, которые считают, что вполне вероятно появление универсального ИИ уже в следующие десять лет. Но как я это вижу, для этого понадобится пара десятков прорывов другого рода. И появление этих прорывов можно отследить.

Обама: И тогда надо, чтобы кто-то постоянно дежурил у розетки. [Смеется.]

Обычно, когда мы рассуждаем о безопасности и защите, мы мыслим в категориях брони, стен. Но я все больше думаю о медицине, вирусах и антителах. Нам нужно по-другому думать о системе безопасности и инвестировать в те вещи, которые кажутся не модными, но на самом деле не менее важны. Меня очень волнуют эпидемии. Никакая стена не поможет предотвратить следующую волну смертоносного гриппа, которую может к нам занести откуда-нибудь. Поэтому нам нужны системы общественного здравоохранения во всех частях света, нужны триггеры, которые включатся и покажут нам, что что-то начинается, и нужны системы, которые позволят нам быстрее и умнее производить вакцины. Так вот, если взять модель здравоохранения и применить ее к проблемам кибербезопасности, это может оказаться очень полезным.

Ито: Введение «хороших» бактерий для борьбы с «плохими» бактериями — вполне себе стратегия.

Дадич: Есть ли тогда угроза новой гонки вооружений?

Обама: Международные нормы, протоколы, механизмы верификации в области кибербезопасности и искусственного интеллекта в самом зачатке. И граница между наступательными и оборонительными средствами весьма размыта. Но этот вопрос нужно поднять на международном уровне.

Ито: Я думаю, сейчас золотое время — люди готовы разговаривать друг с другом. 

Обама: О чем мы мало говорим — это экономические последствия. Люди сейчас думают не о сингулярности. Они думают: «Заменит меня машина или нет?» Я скорее оптимистичен: исторически мы впитывали новые технологии, и появлялись новые рабочие места, а наше качество жизни росло. Сейчас, возможно, немного другая эпоха, просто ввиду всепроникающей способности ИИ и других технологий. Высококвалифицированные ребята в этих системах очень хорошо себя чувствуют: они могут задействовать свои таланты, они могут с помощью машин расширять свои возможности, продажи, продукты.

Низкооплачиваемые, низкоквалифицированные работники становятся все более лишними. И поэтому нам нужен разговор на уровне общества, как мы будем с этим справляться. Как обучать людей, как сделать, чтобы в экономике им нашлось место, если мы производим все больше, но все больше при этом получает небольшая группа людей на самом верху? Как сделать, чтобы у людей был гарантированный заработок? И как тогда поддерживать искусство и культуру, заботиться о ветеранах? Социальный контракт должен учитывать эти новые технологии, их должны учитывать наши экономические модели.

Ито: Вообще-то не так очевидно, какие рабочие места будут утрачены. Если у нас будет компьютер, который очень хорошо ставит диагнозы и все такое, то вероятнее, что работу потеряет врач, а не медсестра или фармацевт — они получают меньше. И могут исчезнуть некоторые весьма высококвалифицированные профессии — юристы, аудиторы. А вот многие сервисные профессии, искусство и другие занятия, для которых компьютеры не очень подходят, останутся. Не знаю, что вы думаете об идее универсального базового дохода (гарантированных выплат всем гражданам), но можно посмотреть на другие модели — наука, искусство — где цели людей напрямую не привязаны к деньгам. Есть сложившееся представление — если ты такой умный, почему ты не богатый? Но я знаю много умных людей в науке, которые не богаты.

Обама: Именно об этом я и говорю — нужно пересмотреть социальный контракт. Универсальный базовый доход — это мы точно будем обсуждать в ближайшие десять-двадцать лет. И вот что еще ясно: чем глубже ИИ проникает в общество, чем богаче становится общество, тем более размывается связь между производством и распределением, между тем, сколько вы работаете и сколько вы зарабатываете — компьютеры делают все больше работы. Поэтому нам придется принимать довольно серьезные решения. Мы недоплачиваем учителям, хотя это очень трудная работа и компьютеру очень трудно делать ее хорошо. Поэтому нам нужно переосмыслить, что мы ценим, за что мы как общество готовы платить — за труд учителей, медсестер, воспитателей, матерей и отцов, которые остаются дома, художников, вообще все, что невероятно ценно для нас, но что не так уж сильно оплачивается. Нам надо начинать этот разговор.

Дадич: Какая технология поможет вам решить главные проблемы в государственном управлении?

Обама: Нам нужно сделать массу работы, чтобы правительство было клиентоориентированным, чтобы налоговую декларацию было подать не сложнее, чем заказать пиццу или купить авиабилет. Нужна колоссальная работа, чтобы перетащить правительство в XXI век. Технологический разрыв огромен. Когда я стал президентом, я думал, что ситуационный центр — это что-то суперкрутое, как у Тома Круза в Minority Report. Все совсем не так. [Смеется.] Особенно когда надо охотиться на террористов на другом конце света.

А вообще должен сказать, что я большой фанат космоса, и мы сильно недофинансируем разработки космических путешествий нового поколения. Приличную работу делает частный сектор, он фактически заменил государственное финансирование разных сумасшедших идей. 

Дадич: Я так понимаю, вы фанат Star Trek. Как это повлияло на ваше видение будущего?

Обама: Я в детстве ужасно увлекался Star Trek. И главное — это ведь был сериал не про технологии. А про ценности и отношения. И поэтому было не важно, что спецэффекты такие смешные и дешевые. Там была концепция единого человечества — и уверенность в нашей способности решить проблемы. Недавно был фильм в том же духе — «Марсианин». Не то чтобы там был сильно умный сюжет, но мы увидели, как группа разных людей пытается решить проблему. И как они проявляют креативность, упорство, трудолюбие и уверенность, что если решение есть, то мы его найдем. Это я больше всего и ценю в науке. Попробуем вот так — если не получится, то выясним, почему не вышло, и попробуем что-то еще. И наши ошибки научат нас в конце концов, как взломать этот хитрый код. 

Ито: Мне тоже нравится оптимизм Star Trek. Но еще важно, что это весьма разнообразное сообщество, команда — очень разные люди, а злодеи на самом деле и не злодеи — они просто запутались.

Обама: Мы все сложные люди, правда? И это тоже важно: уметь преодолевать барьеры и различия. Верить в рациональность, умеренную некоторой скромностью. У нас потрясающие умы, которые мы должны задействовать, и мы по-прежнему лишь на самой поверхности, так что не надо задаваться. Надо напоминать себе, что мы еще очень многого не знаем.

Оригинал