€ 71.20
$ 63.92
«Если решение есть, мы его найдем»: Барак Обама об искусственном интеллекте и будущем мира

«Если решение есть, мы его найдем»: Барак Обама об искусственном интеллекте и будущем мира

Журнал Wired поговорил с президентом Бараком Обамой и главой MIT Media Lab Джоем Ито о том, как компьютеры изменят мир в ближайшие полвека

БудущееЛидерство
Фото: Wired

Вряд ли есть технология, которая в следующие 50 лет изменит мир сильнее, чем искусственный интеллект. Технологии машинного обучения позволяют компьютерам учиться самим, и это обещает массу прорывов в самых разных областях, от диагностики болезней до самодвижущихся автомобилей. Но возникает и масса тревог. Кто контролирует эту технологию? Отберет ли она у нас работу? Опасна ли она? Президента Обаму эти вопросы очень волнуют, и он решил поговорить об этом с предпринимателем и директором MIT Media Lab Джоем Ито и главным редактором Wired Скоттом Дадичем (беседа публикуется с некоторыми сокращениями).

Дадич: Когда вы поняли, что эпоха искусственного интеллекта действительно настала?

Обама: Он проникал в нашу жизнь самыми разными способами, мы просто не замечали. Отчасти дело в том, что наше понимание ИИ окрашено массовой культурой. Есть важное различие между универсальным и специализированным ИИ, и в научной фантастике мы обычно слышим про универсальный: компьютеры становятся все умнее нас и в итоге приходят к выводу, что пользы от нас мало, а потом либо накачивают нас наркотиками, мы становимся жирными и счастливыми, или же наступает Матрица. По моим представлениям, основанным на разговорах с моими научными советниками, до этого еще довольно далеко. Об этом стоит поразмыслить, потому что это заставляет вникнуть в вопросы выбора и свободы воли, которые имеют значение и для специализированного ИИ — использования алгоритмов и компьютеров для решения все более сложные задач. Специализированный ИИ мы видим во всех аспектах нашей жизни, от транспорта и медицины до распределения электричества, и он обещает создать гораздо более продуктивную и эффективную экономику. Если его использовать правильно, мы получим колоссальное процветание и массу возможностей. Но есть и минусы, с которыми нам надо разобраться — в том числе как не потерять рабочие места. ИИ может увеличить неравенство. Он может привести к снижению зарплат.

Ито: Некоторые мои студенты в MIT могут расстроиться, но меня заботит еще и то, что компьютерную науку вокруг ИИ разрабатывают в основном мужчины, и это люди, которым комфортнее общаться с компьютером, чем с другими людьми. Многие из них думают, что если создать этот универсальный ИИ из фантастики, то не нужно будет волноваться обо всех этих неприятностях типа общества и политики. Они считают, что машины с этим разберутся за нас.

Обама: Точно.

Ито: Но они недооценивают все сложности, и мне кажется, что сейчас искусственный интеллект становится чем-то большим, чем компьютерная проблема. Мы в Media Lab используем термин «расширенный интеллект» (использование машинного обучения для расширения границ человеческого разума — Wired). Ведь вопрос в том, как встроить в ИИ социальные ценности.

Обама: Джой как-то привел в пример автономные автомобили. Технология, по сути, уже есть. У нас есть машины, способные быстро принимать решения, которые резко снизят смертность на дорогах, резко повысят эффективность транспортной сети, помогут решить проблему с выбросами углекислого газа. Но Джой спрашивает: какие ценности мы внедрим в эти машины? Классическая проблема: если машина едет, то она может свернуть в сторону, чтобы не задавить пешехода, но тогда она может врезаться в стену и убить пассажира. Это моральное решение, и кто пишет эти правила?

Ито: В исследовании, которое мы провели, большинству людей больше нравится мысль, что водителем и пассажирами можно пожертвовать, чтобы спасти множество других людей. А еще они говорят, что никогда не купят самоуправляющуюся машину.

Обама: Есть и более общий вопрос, который все время встает в связи с ИИ. Нас делают людьми и наши странности — мутации, особенности, недостатки, благодаря которым появляется искусство и новые изобретения. Мы динамичны и мы умеем удивляться. Один из вопросов, о которых стоит задуматься: когда приемлемо, чтобы все работало ровно так, как предполагается, безо всяких сюрпризов?

Дадич: Когда мы говорим о расширенном интеллекте, где прежде всего должны быть сосредоточены исследования?

Ито: MIT, наверное, скажет, что в MIT. [Смеется.] Исторически это обычно были ученые при поддержке государства. Но сейчас самые продвинутые лаборатории — в бизнесе.

Обама: И мы знаем, кто их финансирует. Если поговорить с Ларри Пейджем и другими, их общее отношение: «Нам явно не нужно, чтобы какие-то бюрократы тормозили нас, пока мы пытаемся догнать единорогов». Отчасти проблема в том, что внимание нашего общества к фундаментальным исследованиям заметно упало.

Кто-то сказал мне, что на космическую программу уходило полпроцента ВВП. Кажется, немного, но в сегодняшних деньгах это $80 млрд в год, которые мы должны тратить на ИИ. Сейчас мы тратим, пожалуй, меньше миллиарда. 

Дадич: Илон Маск и Ник Бостром (философ из Оксфордского университета) встревожены тем, что ИИ может превзойти наши способности его понимать. Как нам защитить не только себя, но и саму судьбу человечества?

Обама: Если наши компьютеры умеют играть в го — а это довольно сложная игра со множеством вариаций, — то разработать алгоритм, который позволяет максимизировать прибыль на бирже, уже вполне реально. И тот, кто сделает это первым, быстро обрушит фондовый рынок — или как минимум поставит вопрос об устойчивости этого рынка. Потом, может появиться алгоритм, который установит коды запуска ядерных ракет и поймет, как их запустить. Моя установка для всей команды, которая занимается национальной безопасностью — не надо пока волноваться о том, что машины захватят мир. Беспокойтесь лучше о том, что негосударственные или враждебные силы проникнут в наши системы. В этом смысле это не так уж отличается от работы с кибербезопасностью, только мы должны быть еще сильнее.

Ито: Я согласен. Есть люди, которые считают, что вполне вероятно появление универсального ИИ уже в следующие десять лет. Но как я это вижу, для этого понадобится пара десятков прорывов другого рода. И появление этих прорывов можно отследить.

Обама: И тогда надо, чтобы кто-то постоянно дежурил у розетки. [Смеется.]





Обычно, когда мы рассуждаем о безопасности и защите, мы мыслим в категориях брони, стен. Но я все больше думаю о медицине, вирусах и антителах. Нам нужно по-другому думать о системе безопасности и инвестировать в те вещи, которые кажутся не модными, но на самом деле не менее важны. Меня очень волнуют эпидемии. Никакая стена не поможет предотвратить следующую волну смертоносного гриппа, которую может к нам занести откуда-нибудь. Поэтому нам нужны системы общественного здравоохранения во всех частях света, нужны триггеры, которые включатся и покажут нам, что что-то начинается, и нужны системы, которые позволят нам быстрее и умнее производить вакцины. Так вот, если взять модель здравоохранения и применить ее к проблемам кибербезопасности, это может оказаться очень полезным.

Ито: Введение «хороших» бактерий для борьбы с «плохими» бактериями — вполне себе стратегия.

Дадич: Есть ли тогда угроза новой гонки вооружений?

Обама: Международные нормы, протоколы, механизмы верификации в области кибербезопасности и искусственного интеллекта в самом зачатке. И граница между наступательными и оборонительными средствами весьма размыта. Но этот вопрос нужно поднять на международном уровне.

Ито: Я думаю, сейчас золотое время — люди готовы разговаривать друг с другом. 

Обама: О чем мы мало говорим — это экономические последствия. Люди сейчас думают не о сингулярности. Они думают: «Заменит меня машина или нет?» Я скорее оптимистичен: исторически мы впитывали новые технологии, и появлялись новые рабочие места, а наше качество жизни росло. Сейчас, возможно, немного другая эпоха, просто ввиду всепроникающей способности ИИ и других технологий. Высококвалифицированные ребята в этих системах очень хорошо себя чувствуют: они могут задействовать свои таланты, они могут с помощью машин расширять свои возможности, продажи, продукты.

Низкооплачиваемые, низкоквалифицированные работники становятся все более лишними. И поэтому нам нужен разговор на уровне общества, как мы будем с этим справляться. Как обучать людей, как сделать, чтобы в экономике им нашлось место, если мы производим все больше, но все больше при этом получает небольшая группа людей на самом верху? Как сделать, чтобы у людей был гарантированный заработок? И как тогда поддерживать искусство и культуру, заботиться о ветеранах? Социальный контракт должен учитывать эти новые технологии, их должны учитывать наши экономические модели.

Ито: Вообще-то не так очевидно, какие рабочие места будут утрачены. Если у нас будет компьютер, который очень хорошо ставит диагнозы и все такое, то вероятнее, что работу потеряет врач, а не медсестра или фармацевт — они получают меньше. И могут исчезнуть некоторые весьма высококвалифицированные профессии — юристы, аудиторы. А вот многие сервисные профессии, искусство и другие занятия, для которых компьютеры не очень подходят, останутся. Не знаю, что вы думаете об идее универсального базового дохода (гарантированных выплат всем гражданам), но можно посмотреть на другие модели — наука, искусство — где цели людей напрямую не привязаны к деньгам. Есть сложившееся представление — если ты такой умный, почему ты не богатый? Но я знаю много умных людей в науке, которые не богаты.

Обама: Именно об этом я и говорю — нужно пересмотреть социальный контракт. Универсальный базовый доход — это мы точно будем обсуждать в ближайшие десять-двадцать лет. И вот что еще ясно: чем глубже ИИ проникает в общество, чем богаче становится общество, тем более размывается связь между производством и распределением, между тем, сколько вы работаете и сколько вы зарабатываете — компьютеры делают все больше работы. Поэтому нам придется принимать довольно серьезные решения. Мы недоплачиваем учителям, хотя это очень трудная работа и компьютеру очень трудно делать ее хорошо. Поэтому нам нужно переосмыслить, что мы ценим, за что мы как общество готовы платить — за труд учителей, медсестер, воспитателей, матерей и отцов, которые остаются дома, художников, вообще все, что невероятно ценно для нас, но что не так уж сильно оплачивается. Нам надо начинать этот разговор.

Дадич: Какая технология поможет вам решить главные проблемы в государственном управлении?

Обама: Нам нужно сделать массу работы, чтобы правительство было клиентоориентированным, чтобы налоговую декларацию было подать не сложнее, чем заказать пиццу или купить авиабилет. Нужна колоссальная работа, чтобы перетащить правительство в XXI век. Технологический разрыв огромен. Когда я стал президентом, я думал, что ситуационный центр — это что-то суперкрутое, как у Тома Круза в Minority Report. Все совсем не так. [Смеется.] Особенно когда надо охотиться на террористов на другом конце света.

А вообще должен сказать, что я большой фанат космоса, и мы сильно недофинансируем разработки космических путешествий нового поколения. Приличную работу делает частный сектор, он фактически заменил государственное финансирование разных сумасшедших идей. 

Дадич: Я так понимаю, вы фанат Star Trek. Как это повлияло на ваше видение будущего?

Обама: Я в детстве ужасно увлекался Star Trek. И главное — это ведь был сериал не про технологии. А про ценности и отношения. И поэтому было не важно, что спецэффекты такие смешные и дешевые. Там была концепция единого человечества — и уверенность в нашей способности решить проблемы. Недавно был фильм в том же духе — «Марсианин». Не то чтобы там был сильно умный сюжет, но мы увидели, как группа разных людей пытается решить проблему. И как они проявляют креативность, упорство, трудолюбие и уверенность, что если решение есть, то мы его найдем. Это я больше всего и ценю в науке. Попробуем вот так — если не получится, то выясним, почему не вышло, и попробуем что-то еще. И наши ошибки научат нас в конце концов, как взломать этот хитрый код. 

Ито: Мне тоже нравится оптимизм Star Trek. Но еще важно, что это весьма разнообразное сообщество, команда — очень разные люди, а злодеи на самом деле и не злодеи — они просто запутались.

Обама: Мы все сложные люди, правда? И это тоже важно: уметь преодолевать барьеры и различия. Верить в рациональность, умеренную некоторой скромностью. У нас потрясающие умы, которые мы должны задействовать, и мы по-прежнему лишь на самой поверхности, так что не надо задаваться. Надо напоминать себе, что мы еще очень многого не знаем.

Оригинал

Интересная статья? Подпишитесь на нашу рассылку, чтобы получать на почту еженедельный newsletter с анонсами лучших материалов «Идеономики» и других СМИ и блогов.

Свежие материалы