Себастьян Трун и Крис Андерсон: Новое поколение компьютеров, которые программируют сами себя

Крис Андерсон: Объясните нам, что такое машинное обучение, так как, кажется, это ключевая причина бурного восторга, а также беспокойства вокруг искусственного интеллекта. Как работает машинное обучение?

Себастьян Трун: Искусственному интеллекту и машинному обучению около 60-ти лет, но наилучшее для них время настало совсем недавно. Причина в том, что сегодня мы достигли того уровня вычислений и объема данных, который был необходим, чтобы сделать машины умными. Вот как это работает. Если сегодня вы создаете программу для компьютера или смартфона, то нанимаете инженеров-программистов, которые пишут длиннющий кулинарный рецепт, например: «Если вода слишком горячая, уменьшите температуру. Если слишком холодная, увеличьте температуру». Только эти рецепты длиной не в 10 строк. Они содержат миллионы строк. У современного мобильного телефона — код в 12 млн строк. У браузера — 5 млн строк кода. И каждая ошибка в таком рецепте может вызвать сбой в работе компьютера. Именно поэтому инженер-программист так много зарабатывает. Новизна в том, что сегодня компьютеры сами могут находить свои правила. Поэтому вместо эксперта, пошагово расшифровывающего правило для каждого непредвиденного случая, теперь вы даете компьютеру образцы, и он сам делает выводы.

Хороший пример — это AlphaGo, программа, недавно созданная Google. Обычно, участвуя в игре, вы записывали все правила, но в случае с AlphaGo система изучила более миллиона игр, смогла вывести свои правила и выиграла у действующего чемпиона мира по игре в го. Это замечательно, так как это помогает программисту. Ему не нужно быть очень умным; все сводится к данным. Как я уже сказал, точка перегиба, где это стало реально возможно… очень неловко, моя диссертация была о машинном обучении. Она не заслуживала внимания, не читайте ее, ведь это было 20 лет назад, когда компьютеры были такими же умными, как тараканы. Теперь они достаточно мощные, чтобы имитировать специализированное человеческое мышление. А также компьютеры пользуются тем, что они могут изучить гораздо больше данных, чем люди. Я бы сказал, что AlphaGo изучила более миллиона игр. Никакой человек–специалист не может изучить миллион игр. Google изучил более 100 млрд веб-страниц. Человек не может изучить 100 млрд веб-страниц. В результате компьютер может найти те правила, которые даже люди найти не могут.

КА: То есть вместо того, чтобы думать: «Если он сделает это, я сделаю то», он, скорее, говорит: «Вот это выглядит лучше всего, вот это выглядит наилучшим образом».

СТ: Да, подумайте, как вы растите детей. Вы не тратите первые 18 лет, давая детям инструкции по каждому поводу, вы даете им свободу без такой подробной программы. Они спотыкаются, падают, встают, их ругают или шлепают, у них появляются и положительный опыт, хорошие оценки в школе, и они понимают все это сами. То же самое сейчас с компьютерами, и это неожиданно делает программирование гораздо легче. Сейчас нам больше не нужно думать. Мы просто даем им много данных.

КА: Это стало ключевым фактором для впечатляющего улучшения способностей беспилотных автомобилей. Я думаю, что вы показали мне пример. Можете ли вы объяснить, что здесь происходит?

СТ: Это поездка беспилотного автомобиля, который был у нас на Udacity, его сейчас преобразовали в побочный продукт Voyage. Мы использовали так называемое глубокое обучение, чтобы обучить машину ездить самой, и здесь она едет из Маунтин-Вью, Калифорния, до Сан-Франциско по Эль Камино Реал в дождливый день, с велосипедистами, пешеходами и 133-мя светофорами. Новизна в том — давным-давно я основал в Google группу по беспилотным автомобилям. Тогда я нанял лучших в мире инженеров-программистов, чтобы найти наилучшие правила. Эту обучили недавно. Мы проехали эту дорогу 20 раз, мы внесли все эти данные в мозг компьютера, и после нескольких часов обработки он приобрел характеристики, часто превосходящие способности человека. Программировать его стало очень легко. Он автономный на 100% и преодолевает 53 километра за полтора часа.

КА: Итак, объясните мне: в большой, левой части этой программы вы видите, в общем, то, что компьютер видит как машины и грузовики, и эти точки, обгоняющие его, и так далее.

СТ: Справа вы видите изображение с камеры, выступающее основным источником данных для поиска полос движения, других машин, светофоров. У машины есть радар для оценки расстояния. Его очень часто используют в системах такого типа. Слева вы видите лазерную диаграмму с деревьями и другими препятствиями, изображенными лазером. Но почти вся интересная работа нынче связана с изображением из камеры. Мы в самом деле переходим от высокоточных датчиков — радаров и лазеров — к дешевым сенсорам массового спроса. Камера стоит менее восьми долларов.

КА: А эта зеленая точка в левой части, что это такое? Это что-то важное?

СТ: Это точка взгляда вперед вашего адаптивного круиз–контроля. Она помогает ему понять, как отрегулировать скорость, основываясь на расстоянии до автомобилей впереди.

КА: Я думаю, у вас заодно есть пример того, как в действительности происходит обучение. Можем ли мы это увидеть? Расскажите об этом.

СТ: Это пример сложного задания, которое мы дали студентам Udacity, получающим наностепень по управлению беспилотным автомобилем. Мы дали им этот набор данных и сказали: «Можете ли вы, ребята, понять, как вести эту машину?» И если вы посмотрите на снимки — даже для людей практически невозможно правильно ей управлять. Мы организовали конкурс и сказали: «Это конкурс по глубокому обучению, соревнование в ИИ» — и дали студентам 48 часов. Если вы — софтверная компания вроде Google или Facebook, нечто подобное будет стоить вам как минимум полгода работы. Поэтому мы решили: 48 часов — это прекрасно. И в течение 48-ми часов мы получили около 100 решений от студентов. У четверых лучших это получилось идеально. После глубокого обучения она в этих условиях едет лучше меня.

И опять, это тот же метод. Это волшебная вещь. Когда вы даете компьютеру достаточно данных и достаточно времени, чтобы их понять, он находит свои правила.

КА: И это привело к развитию мощных приложений во всех областях. На днях вы мне говорили о раке. Можно показать это видео?

СТ: Да, конечно, пожалуйста.

КА: Отлично.

СТ: Это как бы взгляд на то, что происходит в абсолютно другой области. Это дополнение, или соперник — в зависимости от точки зрения, — для людей, которым платят $400 000 в год: дерматологов, высококвалифицированных специалистов. Более десятилетия практики уходит на то, чтобы стать хорошим дерматологом. А здесь вы видите результат работы машинного обучения. Это называется нейронной сетью. «Нейронные сети» — это технический термин для алгоритмов машинного обучения. Они существовали с 1980-х годов. Вот эта, изобретtнная в 1988 году научным сотрудником Facebook Яном ЛеКуном, преобразует данные во внутренних слоях структуры, напоминающей человеческий мозг. Это не вполне то же самое, но имитирует тот же процесс. Данные проходят слой за слоем. Первый слой берет входящий визуальный сигнал и выделяет края, штрихи и точки. На следующем слое появляются более сложные очертания и формы, такие как маленькие полумесяцы. И, в конечном счете, она в состоянии создавать действительно сложные структуры. Эндрю Ын смог показать, что она в состоянии находить морды кошек и собак среди множества изображений.

Моя группа студентов из Стэнфорда показала, что если вы тренируете ее на 129 000 снимков состояний кожи, включая меланомы и карциномы, вы можете достичь такого же хорошего результата, как лучшие специалисты-дерматологи. И чтобы убедить себя, что это так, мы создали независимую базу данных, которую мы дали нашей нейросети и 25-ти сертифицированным врачам-дерматологам уровня Стэнфорда и сравнили их результаты. И в большинстве случаев они были на уровне или выше показателей точности классификации специалистов–дерматологов.

КА: Вы мне рассказали об одном случае. Я имею в виду вот это фото. Что здесь случилось?

СТ: Это было в прошлый четверг. Это очень волнующая история. То, о чем я уже рассказал, мы опубликовали в журнале «Nature» в этом году. Идея была: мы покажем фотографии дерматологам и нашей компьютерной программе и проверим, часто ли они правы. Но все эти фотографии — из прошлого. Была сделана биопсия, чтобы удостовериться в их правильной классификации. Для этой — не была. Эта была сделана одним из наших коллег из Стэнфорда. Рассказывают, что один из наших коллег, известный в мире дерматолог, вероятно, один из тройки лучших, посмотрел на эту родинку и сказал: «Это не рак кожи». И потом, немного подумав, он сказал: «Давайте я проверю в этом приложении». Итак, он взял свой iPhone и запустил нашу программу, нашего, так сказать, «карманного дерматолога», и iPhone ответил: «Рак». Он ответил: «Меланома». Специалист смутился. Он решил: «Может быть, я доверяю устройству немного больше, чем себе», и послал образец в лабораторию для прохождения биопсии. И выяснилось, что это агрессивная меланома. Возможно, это был первый реальный случай обнаружения болезни в практике использования глубокого обучения. Реальный человек, чья меланома была бы не классифицирована, если бы не глубокое обучение.

КА: По-моему, это невероятно. Кажется, что будет резкий спрос на подобные приложения, возможно, вы многих заставите занервничать. Думаете ли вы создать приложение, которое позволяло бы делать самопроверку?

СТ: Мой почтовый ящик полон писем о приложениях, касающихся рака, с душераздирающими рассказами людей. Я имею в виду, некоторым людям удалили 10, 15, 20 меланом, и они боятся, что, возможно, еще одну пропустили, как эту. Он полон писем о, ну, не знаю, летающих автомобилях и приглашениями на доклады. Мое мнение — нам нужно больше тестов. Я хочу быть очень осторожным. Очень легко рассказать о ярком результате и поразить аудиторию TED. Гораздо труднее создать что-то этичное. Если бы люди воспользовались программой и выбрали бы не прибегать к разъяснениям врача, потому что мы ответили неверно, я бы очень сожалел о об этом. Сейчас мы проводим клинические испытания, и если они начнутся и подтвердят наши данные, возможно, мы когда-то сможем вооружиться этой технологией, взять ее из Стэнфордской клиники и предоставить ее всему миру, в места, куда не ступает нога докторов из Стэнфорда.

КА: Правильно ли я вас понял, мне показалось, что вы говорили, поскольку вы работаете с этой армией студентов Udacity, в каком-то смысле, вы используете иную форму машинного обучения, чем та, которую используют компании. А именно, вы сочетаете машинное обучение c мудростью толпы. Не говорите ли вы, что иногда вы считаете, что этот подход может превзойти возможности компании, даже огромной?

СТ: Я верю в то, что есть примеры, которые меня поражают, и я все еще пытаюсь понять их. Крис имеет в виду наши соревнования. Мы ограничиваем их 48–ю часами, и мы смогли построить беспилотный автомобиль, который может ехать от Маунтин–Вью до Сан–Франциско по улицам городов. Он не вполне на уровне Google — после семи лет работы Google, — но уже довольно близок к нему. Нам потребовались только два инженера и три месяца работы. Причина в том, что у нас целая армия студентов, которые участвуют в соревнованиях. Не только мы одни используем краудсорсинг. Uber и Didi используют его для вождения. Airbnb использует его для отелей. Сегодня есть много примеров, когда люди вместе находят ошибки в программах или, представьте себе, находят фолдинг белков краудсорсингом. Но мы смогли построить эту машину за три месяца, и сейчас я переосмысливаю, как мы организуем корпорации.

У нас в штате 9 000 человек, которых никогда не нанимали, которых я никогда не уволю. Они приходят на работу, и я даже не знаю об этом. Потом они присылают мне примерно 9 000 ответов. Я не обязан использовать какой-либо из них. В конце концов я плачу только победителям, здесь я очень прижимист, и это, возможно, не лучшая практика. Но они рассматривают это как часть своей учебы, и это хорошо. Но эти студенты смогли добиться прекрасных результатов в области глубокого обучения. Да, синтез талантливых людей и замечательных машин поразителен.

КА: Гарри Каспаров сказал в первый день конференции [TED2017], что удивительно, как чемпионы по шахматам оказались двумя шахматистами-любителями, игравшими с тремя средненькими, чуть лучше средних, компьютерными программами, которые смогли превзойти гроссмейстера и выдающегося шахматиста, так, как будто это часть процесса. Кажется, что как будто вы говорите о более сложной версии этой же идеи.

СТ: Да, когда вчера утром вы следили за фантастическими экспертами на двух сессиях, касающихся ИИ, захвата власти роботами и реакции человека, там было сказано много замечательного. Но одна из проблем — иногда мы путаем то, что было реально сделано с помощью ИИ, с этой угрозой мирового господства, где ваш ИИ осознает себя, не так ли? Меньше всего я хочу, чтобы у моего ИИ было сознание. Я не хочу прийти на кухню, где холодильник влюблен в посудомоечную машину и говорит мне, что, поскольку я плохо себя вел, все в морозилке растаяло. Я бы не купил такие устройства и не хочу их иметь. Но мне ясно то, что ИИ всегда был дополнением людей. Он был нашим дополнением, чтобы сделать нас сильнее. Я думаю, что Каспаров был абсолютно прав. Именно сочетание ума человека и машины делает нас сильнее. Идея того, что машины делают нас сильнее, так же стара, как и сами машины. Аграрная революция произошла потому, что она создала паровые машины и орудия фермерского труда, которые не могли сами работать и не заменили нас, она сделала нас сильнее. И я верю в то, эта новая волна ИИ сделает нас намного сильнее как человеческую расу.

КА: Мы вернемся к этому немного позже, но для того, чтобы продолжить обсуждать то, что некоторых пугает, например, похоже, что люди пугаются, когда у вас есть компьютер, который может сам переписывать свой код, и поэтому он может создавать множество копий самого себя, пробовать разные версии кода, возможно, даже создавая их случайно, затем проверять их и смотреть, достигнута ли и улучшена ли цель. Допустим, цель — это успешнее пройти тест на умственные способности. Компьютер, который делает это на среднем уровне, может попробовать миллион версий. Возможно, он найдет ту, которая лучше, и потом, знаете ли, повторит. Есть опасения, что у вас будет в некотором роде эффект убегания, когда все хорошо в четверг вечером, вы приходите в лабораторию в пятницу утром, и из-за скорости работы компьютеров и многого другого все пошло кувырком, и вдруг…

СТ: Я бы сказал, это возможно, но очень не скоро. Поэтому позвольте мне перефразировать ваши слова. В случае с AlphaGo мы имели следующее: компьютер вел игру против себя, затем учил новые правила. Машинное обучение — это переписывание правил. Это переписывание кода. Но я думаю, что не было абсолютно никаких опасений, что AlphaGo захватит мир. Он даже не может играть в шахматы.

КА: Нет, нет, нет, сейчас они — очень узкоспециализированные устройства. Но это можно себе представить. Мы только что видели компьютер, который казался почти способным пройти университетский вступительный тест, который способен — хотя и не может читать и понимать, как это делаем мы, — но точно может усвоить весь текст и, вероятно, обобщить его смысл. Нет ли шанса, что при увеличении его способностей может иметь место другой вид эффекта убегания?

СТ: Здесь я провожу черту, честно. И вероятность существует — я не хочу это преуменьшать, — но я думаю, что она отдаленная, и она не заботит меня сегодня, так как я думаю, что большая революция — это другое. Все успешное в области ИИ на сегодняшний день было чрезвычайно специализировано и процветало благодаря единственной идее — огромному объему данных. Причина такой хорошей работы AlphaGo — это огромное число игр в го, и AlphaGo не может управлять автомобилем или самолетом. Беспилотный автомобиль Google или беспилотный автомобиль Udacity процветают на огромных объемах данных, и другого они делать не могут. Они не могут даже управлять мотоциклом. Это очень специфическая, касающаяся одной сферы функция. Это верно и для приложения по раку. Не было почти никакого прогресса по так называемому общему ИИ, где вы идете к ИИ и говорите: «Изобрети-ка для меня СТО или теорию струн». ИИ еще полностью в младенчестве.

Причина, по которой я хочу подчеркнуть это, — я вижу опасения и готов их признать. Но если бы я подумал об одной вещи, я бы задал себе вопрос: «А если мы возьмем что-то повторяющееся и сделаем себя в 100 раз эффективнее?» Так получилось 300 лет назад, когда все работали в сельском хозяйстве, выполняли монотонную работу. Сегодня 75% людей работают в офисах и выполняют монотонную работу. Мы стали обезьянами, работающими с таблицами. И это не только низкооплачиваемый труд. Мы стали дерматологами, которые делают одно и то же, юристами, делающими одно и то же. Думаю, что мы сейчас на пороге того, чтобы взять ИИ, оглядеться вокруг, и эти программы позволят нам в 10–50 раз лучше справляться с монотонной работой. Вот о чем я думаю.

КА: Звучит захватывающе! Процесс достижения этого кажется немного пугающим для некоторых, потому что однажды компьютер сможет делать эти рутинные задачи намного лучше, чем дерматолог или, особенно, водитель, — об этом сейчас так много говорят. Мы резко лишимся миллионов рабочих мест, и, знаете ли, в стране начнется революция прежде, чем мы дойдем до болеe привлекательных аспектов.

СТ: Да, это проблема, это большая проблема, и на это было указано вчера утром несколькими выступавшими гостями. Сейчас, прежде чем выйти на сцену, я признался, что я оптимист, и позвольте мне высказаться оптимистически. А именно: представьте себя живущим 300 лет назад. Европа только пережила 140 лет нескончаемых войн, никто не умеет ни читать, ни писать, нет таких рабочих мест, за которые вы держитесь сейчас, таких как инвестиционный банкир, или программист, или телеведущий. Мы все работаем в полях и на фермах. И приходит маленький Себастьян с маленькой паровой машиной в кармане и говорит: «Посмотрите на это. Это сделает вас в 100 раз сильнее, и вы сможете сделать что-нибудь еще». Тогда, в те времена, не было такой сцены, но Крис и я приходим в хлев к коровам, и он говорит: «Меня это беспокоит, потому что я каждый день дою свою корову, и что, если машина меня заменит?»

Я упомянул это, так как мы охотно признаем прошлые достижения и выгоды от них, например, iPhone, самолеты, электричество, медицинское обеспечение. Мы все любим жить до 80-ти лет, что было невозможно 300 лет назад. Но мы как бы не применяем те же правила к будущему. Ведь если я посмотрю на свою работу генерального директора, я скажу, что 90% моей работы — повторяющаяся. Я ее не люблю, я трачу около четырех часов в день на скучные, однотипные письма. И я жажду иметь что-то, что помогло бы мне от этого избавиться. Почему? Потому что я верю, что все мы — безумно творческие люди, в особенности, я думаю, члены сообщества TED. Даже «синие воротнички». Я думаю, если вы пойдете к вашей горничной в отеле и выпьете с ним или с ней, то час спустя у вас возникнет творческая идея. ИИ даст нам возможность превратить это творчество в действие. Например, что, если бы вы смогли построить Google за один день? Или, сидя за кружкой пива, вы смогли бы изобрести очередной Snapchat, или что-нибудь подобное, и завтра утром это заработало бы?

И это не научная фантастика. Вот что произойдет: мы уже оставили след в истории. Мы высвободили этот замечательный творческий потенциал путем ухода из-под ига фермерства и потом, конечно, от работы на фабриках. Мы изобрели так много вещей. По моему мнению, все идет к лучшему. Но также будут и большие побочные эффекты. Один из них — в том, что такие вещи, как питание, медицина, образование, жилье и транспорт — все они будут намного более доступными для всех нас, а не только для богатых.

КА: Хмм. Хотя Мартин Форд утверждал, что на этот раз происходит что-то другое, потому что интеллекту, которым мы пользовались раньше, чтобы найти новые пути бытия, будет соответствовать искусственный интеллект компьютеров, овладевающих теми же вещами, вы сейчас говорите, что это не вполне так, поскольку у людей есть творческий потенциал. Вы думаете, что он фундаментально отличается от творчества, которое по силам компьютерам?

СТ: Как человек ИИ, я твердо уверен в том, что я никогда не видел никакого реального прогресса в творчестве и нестандартном мышлении. То, что то я вижу сейчас — и важно, чтобы люди это поняли, потому что фраза «искусственный интеллект» столь угрожающая, и когда Стивен Спилберг подбрасывает нам фильм, где вдруг компьютер становится нашим господином, — но это, фактически, технология. Это технология, которая помогает нам делать повторяющиеся вещи. И прогресс был только в повторяющихся действиях. Был прогресс в поиске юридических документов. В составлении набросков договоров. В рентгеновской съемке вашей грудной клетки. Эти вещи очень специализированы. Я не вижу в этом большой угрозы для человечества. На деле мы как люди — давайте признаем это — мы стали сверхлюдьми. Мы сделали себя сверхлюдьми. Мы можем переплыть Атлантику за 11 часов. Мы можем взять устройство из нашего кармана и докричаться до самой Австралии, и в реальном времени мы услышим в ответ чей-то крик. Физически это невозможно. Мы нарушаем законы физики. В конце концов мы сможем запомнить все сказанное и виденное нами. Вы запомните каждого человека, и это хорошо при моей ранней стадии болезни Альцгеймера. Извините, о чем я говорил? Я забыл.

КА: (Смеется)

СТ: У нас, возможно, будет IQ 1 000 и более баллов. Не будет больше занятий по правописанию для наших детей, потому что больше не будет с этим проблем. Больше не будет проблем с математикой. Думаю, случится то, что мы сможем быть сверхтворческими людьми. И мы таковы. Мы — творческие люди. Это наше секретное оружие.

КА: Итак, исчезающие рабочие места, в какой-то степени, даже если это будет болезненно, люди способны на большее, чем такой труд. Это мечта. Мечта о том, что люди могут подняться на новый уровень возможностей и открытий. Это мечта.

СТ: И подумайте об этом: если вы взглянете на историю человечества длиной что-то вроде 60–100 тысяч лет, — почти всё, что вы лелеете в отношении изобретений, технологии, созданных нами вещей, было изобретено за последние 150 лет. Если вы возьмете книгу или колесо, они чуть постарше. Или топор. Но ваш телефон, кроссовки, эти стулья, современное производство, пенициллин — то, что мы ценим. Это означает для меня, что в следующие 150 лет мы найдем больше вещей. На деле скорость изобретений выросла, а не уменьшилась, по моему мнению. Я верю, что изобретен только 1% интересных вещей, так? Мы не излечили рак. У нас еще нет летающих автомобилей — пока. Я надеюсь, я изменю это. Это было примером, над которым люди смеялись. Забавно, не правда ли? Втайне работать над летающими машинами. Мы пока еще не живем в два раза дольше, не так ли? В нашем мозгу пока нет этого волшебного импланта, который дает искомую информацию. И вы можете ужасаться этому, но я вам обещаю, получив его, вы сразу его полюбите. Я надеюсь на это. Я знаю, это немного страшно.

Мы еще не изобрели так много вещей — думаю, мы их изобретем. Нет экранов от гравитации. Мы не можем перенестись от одного места к другому. Это звучит смешно, но около двухсот лет назад ученые верили в то, что полет будет невозможен, даже 120 лет назад, и если вы будете двигаться быстрее, чем можете бежать, вы тотчас умрете. И кто сказал, что мы правы сегодня, что нельзя телепортировать человека отсюда на Марс?

КА: Большое спасибо, Себастьян, за ваше невероятно вдохновляющее видение и ваш талант.

Перевод: Елена Малых
Редактор: Павел Юдаев

Источник