«Безопасность мира завязана на вопросе, сохранит ли Альтман плодотворное противоречие»

Одна из классных вещей, что есть в OpenAI, — это то, что компания возникла как протест. Она появилась как некоммерческая исследовательская лаборатория, поскольку ее основатели не считали, что искусственный интеллект должен разрабатываться коммерческими фирмами, которые руководствуются в первую очередь мотивами прибыли.

По мере развития компания OpenAI превратилась в некий плодотворный парадокс: коммерческая компания, контролируемая некоммерческим советом директоров, с корпоративной культурой, находящейся где-то посередине. Многие ее сотрудники руководствуются и стремлением ученого к открытиям, и желанием бизнесмена выпустить продукт на рынок поскорее, и благими намерениями сделать первое и второе безопасно.

Череда недавних громких событий — увольнение Сэма Альтмана и его повторное назначение — вращаются вокруг одного главного вопроса: является ли этот конструктивный парадокс долговечным? Может ли одна организация или один человек сочетать разум ученого, азарт бизнесмена и заботливое сердце социального служения? Или деньги всегда выигрывают?

Важно помнить, что сфера ИИ существенно отличается от других областей технологического мира. Она является (или, по крайней мере, была) более академической. ИИ — это область, которая имеет долгую историю исследований. Даже сегодня многие гиганты в этой области являются в первую очередь исследователями, а не предпринимателями: например, Ян Лекун и Джеффри Хинтон, которые в 2018 году вместе получили премию Тьюринга (главную премию по вычислительной технике) и теперь расходятся во мнениях о том, куда приведет нас ИИ.

Научные исследователи покинули аудитории университетов и устремились в сферу производства лишь в последние несколько лет. Ученые из Alphabet, Microsoft, OpenAI и Meta  (деятельность организации запрещена в России) по-прежнему дискутируют друг с другом, публикуя научные работы, как это делают профессора.

В то же время эта область динамично и дерзко развивается, словно самый крутой стартап. Когда я общался с исследователями в области ИИ в течение последнего года, мне часто казалось, что я нахожусь на дорожке, движущейся со скоростью 5 километров в час, а мимо меня на головокружительной скорости проносятся лайнеры. Исследователи часто говорили, что этот этап истории искусственного интеллекта так захватывающе интересен, именно потому, что никто не может предсказать, что будет дальше. «Суть работы исследователя ИИ заключается в том, что вы должны понимать, что происходит. Мы постоянно удивляемся!», — поделился со мной кандидат наук из Стэнфорда Риши Боммасани.

Люди в этой сфере, похоже, испытывают кардинально разные состояния ума одновременно. Мне невероятно трудно писать об ИИ, потому что буквально неизвестно, ведет ли эта технология нас в рай или в ад, и поэтому мое отношение к ней меняется в зависимости от настроения.

Ученый из Массачусетского технологического института Лекс Фридман, ставший легендарным авторитетом мира технологий, выразил весь спектр эмоций, с которыми я сталкивался: «Ты сидишь, одновременно гордый, как родитель, но и слегка встревоженный тем, что эта штука будет намного умнее тебя. Вроде и гордость, и грусть, почти меланхолия, но в итоге радость».

В мае этого года я посетил штаб-квартиру OpenAI. Культура компании весьма впечатляет. Многие из тех, с кем я беседовал, пришли в OpenAI, когда она была некоммерческой исследовательской лабораторией, еще до шумихи вокруг ChatGPT, когда большинство из нас даже не слышали о компании. «Мои родители не знали, чем занимается OpenAI, — рассказала мне Джоанн Джанг, сотрудник отдела управления производством, — и они спрашивали: «Зачем ты уходишь из Google?». Марк Чен, исследователь, участвовавший в создании нейросети DALL-E 2, пережил похожий опыт: «До того, как ChatGPT стал известен, мама звонила мне каждую неделю и говорила: «Хватит бездельничать там, ты можешь устроиться в Google!». Стоит понимать, что этими людьми движут, в первую очередь, не деньги.

Даже после того, как ChatGPT попал в заголовки газет, работа в OpenAI была спокойна, словно в сердце бури. «Просто здесь намного спокойнее, чем во всем остальном мире», — считает Джанг. «На первых порах это было похоже на лабораторию, поскольку мы нанимали в основном только исследователей, — вспоминает рекрутер Елена Хадзиатанасиаду. — А потом, по мере роста, всем стало ясно, что прогресс может быть достигнут как за счет инженерных, так и за счет исследовательских работ».

«Я не встретила там ни техно-братвы, ни даже людей с бравадой «мы изменим мир», которая, вероятно, была бы присуща мне, если бы я была первопроходцем в этой технологии, — говорит Диана Юн, занимающая должность вице-президента по работе с персоналом. — Пожалуй, подходящее слово для этих людей и их работы — это серьезность».

Обычно, когда я посещаю технологическую компанию как журналист, мне удается встретиться с очень немногими руководителями, а те, с кем я беседую, тщательно следят за словами. А в OpenAI просто вывесили лист регистрации и пригласили людей пообщаться со мной.

Признаюсь, я уже не раз приходил в технологические компании с некоторым защитным снобизмом гуманитария. «Эти люди могут знать код, — говорил я себе, — но они вероятно ничего не смыслят в философии и литературе, по-настоящему важных вещах».

В OpenAI мне пришлось смирить гордыню. Диана Юн в прошлом занималась танцами и играла в пьесах Шекспира. Ник Райдер до того, как стать исследователем в OpenAI, был математиком в Калифорнийском университете в Беркли и занимался конечными дифференциальными конволюциями. Несколько человек упомянули о коллеге, который изучал физику на старших курсах, два года учился в лучшей музыкальной школе Нью-Йорка по классу фортепиано, а затем получил степень в области нейронауки. Другие рассказывали, что их первоначальные научные интересы лежали в области философии разума, философии языка или системы символов. Тина Элунду, сотрудник технического отдела компании, до прихода в OpenAI изучала экономическую теорию и работала в Федеральной резервной системе США.

Все это было впечатляющим, но я говорил себе: «Это ненадолго». Мне казалось, что там крутится слишком много денег. Эти люди могут быть искренними исследователями, но, хотят они того или нет, они все равно участвуют в гонке, чтобы выпустить продукт, получить доход и быть первыми.

Также было видно, что у них нет согласия по вопросу безопасности. С одной стороны, о безопасности думали все. Например, я спросил Марка Чена о его эмоциях в день выхода DALL-E 2 и он ответил: «Во многом это было просто чувство тревоги. Типа, все ли у нас в порядке с безопасностью». С другой стороны, все, с кем я общался, были преданы основной миссии OpenAI: создать технологию искусственного интеллекта общего назначения, способную сравняться или превзойти человеческий интеллект в широком диапазоне задач.

ИИ — это область, в которой гениальные люди рисуют противоречивые, но в то же время убедительные картины того, куда это приведет. Венчурный инвестор Марк Андриссен подчеркивает, что эта технология изменит мир к лучшему. Специалист по когнитивным наукам, ученый Гэри Маркус рисует не менее убедительный сценарий того, как все может пойти не так.

Никто не знает, кто прав, но исследователи продолжают идти вперед. Это напоминает мне слова Алана Тьюринга, написанные в 1950 году: «Мы можем лишь немного заглянуть в будущее, но при этом увидеть очень многое из того, что нужно сделать».

Я надеялся, что OpenAI сможет справиться с возникающими противоречиями, но даже тогда были опасения. Брэд Лайткэп, исполнительный директор компании, сказал мне: «Самое главное — это сохранить культуру и миссию по мере нашего роста. На самом деле, если честно, меня беспокоит вопрос о том, как сохранить ориентиры в масштабах компании».

Эти слова оказались пророческими. Организационную культуру нелегко построить, но легко разрушить. В буквальном смысле слова безопасность мира завязана на вопросе: сохранит ли Альтман плодотворное противоречие или поддастся давлению?

Источник