«Главный продукт OpenAI — не технологии, а истории»

Недавно компания OpenAI объявила о привлечении 6,6 миллиарда долларов в рамках нового финансирования, и теперь ее стоимость оценивается в 157 миллиардов. Это весьма значительный успех для организации, которая тратит 7 миллиардов долларов в год, гораздо больше, чем приносит. Но все становится понятно, когда понимаешь, что основной продукт OpenAI — это не технологии. Это истории.

Вот вам пример: ранее глава компании Сэм Альтман опубликовал в сети манифест под названием «Эра интеллекта». В нем он заявляет, что революция ИИ стоит на пороге безграничного процветания и радикального улучшения жизни людей. «Скоро мы сможем работать с ИИ, который поможет нам достичь гораздо большего, чем мы могли бы совершить без него», — пишет он. Альтман полагает, что технологии исправят климат, помогут человечеству основать космические колонии и заново откроют всю физику. Он предсказывает, что у нас может появиться всемогущий сверхразум «через несколько тысяч дней». Все, что нужно сделать, — это дать технологиям достаточно энергии, достаточно данных и достаточно микросхем.

Возможно, когда-нибудь идеи Альтмана об ИИ найдут свое подтверждение, но пока его подход —мифотворчество Кремниевой долины. В таких сюжетах человечество вечно стоит на пороге технологического прорыва, который изменит общество к лучшему. Сложные технические проблемы в основном улажены, остались лишь детали, которые, несомненно, будут решены в ходе рыночной конкуренции и старомодного предпринимательства. Потратьте миллиарды сейчас, заработайте триллионы потом! Такова была история бума доткомов в 1990-х и нанотехнологий в 2000-х. В 2010-х годах так было с криптовалютой и робототехникой. Технологии никогда не работают так, как нам обещают, но эти истории заставляют регулирующие органы и обычных людей держаться в сторонке, пока предприниматели, инженеры и инвесторы строят империи.

Несмотря на все заявления, продукты Альтмана в настоящее время меньше похожи на взгляд в будущее и больше — на обыденное, унылое настоящее. ChatGPT и DALL-E были передовыми технологиями в 2022 году. Люди впервые попробовали чат-бота и генератор изображений и были поражены. Альтман и ему подобные весь следующий год шепотом рассказывали о потрясающем технологическом джинне, которого только что выпустили из бутылки. Известные деятели ИИ были среди тысяч людей, подписавших в марте 2023 года открытое письмо с призывом сделать шестимесячную паузу в разработке больших языковых моделей (LLM), чтобы у человечества было время разобраться с социальными последствиями надвигающейся революции. Эти шесть месяцев пришли и ушли. С тех пор OpenAI и ее конкуренты выпустили другие модели, и, хотя технари копаются в их предполагаемых достижениях, для большинства людей технология, похоже, остановилась на достигнутом. GPT-4 теперь меньше похож на предвестника всемогущего сверхинтеллекта и больше на… ну, на любого другого чат-бота.

Сама технология кажется гораздо скромнее, когда новизна проходит. Вы можете использовать большую языковую модель для составления электронного письма или рассказа, но не особенно оригинального. Инструменты все еще уверенно выдают ложную информацию, то есть галлюцинируют. Они все так же неожиданно и досадно дают сбои. Тем временем интернет заполняется бесполезным «AI slop», мусором, сгенерированным LLM, который практически ничего не стоит в производстве и приносит создателю копейки дохода от рекламы. Мы находимся в гонке на дно, которую все предвидели. Тем временем поиски соответствия продукта рынку в масштабе, который оправдал бы все завышенные оценки технологических компаний, продолжаются. Даже последний релиз OpenAI o1 сопровождался признанием Альтмана: «При первом использовании он все еще кажется более впечатляющим, чем после того, как вы поработаете с ним больше времени».

По мнению Альтмана, нынешний момент — это лишь точка отсчета, «порог следующего скачка в процветании». Он по-прежнему утверждает, что технология глубокого обучения, на которой основан ChatGPT, сможет эффективно решать любые задачи в любом масштабе, если у нее будет достаточно энергии, вычислительной мощности и данных. Многие ученые-компьютерщики скептически относятся к этому заявлению. Они утверждают, что между нами и искусственным интеллектом общего назначения стоят многочисленные значительные научные прорывы. Но Альтман уверен, что у его компании все под контролем, что научная фантастика скоро станет реальностью. Возможно, ему понадобится 7 триллионов долларов для реализации конечного замысла, не говоря уже о вызывающей сомнения технологии термоядерной энергетики. Это ведь сущие пустяки по сравнению со всеми теми достижениями, которые он обещает.

Вот только есть одна маленькая проблема: Альтман — не физик. Он серийный предприниматель, причем явно талантливый. Он — один из самых почитаемых в Кремниевой долине специалистов по поиску талантов. Если посмотреть на прорывные успехи Альтмана, то все они в основном сводятся к тому, чтобы соединить ранние стартапы с кучей денег инвесторов, а не к каким-то конкретным техническим инновациям.

Примечательно, насколько заявления Альтмана схожи с риторикой его коллег-миллиардеров, технооптимистов. Проект технооптимизма вот уже несколько десятилетий заключается в том, что если мы просто поверим в технический прогресс и освободим изобретателей и инвесторов от назойливых правил, таких как закон об авторском праве и нечестный маркетинг, то рынок сотворит свою магию, и всем станет лучше. Альтман не раз заигрывал с законодателями, настаивая на том, что искусственный интеллект требует ответственного регулирования. Но реакция компании на предлагаемое регулирование выглядит так: «Нет, только не это!». Господи, дай нам четкие правила, но не сейчас.

На достаточно высоком уровне абстракции вся работа Альтмана заключается в том, чтобы удержать внимание на воображаемом будущем ИИ, чтобы мы не зацикливались на неприглядных деталях настоящего. Зачем заострять внимание на том, как ИИ используется для преследования и эксплуатации детей, если можно представить, как он облегчит жизнь? Гораздо приятнее фантазировать о прекрасном будущем, где ИИ решит все проблемы изменения климата, чем думать о феноменальном потреблении энергии и воды из-за развития ИИ уже сегодня.

Помните, что у технологий уже есть послужной список. Мир может и должен оценивать создателей и сами технологии по результатам и последствиям, а не только по предполагаемому потенциалу.

Источник