Оправдывает ли цель средства? Эта классическая моральная дилемма неожиданно вновь потребовала своего разрешения, причем в самой неожиданной сфере – криптовалютах. В середине ноября рухнула вторая по величине мировая криптобиржа FTX – колоссальное количество людей лишились своих средств. И всё это можно было бы списать на only business, если бы не одно «но». Основатель FTX – Сэм Бэнкман-Фрид – вырос на идеях эффективного альтруизма (ЭА), стремящегося на доказательной основе принести максимальную пользу максимальному количеству людей.
Более того, именно лидер движения Уильям Макаскилл был тем человеком, который направил юного Бэнкмана-Фрида, желавшего заниматься защитой животных, в сторону карьеры с высокими доходами как более эффективного способа – путем гигантских пожертвований – принести максимальную пользу. В итоге краха FTX эффективный альтруизм оказался, с одной стороны, в крайне сложном моральном положении – один из его ярких последователей «причинил добро» огромному количеству людей. С другой стороны, он оказался перед крайне тяжелым вопросом – то, что произошло, это фундаментальные проблемы ЭА, в том числе с ключевыми идеями, или это «эксцесс исполнителя»? Чтобы действительно понять свою роль в случившемся и сделать правильные выводы, движению, по мнению журналистки Сигал Самуэль, нужно ответить на ряд ключевых вопросов, заданных ею в статье «Эффективному альтруизму, породившему Сэма Бэнкмана-Фрида, предстоит моральная расплата».
1. Не слишком ли движение ЭА опиралось на утилитаризм?
По словам Самуэль, быть эффективным альтруистом – это не обязательно следовать консеквенциализму или утилитаризму, то есть считать действие морально оправданным, если оно приводит к хорошим последствиям и максимизирует общее благо. «Но эффективный альтруизм берет свое начало в работах Питера Сингера, пожалуй, самого влиятельного философа-утилитариста из ныне живущих, и движение находится под сильным влиянием этой философии», – отмечает она.
Сам же Бэнкман-Фрид определял себя как «довольно рафинированного утилитариста в духе Бентама», полагая, что нужно делать «как можно больше добра для наибольшего числа людей», и тем самым отсылая к идее Иеремии Бентама о необходимости «наибольшего счастья для наибольшего числа индивидуумов». При этом стоит отметить, что Бентам рассматривал общее благо не более чем сумму частных интересов, а личное преуспеяние как способ увеличить общее счастье.
И в этой связи возникает две серьезные проблемы. Во-первых, использование этих идей «наивным и вредным способом», одним из которых можно считать неразборчивость в средствах ради благой цели. Как это, возможно, произошло в случае с Бэнкманом-Фридом, когда под будущую благотворительную раздачу собственного громадного состояния принимались рискованные решения относительно сбережений клиентов. При этом, по словам Самуэль, на данный момент нет четкого понимания истинной причины и мотивов произошедшего – цепь ошибок, осознанный или неосознанный риск, мошенничество.
Во-вторых, опасность идеи максимизации, в том числе и максимизации общего блага, к чему стремится эффективный альтруизм. «Если вы максимизируете X, вы по умолчанию напрашиваетесь на неприятности, – написал еще в сентябре этого года Холден Карнофски, один из лидеров ЭА. – Вы рискуете сломать/обесценить/обделить множество вещей, не являющихся Х, но, возможно, имеющих важный смысл, которого вы не знаете. Концептуально максимизировать X означает отложить всё остальное ради X, и это ужасная идея, если только вы не абсолютно уверены, что у вас есть правильный X». А как раз по этому поводу, отмечает Карнофски, нет полной определенности даже в рядах эффективных альтруистов.
Крах FTX заставил задуматься об опасном перекосе в сторону утилитаризма и необходимости четко сформулированных этических ограничений еще одного видного последователя ЭА, миллиардера Дастина Московица: «Вероятно, нам стоило бы вести себя в большей степени как сторонники деонтологии и этики добродетели».
2. Достаточно ли движение ЭA разъяснило, что цель не оправдывает средства?
По мнению Самуэль, проблема заключается в том, насколько в данной ситуации сторонники эффективного альтруизма готовы по-настоящему подвергнуть ревизии собственные идеи или списать всё на «эксцесс исполнителя». И в этом вопросе ключевой является позиция лидера движения Уильяма Макаскилла, утверждающего, что эффективный альтруизм давно подчеркивал «важность порядочности, честности, уважения к моральным ограничениям, основанным на здравом смысле»: «Трезво мыслящий последователь ЭА должен решительно выступать против аргументации “цель оправдывает средства”». При этом Макаскилл ссылается на собственную знаковую работу «Чем мы обязаны будущему» и работы двух других лидеров движения – Холдена Карнофски и оксфордского философа Тоби Орда.
Однако, по словам Самуэль, хотя эти тексты действительно подчеркивают идеи честности и порядочности, но они были опубликованы в последние три года – «слишком поздно для того, чтобы быть полезными для формирования Бэнкмана-Фрида и других молодых эффективных альтруистов, пришедших вместе с ним».
Кроме того, уважение к морали здравого смысла – это не то, что составляет истинное послание эффективных альтруистов. «Культура ЭА гордится тем, что предлагает противодействие морали здравого смысла, – поясняет Самуэль. – Их возражение состоит в том, что по-настоящему моральное действие должно быть направлено на максимизацию “ожидаемой ценности”. Чтобы рассчитать ожидаемую ценность решения, вы умножаете ценность исхода на вероятность его появления. И вы должны выбрать решение с наибольшим полученным значением – “заткнитесь и приумножайте”, как любят говорить некоторые эффективные альтруисты».
Подход «зарабатывай, чтобы отдавать», который был рекомендован Макаскиллом юному Бэнкману-Фриду и который практиковался эффективными альтруистами с самого начала, на базовом уровне весьма подвержен мышлению в духе «цель оправдывает средства». По мнению Самуэль, это легко увидеть в предложении зарабатывать на криптовалюте, что «плохо для планеты», но зато «с этими криптоденьгами ты можешь сделать столько хорошего». И декларируемое Макаскиллом «мы должны уважать моральные ограничения, например, против причинения вреда другим» легко теряется за активной пропагандой расчетов ожидаемой ценности.
3. Не слишком ли движение ЭА полагалось на деньги миллиардера вместо децентрализации источников?
Как утверждает Самуэль, в случае небольших молодых движений, где преобладают личные связи, тот, кто готов вложить в дело миллионы долларов, и его приближенные получают огромное влияние на формирование концепции и распределение средств. В результате, значительно вырастают риски избыточной ортодоксальности и непрозрачности. К примеру, советником Бэнкмана-Фрида, помогавшим в определении проектов для финансирования, выступал Макаскилл, и два крупнейших гранта получили проекты, где так или иначе фигурировали он сам и исполнительный директор фонда FTX Ник Бекстед.
«Некоторые критики ЭА предупреждали, что финансирование движения должно быть более децентрализованным, – поясняет Самуэль. – В противном случае способно закрепиться групповое мышление, ЭА может замкнуться само на себе, когда критики, не разделяющие ортодоксальных взглядов, не будут высказываться, боясь раздражать лидеров, которые затем могут отказать в финансировании исследований или возможном трудоустройстве».
В 2021 году ученый из Оксфорда Карла Кремер предлагала для решения этой проблемы обеспечить «восходящий контроль» над распределением средств, а также прозрачность решений о финансировании тех или иных проектов и концентрацию на важнейших работах. И стоит отметить, что попытки децентрализовать финансирование предпринимались, к примеру, в феврале этого года была запущена программа регрантинга.
По словам Самуэль, отсутствие независимого от лидеров принятия решений и контроля, конечно, можно объяснить давними личными связями, когда самый быстрый и простой способ получить информацию о тех, кому стоит дать грант, – это обратиться к тем, кому доверяешь. Но, утверждает она, здесь снова возникает опасность максимизации: «Если вы хотите “сделать как можно больше хорошего” в качестве грантодателя, есть соблазн выбрать подход, который сэкономит ваше время и усилия, но за счет надежных институциональных гарантий».
4. Не игнорировало ли движение ЭА призывы к демократизации своей структуры власти?
Групповое мышление, вызванное зависимостью от крупного источника финансирования, неизбежно приводит к интеллектуальной замкнутости, негативно сказывающейся на любом сообществе. Но особенно это проблематично, по мнению Самуэль, для такого движения, как эффективный альтруизм, который стремится через идею лонгтермизма (приоритет улучшения долгосрочного будущего человечества) представлять интересы всех людей сейчас и в будущем.
Такая цель требует большого интеллектуального разнообразия и демократичных способов оценки своих идей, что сверхцентрализованная структура власти, отдающая предпочтение нескольким элитным голосам, обеспечить не может. Как написала Карла Кремер: «Связывать вопрос, фундаментально затрагивающий всё человечество, с нишевой системой убеждений, которую отстаивает в основном нерепрезентативное, влиятельное меньшинство, это недемократично и неубедительно с философской точки зрения».
Для преодоления этой ситуации Кремер предложила три основных шага: создать схему защиты для «внутренних» критиков-членов ЭА; за пять лет вдвое сократить финансовую зависимость проектов ЭА от основных жертвователей движения, что потребует убеждать не причастных к нему людей в актуальности и качестве работ, предлагаемых для финансирования; приглашать «внешних» критиков для докладов и публичных дебатов с лидерами движения.
Однако эти рекомендации, отмечает Самуэль, не вызвали каких-либо заметных изменений: «Вместо этого в ЭА всё так же процветает культ героев. Больше всего почитается Макаскилл, но Бэнкман-Фрид тоже ценился как экстравагантный вундеркинд-благодетель, отчасти и как друг Макаскилла».
5. Обречен ли лонгтермизм?
Лонгтермизм – одна из ключевых концепций ЭА, оказавшаяся после краха FTX под ударом, в том числе и потому что ее продвигал Бэнкман-Фрид. Однако, по мнению Самуэль, если от лонгтермизма и стоит отказываться, то не в связи с крипто-катастрофой, а только после тщательного исследования его сущностных проблем, и, возможно, отказываться не в полной мере. «Например, идея о том, что мы должны больше заботиться и принимать меры для предотвращения игнорируемых экзистенциальных рисков, таких как пандемии или биологическое оружие, по-прежнему заслуживает внимания», – считает она.
Но в той части, где лонгтермизм опирается на идею максимизации ожидаемой ценности, от него стоит отказаться в силу почти неизбежной утилитарности подхода. «Хотя ни одна система убеждений не может сделать себя полностью невосприимчивой к опасным толкованиям, некоторые системы убеждений практически напрашиваются на них, – говорит Самуэль. – Сторонники ЭА должны серьезно подумать о том, как вывести на передний план определенные ограничения на мышление в утилитарном духе».
Еще одной сущностной проблемой лонгтермизма является опора на прогнозирование рисков в отдаленном будущем. Убеждение, что его можно частично улучшить с помощью предсказаний о хороших последствиях определенных действий, выглядит несколько самонадеянным. И с точки зрения способности к прогнозированию вообще, и с точки зрения возможности прогнозировать риски в гораздо более сложных и отдаленных по времени системах. По этому поводу экономист Тайлер Коуэн иронично заметил, что никто из фонда Бэнкмана-Фрида, занимавшегося отдаленными экзистенциальными рисками, не смог спрогнозировать ближайшие экзистенциальные риски для самого же фонда.
Правильное противоядие от такой самонадеянности заключается, по мнению Самуэль, «не в математике и причудливой философии, а в более глубоком интеллектуальном смирении».
6. Является ли ЭА политическим движением?
Пока движение эффективных альтруистов было, по словам Самуэль, «разношерстной командой нердов, ищущих лучшие возможности для благотворительности», способ их самоорганизации не имел такого значения, как имеет сейчас, когда оно превратилось в «силу с миллиардом долларов, пытающуюся влиять на национальную и международную политику». И с этим связаны определенные проблемы, в том числе и сложность адаптации движения (которое стремится быть и филантропической организацией, и философским течением, и вариантом культурной идентичности) к своей новой реальности. «Всё еще существует смешение жанров в отношении того, что есть ЭА, – говорит она. – И это мешает движению кардинально обновить себя».
Предложение о демократизации управления может восприниматься сторонниками ЭА негативно, если они продолжают воспринимать себя как филантропическое объединение. Но, по словам Самуэль, с учетом потраченных Бэнкманом-Фридом миллионов долларов на поддержку участников парламентских и президентских кампаний это выглядит справедливым требованием. «Если эффективный альтруизм хочет быть политическим движением, то ему абсолютно необходимы такие вещи, как прозрачность, надзор, эффективное управление и базовые этические гарантии, – утверждает она. – Нужно иметь честность заявить о своих амбициях – политической власти – и отчетность, чтобы доказать, что оно этой власти достойно».