Джулия Галеф, консультант лаборатории OpenAI, больше 10 лет исследует когнитивные искажения и сомнения людей. В книге «Мышление без слепых зон» она рассказывает о навыках, которые стоит тренировать для того, чтобы не выдавать желаемое за действительное.
Политолог Филип Тетлок почти 20 лет измерял способность людей предсказывать события международной политики. Результаты его разочаровали: даже прогнозы так называемых
специалистов были лишь немногим лучше результатов, полученных случайным образом. Или, как сформулировал сам Тетлок, средний эксперт «попадал в цель примерно так же часто, как шимпанзе, играющий в дартс».
Однако были и исключения. Очень небольшая группа людей оказалась способна давать действительно точные ответы на вопросы типа: «Выиграет ли партия «Братья-мусульмане» выборы в Египте?» или «Произойдет ли в 2013 году в Южно-Китайском море инцидент, связанный с насилием, в результате которого погибнет хотя бы один человек?» Тетлок назвал эту группу суперпредсказателями.
В конкурсе прогнозов, организованном Агентством передовых исследований в сфере разведки (IARPA) — подразделением разведки США, группа суперпредсказателей легко побила другие команды, составленные из университетских профессоров. Разница в результатах между суперпредсказателями и другими группами участников доходила до 70%. Суперпредсказатели настолько вырвались вперед, что IARPA объявила их победителями всего через два года, хотя первоначально конкурс планировалось проводить в течение четырех лет.
Почему же у суперпредсказателей так хорошо получалось прогнозировать?
Вовсе не потому, что они были умнее других. Дело было также не в том, что они превосходили соперников знаниями или опытом. Они были по большей части непрофессионалы, однако обошли даже профессиональных аналитиков из ЦРУ, у которых была фора в виде многих лет опыта, не говоря уже о доступе к секретной информации по нужной теме. Суперпредсказатели, вооруженные лишь Google, обогнали цэрэушников на 30%.
На самом деле суперпредсказатели так часто оказывались правы, потому что умели быть неправыми.
Меняйте мнение понемножку
Суперпредсказатели постоянно меняли свое мнение. Не то чтобы в их мировоззрении каждый день происходил драматический переворот. Лучший из суперпредсказателей, инженер-программист Тим Минто, обычно в ходе работы над конкретным прогнозом менял свое мнение не меньше десятка раз, а иногда сорок-пятьдесят. Вероятно, вы уже знакомы с инкрементальной, то есть пошаговой и очень постепенной, коррекцией своего мнения в определенных контекстах. Когда вы подаете заявление на вакансию, вы оцениваете вероятность успеха в 5%. Если вам позвонили и пригласили на собеседование, вы начинаете оценивать вероятность успеха выше — около 10%. Если на собеседовании вы удачно отвечаете на вопросы, уверенность, что вам предложат эту работу, повышается, скажем, до 30%. Но если вам не позвонили в течение двух недель после интервью, возможно, ваша уверенность снизится до 20%.
Гораздо реже нечто подобное происходит с воззрениями на политику, мораль и другие эмоционально заряженные темы. Джерри Тейлор много лет был одним из наиболее выдающихся критиков теории глобального потепления. Джерри работал в Институте Катона, либертарианском мозговом тресте, и хорошо зарабатывал, выступая в ток-шоу и заверяя зрителей, что угроза глобального потепления несоразмерно раздута.
Первая трещина в броне его скептицизма появилась после участия в телевизионных дебатах с Джо Роммом, знаменитым сторонником теории изменения климата. В ходе дискуссии Тейлор повторил один из своих стандартных тезисов: глобальное потепление происходит гораздо медленнее, чем предсказывают пессимисты. По сравнению с первоначальными прогнозами, представленными в 1988 году, Земля вообще почти не нагрелась.
После съемки, за кулисами, Ромм обвинил Тейлора в искажении фактов и бросил ему вызов, предложив самому пойти и проверить данные. Тейлор вызов принял, ожидая, что факты подтвердят его правоту. Однако его постиг удар: Ромм оказался прав. Прогнозы 1988 года оказались намного ближе к реальности, чем считал Тейлор раньше.
Тейлор решил, что, видимо, что-то упускает. Первоначальные данные он получил от уважаемого ученого-климатолога, противника теории изменения климата. Тейлор снова обратился к этому ученому, указал на проблему и спросил: «Что происходит?» К растерянности Тейлора, ученый не нашелся что ответить. Он мялся минут двадцать, и наконец Тейлор понял, что этот человек, которому он доверял, «намеренно и сознательно искажал данные». Тейлора это потрясло.
С тех пор каждый раз, когда его единомышленник — противник теории изменения климата — цитировал какие-нибудь данные, Тейлор обязательно прослеживал их до первоисточника. Снова и снова качество данных его разочаровывало. Тейлор по-прежнему считал точку зрения скептиков более правдоподобной, но его уверенность таяла капля за каплей.
Кажется очень трудоемким постоянно менять свое мнение, особенно по важным вопросам. Но в каком-то смысле это легче, чем альтернатива. Если вы видите мир черно-белым, что будет, когда вы наткнетесь на данные, опровергающие одно из ваших убеждений? Ставки слишком высоки: вам придется отыскать предлог, чтобы отмести новые данные, иначе все ваше убеждение окажется под угрозой.
Но если вы, наоборот, видите мир в гамме оттенков и поменять мнение для вас означает небольшой сдвиг, а не переворот, то вы отнесетесь к новым данным, опровергающим одно из ваших убеждений, совершенно по-другому. Если вы на 80% уверены, что приток иммигрантов полезен для экономики, а потом вам попадается исследование, доказывающее, что он ведет к снижению заработной платы на рынке труда, вы можете понизить свой уровень уверенности с 80 до 70%.
Позднее может выясниться, что исследование было некачественное, или появятся данные, что приток иммигрантов стимулирует экономику в других аспектах, и ваша убежденность в пользе иммиграции вернется к 80%. А может быть, вы обнаружите новые данные об отрицательных последствиях иммиграции, и ваша уверенность постепенно понизится еще больше. Но в любом случае на кону не стоит ваша репутация.
Признавая свою неправоту, мы учимся быть правыми
Большинство людей, столкнувшись с внешними фактами, опровергающими какое-либо их убеждение, спрашивают себя: «Могу ли я по-прежнему верить в свою правоту?» Ответ в большинстве случаев: «Легко».
С тех пор как Тетлок в восьмидесятых годах начал изучать предсказания, он выслушал сотни оправданий, объясняющих, почему тот или иной прогноз оказался неверным. Он разработал классификацию оправданий, используемых людьми для защиты своих убеждений: по его системе они делятся на семь групп. Одну из них он назвал «Я был почти прав». После того как Джордж Буш в 2000 году победил на выборах в президенты США, многие из тех, кто уверенно предсказывал победу его конкуренту Элу Гору, настаивали, что оказались бы правы, если бы только условия были чуточку другими: если бы Гор умел лучше вести дебаты… Если бы выборы состоялись на несколько дней позже… Если бы кандидат от третьей партии оказался не таким упрямым…
Суперпредсказатели относятся к своим ошибкам совершенно по-другому. Если их прогноз вообще не попадает в цель, например они предсказали, что нечто случится с большой вероятностью, а оно не случается, или, наоборот, что вероятность какого-то события очень низка, а оно все же происходит, они возвращаются назад и пересматривают процесс работы над предсказанием, спрашивая себя: «Как я могу на этом примере научиться выдавать более точные прогнозы?»
Вот пример. Святилище Ясукуни в Японии постоянно служит поводом для скандалов и международных протестов. С одной стороны, в нем увековечено множество военных героев Японии; с другой стороны, в нем увековечена также память свыше 1000 японских военных преступников. Если какой-либо значительный политический деятель посещает Ясукуни, это считается некрасивым поступком в дипломатическом смысле; другие страны, в прошлом пострадавшие от японской армии, например Китай и Корея, воспринимают такой визит как плевок в лицо.
Одним из вопросов, которые IARPA задала предсказателям в 2013 году, был вопрос: «Посетит ли Синдзо Абэ, премьер-министр Японии, святилище Ясукуни в этом году?» Ходили слухи, что такой визит планируется, но суперпредсказатель Билл Флэк на это не купился. Для Абэ не было никакого смысла, фигурально выражаясь, наступать на грабли и портить дипломатические отношения с другими странами непонятно ради чего. Но слух оправдался. Флэк спросил себя, почему так сильно ошибся, и понял: «Вероятно, я на самом деле отвечал не на вопрос: „Посетит ли Абэ святилище Ясукуни?“ — а на вопрос: «Если бы я был премьер-министром Японии, посетил бы я святилище Ясукуни?»»
Это еще одна причина, по которой суперпредсказателям гораздо легче размышлять о своих ошибках: они знают, что анализ ошибок позволяет отточить технику предсказания. Выводы вроде «Не предполагайте, что мировые лидеры поступят так же, как поступили бы вы на их месте» — мощная подпитка, обновление вашего мозгового арсенала, которое помогает развиваться.
Суперпредсказатели с самого начала турнира показывали лучшие результаты, и со временем их отрыв от конкурентов только увеличивался. Каждый год средняя точность прогноза суперпредсказателей увеличивалась примерно на 25%. В то же время точность предсказаний других участников вообще не росла.
Область познания: общие выводы
Журналистка Бетани Брукшир написала в Twitter, что ученые-мужчины с большей вероятностью обращаются к ней «мизз», а ученые-женщины — «доктор», но затем проверила собственные данные и поняла, что была неправа. Со стороны Брукшир весьма похвально проверить правдивость своего заявления, при том что она легко могла бы этого не делать. Но было ли это для нее полезно?
Когда предсказатель осознает свою ошибку, это помогает ему в будущем делать более точные прогнозы. Когда инвестор осознает свою ошибку, это помогает ему в будущем делать более удачные инвестиции. Однако в случае Брукшир ошибка не лежит в какой-либо определенной предметной области, а значит, нельзя сказать, что в будущем это поможет ей принимать более удачные решения. Так что с первого взгляда ответ на вопрос: «Было ли полезно для Брукшир заметить свою ошибку?» — вроде бы: «Нет».
Но ответить так — значит упустить одно из самых больших преимуществ осознания ошибок: это возможность улучшить свои способности к суждению в целом. Когда Брукшир поняла, что ошиблась, она спросила себя: «Почему?» — и выявила две возможные причины. Первая из них — подкрепляющий уклон: Брукшир была с самого начала уверена, что мужчины уважают ее меньше, чем женщины, и потому ей больше запомнились наблюдения, подтверждающие это, а те, которые опровергали ее мнение, не запомнились совсем. Другой причиной был эффект новизны: «Я придавала больше веса своим недавним наблюдениям и забывала то, что наблюдала в прошлом», — сделала вывод Брукшир.
Эти выводы не только помогают оценить дискриминацию по половому признаку в сообщениях электронной почты; они не связаны с конкретной предметной областью, то есть их можно применять в самых разнообразных отраслях знаний, в отличие от выводов, специфичных для предметной области, например политических прогнозов или инвестиций. Выводы, неспецифичные для предметной области, относятся к мироустройству в целом или к работе нашего мозга в целом и помогают выявить различные виды предвзятости, влияющие на наши суждения. Например:
— легко обмануться, глядя на односторонне подобранные факты;
— если кажется, что человек несет чушь, возможно, я его просто неправильно понимаю;
— даже если я совершенно уверена в своей правоте, существует вероятность, что я ошибаюсь.
Может показаться, что эти принципы очевидны и что вам они уже известны. Однако «знать» принцип — в том смысле, что, прочитав его, говоришь себе: «Да, я знаю», — одно дело, а усвоить его так, чтобы он действительно влиял на твое мышление, — совсем другое. Брукшир знала про подкрепляющий уклон и эффект новизны до того, как опубликовала свой знаменитый твит. Она занималась научной журналистикой. Она читала про уклоны в мышлении и понимала, что подвержена им, как и все остальное человечество. Но такое знание не усвоено по-настоящему, пока не выведешь его заново на своем опыте, пройдя через осознание собственной неправоты, задав себе вопрос «почему?» и наблюдая тот или иной уклон в собственных поступках.
Даже если вы ошибаетесь в каком-то случайном или незначительном вопросе, все равно из этой ошибки обычно можно извлечь полезные уроки. В подростковом возрасте я посмотрела несколько эпизодов «Бэтмена», телесериала, выходившего в конце шестидесятых годов. Это чрезмерно аффектированный, пошловатый сериал, в котором взрослые мужчины бегают в обтягивающих штанах и кричат: «Холи равиоли, Бэтмен!» Однако я решила, что он был задуман как серьезный приключенческий сериал для зрителей шестидесятых годов и что они по простоте душевной не осознавали всей его глупости. Когда позже выяснилось, что я ошибалась и что «Бэтмен» всегда считался китчем, я растерялась. Из этой истории я смогла сделать неспецифичный для предметной области вывод, который остался со мной навсегда: «Хм… Возможно, не стоит с такой готовностью записывать других людей в разряд простачков».
Подробнее о книге «Мышление без слепых зон» читайте в «Идеономики».