Когда они станут идеальными: два типа проблем в мире новых технологий

Существует два типа проблем, которые возникают в связи с новыми технологиями. Проблемы типа 1 случаются из-за того, что технологии не идеальны. Проблемы типа 2 — из-за того, что они работают безупречно.

Один пример: многие проблемы с распознаванием лиц связаны с тем, что технология далека от совершенства. Она с трудом распознает темные тона кожи, ее можно обмануть простой маскировкой, а кроме того она демонстрирует гендерную предвзятость. Все эти проблемы относятся к первому типу, потому что эта технология пока еще находится в зачаточном состоянии. Во многом сопротивление широкому внедрению систем распознавания лиц связано с недостатками технологии.

Но что, если бы она работала идеально? Что, если бы система безошибочно распознавала человека по лицу? Возник бы новый набор проблем — из типа 2. Если бы распознавание лиц работало безупречно, от него было бы не скрыться. Рекламодатели и правительства легко могли бы следить за вами, где бы вы ни находились. Выражение «быть на публике» получило бы иное значение, нежели сегодня. При совершенном распознавании лиц, вероятно, потребуются новые виды общественного достояния с разными уровнями раскрытия информации. Более того, если кто-то сможет взломать систему, доверие к ней будет утеряно. А там недалеко и до массового распространения фейковых ID. Идеальная технология не вызывает вопросов — когда вы в последний раз сомневались в результатах калькулятора?

Другой пример: самоуправляемые автомобили. Они пока не очень-то хорошо собой управляют. Да, беспилотники становятся лучше, но в следующие несколько десятилетий с ними будут связаны проблемы несовершенного функционирования типа 1. Мы будем требовать от роботов-водителей почти идеальных результатов (применяя более высокие стандарты, чем к водителям-людям), поэтому на первом плане будут все важные проблемы, связанные с выявлением нестандартных ситуаций, стихийных бедствий и странного поведения водителей-людей. В конце концов, технология будет усовершенствована, и тогда мы столкнемся с проблемами второго типа. К примеру, людям могут запретить самостоятельно водить автомобиль, так как это слишком опасно.

Несовершенство водителей-людей может быть несовместимо с безупречностью водителей-роботов. Если система выйдет из строя (скажем, из-за солнечной бури), ее совершенство не даст ей приспособиться к поведению несовершенных водителей. Хорошо функционирующая инфраструктура робомобилей позволит создать больше пешеходных переходов: мы сможем спокойно гулять рядом с бесшумными автомобилями, которые никогда не попадают в аварии — до тех пор, пока они в них не попадут.

Проблемы типа 1 возникают на ранней стадии, и их легко представить. Обычно они решаются силами рынка. Можно сказать, что большинство проблем первого типа исчезают по мере их превращения в проблемы типа 2. С проблемами второго типа дела обстоят гораздо сложнее, потому что для их решения требуется нечто большее, чем просто невидимая рука рынка.

Взять сотовые телефоны. Первые версии бытовых сотовых телефонов были слишком большими, они работали только в некоторых местах, батарея быстро разряжалась, а мелодии звонка и разговоры по телефону раздражали окружающих. И, самое главное, что в условиях нового неравенства их могли себе позволить только богатые. В то время многие считали эти проблемы неотъемлемой частью технологии. Тем не менее, годы интенсивной работы рынка устранили большинство этих проблем: смартфоны научились бесшумно вибрировать, пересылать текстовые сообщения и стали настолько дешевыми и вездесущими, что есть у каждого взрослого человека на планете. В отличие от компьютеров, они редко ломаются, просты в использовании и чрезвычайно надежны. Они просто работают. С мобильным телефоном мы быстро перешли к проблемам типа 2.

Если раньше сложность заключалась в том, что «не у всех есть эта технология, которая не очень хорошо работает», то теперь проблема прямо противоположная: «у всех есть эта технология, которая работает очень хорошо». Теперь мы имеем дело с технологией, которая есть везде и всегда. Миллиарды людей по всему миру связаны друг с другом в режиме 24/7, и теперь любая информация, идеи, а также слухи и дезинформация целятся в каждого. Технология может предлагать, рекомендовать и «сопровождать» нас через какофонию миллиардов голосов. Страхи и убеждения толпы могут взять верх. Шепот усиливается и искажается, когда он проходит через друзей друзей.

Разница между проблемами 1 и 2 типа заключается в том, что проблемы второго типа не могут быть решены только рынком. Предпринимательский дух и режим прибыли идеально подходят для решения большинства проблем типа 1. Но технология типа 2 уже усовершенствована и повсеместна — она работает, и она есть у всех. Что в этом случае может сделать рынок? Улучшать ее и продавать еще больше — уже не решение. Что может сделать рынок, если распознавание лиц работает отлично и везде? Если роботы-водители установлены в машинах по умолчанию? Если все люди связаны друг с другом в любое время дня и ночи? Такого рода системные вызовы требуют набора внерыночных рычагов, таких как возникающие культурные нормы, разумное регулирование, широкое образование и переосмысление проблемы. Это мягкие, более медленные движущие силы, которым пока не уделяется должного внимания.

Чтобы справиться с повсеместным точным распознаванием лиц, когда оно придет (а оно придет), необходимо достичь общественного консенсуса относительно того, что значит иметь лицо, которое одновременно и личное, и публичное, пересмотреть значение публичного или частного в целом, обеспечить симметрию между наблюдателями и наблюдаемыми, а также поощрять экспансивные идеи относительно самих понятий идентичности любого типа. Большая часть этой работы не связана напрямую с финансами и будет проводиться в школах, судах, форумах, сообществах, в твитах, на конгрессах, в книгах — и поздно ночью. Когда технологии начинают работать очень хорошо и становятся повсеместными, их проблемы смещаются из области быстрых циклов, питаемых деньгами, к более медленным циклам культурного воображения. Чтобы решить проблему идеального распознавания лиц, требуется перспективное воображение всего общества с новыми и совсем иными представлениями о лице и личности.

Последняя модная технология — это криптовалюта. Хотя математика, лежащая в основе блокчейна, абсолютно надежна, с реализацией пока много проблем типа 1. Криптовалюту сложно использовать, легко допустить промах, она ориентирована на ранних последователей, тратит много энергии и не несет никакой пользы, кроме как зарабатывание денег. Но предприниматели справятся с этими проблемами. Когда-нибудь блокчейн станет вездесущим и скучным. Он будет усовершенствован, и его широкое распространение позволит создать тысячи новых типов организаций и взаимоотношений, которые мы даже не можем себе представить сегодня. Технология блокчейн приведет к созданию коллабораций из нескольких миллионов участников, которые работают над одним проектом в режиме реального времени, или организаций, где будет гораздо меньше лидеров, чем в сегодняшних бизнесах. Когда криптовалюта добьется такого успеха, она перейдет к проблемам второго типа. И для их решения будет мало участия предпринимателей. Эти новые проблемы потребуют социального воображения, переосмысления прозрачности в группе, роли или даже значения денег. Это приведет к появлению новых социальных ожиданий и норм поведения и — по мере формирования консенсуса — к развитию нового законодательства для закрепления этих норм.

Проблемы первого типа вызываются несовершенством технологий и решаются рынком. Проблемы второго типа вызываются совершенством технологий и должны решаться с помощью внерыночных сил, таких как культурные нормы, регулирование и социальное воображение.

Источник