ИИ вместо государства: стоит ли доверять машинам наше будущее?

Каждый четвертый европейец хочет, чтобы важные решения относительно управления страной принимал искусственный интеллект, а не политики. В Великобритании и Германии эта доля еще выше: один человек из трех. В Нидерландах целых 43% хотят, чтобы политику определял ИИ.

Это поразительные результаты нового опроса, проведенного в восьми европейских странах испанским Центром по управлению изменениями при Университете IE. Вопросы были направлены на выяснение того, как, по мнению людей, технологии преобразуют мир: от рабочих мест (40% считают, что их компания исчезнет через десять лет, если не произойдет значительных изменений) до публичных пространств (68% опасаются, что люди будут больше общаться онлайн, чем лично).

Но самый поразительный и тревожным факт заключается в том, что 25% европейцев хотят, чтобы ИИ заменил политиков. Это миллионы людей, требующие кардинальных перемен, которые были немыслимы десять лет назад.

Я понимаю импульс респондентов. Многие европейцы разочарованы своими политиками, и на то есть веские причины. Одна только затяжная сага о Брекзите кажется достаточной причиной, чтобы отказать людям в праве определять политику.

Ошибки и провалы политиков могут вызывать соблазн передать большие политические решения машинам, которые, как кажется, могут сделать более объективный выбор.

Проблема в том, что ИИ не так объективен, как вы думаете. Во-первых, предвзятость человека может проникнуть в автоматизированные системы принятия решений. Если исходные данные, использованные для обучения ИИ, сомнительны, рекомендации, которые он выработает, также будут сомнительными. Например, мы видели множество примеров, как предвзятость алгоритмов влияет на технологию распознавания лиц, и исследователи предупреждают, что это может также повлиять на другие технологии. Есть основания подозревать, что проблема предвзятости встанет в полный рост, когда ИИ выйдут на арену политических решений.

Даже если не брать в расчет проблему предвзятости, компьютерные модели часто не в состоянии охватить множество факторов, действующих в человеческом обществе, и то, как они взаимодействуют, потому что общества представляют собой невероятно сложные поведенческие системы. Даже если модель точно идентифицирует все наиболее важные факторы в данной ситуации, нельзя гарантировать, что они сработают в другом времени и месте. Как сказал мне в прошлом году Нил Джонсон, физик, моделирующий терроризм, модель — это «карикатура реального мира».

Мы с Джонсоном говорили о конкретной модели, которая разрабатывается в Норвегии, чтобы оценить различные стратегии и помочь правительству выбрать наиболее эффективную. Проект «Моделирование религии в Норвегии» рассматривает различные варианты интеграции сирийских беженцев и способен предсказать, что произойдет, если будет выбран один из них. Вот что я писал об этом в The Atlantic:

Норвегия — идеальное место для проведения этого исследования не только потому, что сегодня страна не справляется с интеграцией сирийцев, но и потому, что она собрала огромные массивы данных о своем населении. Используя их для калибровки модели, [исследователи] могут получить более точные и детальные прогнозы, симулирующие то, что произойдет в конкретном городе и даже в конкретном районе.

Это действительно захватывающая и многообещающая идея, но, как отметил Джонсон, такую модель следует рассматривать как предложение, а не безошибочный прогноз. «Здорово иметь это в качестве инструмента», — говорит он, но у него не должно быть права принимать единоличные решения.

Четверти европейцев, которые хотят, чтобы ИИ принимал политические решения вместо политиков, хорошо бы это понять. ИИ может быть источником полезной информации, но в такой сложной и ответственной сфере деятельности, как политика, нам нужны люди — политологи и политики, — чтобы интерпретировать идеи ИИ и определять сферу их применения.

По иронии судьбы, по данным того же самого опроса, большинство европейцев опасаются, что роботы могут заменить людей в большинстве профессий. Более 70% опрошенных считают, что правительства должны внедрять жесткую политику, ограничивающую автоматизацию бизнеса. Центр управления изменениями не оставил это без внимания, назвав «странным парадоксом».

Исполнительный директор центра Диего Рубио заявил, что желание европейцев расширить возможности ИИ говорит об их разочаровании. «Такое мышление, которое, вероятно, связано с растущим недоверием граждан к правительствам и политикам, представляет собой серьезный вопрос европейской модели представительной демократии, поскольку бросает вызов самому понятию народного суверенитета», — сказал он.

Мы сыты по горло нынешней политической системой, что понятно. Но давайте удостоверимся, что мы не заменяем ее столь же несовершенной системой ИИ. Это только ухудшит ситуацию, потому что представление об объективности ИИ — и, следовательно, его политических решений, — весьма обманчиво.

Источник