Робот Маска: чем опасны амбициозные планы миллиардера

Илон Маск анонсировал человекоподобного робота для выполнения повторяющихся рутинных задач, которые так ненавидят люди. По его словам, робот сможет сбегать в продуктовый магазин, а также справится со множеством других дел, связанных с физическим трудом.

Как и следовало ожидать, социальные сети наполнились отсылками к серии антиутопических научно-фантастических фильмов о роботах, где все пошло ужасающе неправильно.

Каким бы тревожным ни было будущее роботов в таких фильмах, как «Я, робот», «Терминатор» и других, именно технологии, лежащие в основе сегодняшних человекоподобных роботов — и намерения, стоящие за ними — должны вызывать беспокойство.

Робот Маска разрабатывает компания Tesla. Кажется, что это отклонение от автомобильного бизнеса компании, если не видеть, что Tesla — не типичный производитель автомобилей. Так называемый «Tesla Bot» — это концепция изящного 125-фунтового человекоподобного робота, у которого будет автомобильный искусственный интеллект и технологии автопилота Tesla, чтобы планировать маршруты, следовать по ним, лавировать в трафике — в данном случае среди пешеходов — и избегать препятствий.

Если отбросить антиутопический научно-фантастический подтекст, план хорош. Антропогенная среда создана людьми для людей. И, как заявил Маск при анонсировании Tesla Bot, успешные передовые технологии научатся ориентироваться в ней так же, как это делают люди.

Тем не менее, автомобили и роботы Tesla — это всего лишь видимые продукты гораздо более масштабного плана, нацеленного на создание будущего, где передовые технологии освободили людей от биологических корней путем смешения биологии и технологий. Как исследователь, изучающий этическое и социально ответственное развитие и использование новых технологий, я считаю, что этот план вызывает опасения, которые выходят за рамки спекулятивных фантастических страхов перед сверхразумными роботами.

Человек с большими планами

Беспилотные автомобили, межпланетные ракеты и интерфейсы «мозг-машина» — это шаги к будущему, каким его видит Илон Маск. Где технологии станут спасителем человечества. В этом будущем энергия будет дешевой, изобильной и устойчивой, люди будут работать в гармонии с умными машинами и даже сливаться с ними — и станут межпланетным видом.

Это будущее, которое, судя по различным начинаниям Маска, будет построено на наборе базовых взаимосвязанных технологий, включающих датчики, усилители, инфраструктуры энергии и данных, системную интеграцию и существенный прогресс в области компьютерных мощностей. Вместе они составят мощный арсенал инструментов для создания трансформирующих технологий.

Маск представляет, как люди, в конечном счете, преодолеют границы своего эволюционного наследия с помощью сверхчеловеческих технологий. Но сверхчеловеческой может стать только та технология, которая в первую очередь была человеческой — или, по крайней мере, разработанной для процветания в мире, созданном людьми.

Подход к инновациям, основанный на принципе «сделать технологию более человечной», лежит в основе систем автомобилей Tesla, включая широкое использование оптических камер. Они подключаются к «мозгу» искусственного интеллекта и помогают транспортным средствам автономно перемещаться по дорогам, которые, по словам Маска, «разработаны для биологических нейронных сетей с оптическими преобразователями» — другими словами, для людей. Маск считает, что это небольшой шаг от созданных людьми «роботов на колесах» до человекоподобных роботов на ногах.

Проще сказать, чем сделать

Технология «полностью автономного вождения» Tesla с сомнительным названием «автопилот» служит отправной точкой для разработчиков Tesla Bot. Какой бы впечатляющей ни выглядела эта технология, она, как оказалось, не совсем надежна. Аварии и несчастные случаи, связанные с режимом автопилота Tesla — последние из них произошли из-за того, что алгоритмы не сумели распознать припаркованные машины экстренной помощи — ставят под сомнение целесообразность столь быстрого выпуска этой технологии на свободный рынок.

Такой послужной список не сулит ничего хорошего человекоподобным роботам, использующим те же инструменты. Однако это не просто вопрос выбора правильной технологии. Сбои автопилота Tesla усугубляются поведением человека. Например, кое-кто из водителей Tesla посчитал свои модернизированный автомобиль полностью автономным и не уделял должного внимания вождению. Может ли что-то подобное случиться с Tesla Bot?

«Орфанные риски» Tesla Bot

При работе над социально полезными технологическими инновациями меня особенно интересуют орфанные риски — риски, которые трудно измерить и легко упустить из виду, но которые неизбежно сбивают с толку новаторов. Мы с коллегами работаем над решением этих проблем с помощью системы Risk Innovation Nexus, инициативы Института предпринимательства и инноваций им. Орина Эдсона Университета Аризоны и Лаборатории глобального будущего.

Tesla Bot несет в себе целый портфель орфанных рисков. К ним относятся возможные угрозы конфиденциальности и автономности, так как бот может собирать и делиться потенциально конфиденциальной информацией. Также — проблемы, связанные с тем, как люди реагируют на роботов, потенциальные расхождения между этическими или идеологическими взглядами — например, в борьбе с преступностью или с гражданскими протестами, и так далее. Это проблемы, которые редко освещаются в обучении инженеров, и тем не менее, если их игнорировать, может случиться катастрофа.

Хотя Tesla Bot кажется безобидным — или даже забавным — для того, чтобы он стал не только коммерчески успешным, но и полезным, его разработчикам, инвесторам, будущим потребителям и другим людям необходимо задаться сложными вопросами о том, какую угрозу он может составлять для того, что важно для нас, и что делать с этими угрозами.

Угрозы эти могут быть конкретными — например, люди, которые, не задумываясь о рисках, вносят несанкционированные модификации, повышающие производительность робота (заставляя его двигаться быстрее, чем предполагали разработчики) — или общими — как технология, используемая новыми способами в вооружении. Также они могут быть весьма тонкими — как угроза безопасности рабочих мест со стороны человекоподобного робота или угроза неприкосновенности частной жизни со стороны робота, оснащенного передовыми системами наблюдения.

Кроме того, существуют проблемы технологической предвзятости, преследовавшие ИИ в течение некоторого времени, особенно усвоенное поведение, которое оказывается в высшей степени дискриминационным. Например, сексистские и расистские результаты алгоритмов ИИ.

Нужно ли нам делать что-то просто потому, что мы можем?

Tesla Bot выглядит маленьким шагом к сверхчеловеческим технологиям по видению Маска, и его легко списать на хвастовство. Но лежащие в его основе дерзкие планы серьезны — и вызывают не менее серьезные вопросы.

Например, насколько ответственно видение Маска? Он может предпринять шаги по воплощению своей мечты, но кто ответит, должен ли? Станет ли будущее, которое хочет видеть Маск, лучшим для человечества или хотя бы достаточно хорошим? И кто пострадает от последствий, если что-то пойдет не так?

Это более глубокие опасения, которые Tesla Bot вызывает у меня как у человека, который пишет о будущем и о том, как наши действия воздействуют на него. Это не означает, что Tesla Bot — плохая идея или что Илон Маск не должен иметь возможности поиграть мышцами, строя будущее. При правильном использовании эти идеи и технологии станут преобразующими и откроют многообещающее будущее для миллиардов людей.

Но если потребители, инвесторы и другие люди будут ослеплены блеском новых технологий и, не придав значения шумихе, не увидят общей картины, общество рискует отдать будущее в руки богатых новаторов, чье видение выходит за рамки их понимания. Если их видение будущего не совпадет с тем, к чему стремится большинство людей, или если оно будет катастрофически ошибочным, такие новаторы могут стать препятствием на пути построения справедливого и равноправного будущего.

Возможно, именно этот урок должны вынести для себя люди из антиутопических фантастических фильмов о будущем, когда Tesla Bot из идеи превращается в реальность — не тривиальные вопросы про вышедших из под контроля роботов-гуманоидов, а гораздо более серьезный вызов — решить, кто получит право сочинять будущее и участвовать в его создании.

Источник