Жизнь не больше ящика: чем опасен ИИ в сельском хозяйстве

Представьте себе длинный черный контейнер, заполненный животными. Вы бросаете немного пищевых отходов и уходите. ИИ делает всё остальное, управляет кормлением и выращиванием, чтобы, как в рекламе, «фермеру не приходилось этого делать». Ваши ли там животные, неважно. Вам не нужно что-то знать о них или уметь с ними обращаться. Если возникнут проблемы, инженеры дистанционно их решат. А когда наступит время «жатвы», в бойне нет необходимости – с этим тоже справится ИИ. Животные живут и умирают буквально в ящике, покидая его лишь в виде готового продукта.

И это не будущее сельского хозяйства, это уже его настоящее. Это описание фермы насекомых «X1» от британского стартапа Better Origin. Конечно, разведение более крупных животных – свиней, кур или рыб – обычно не так высокотехнологично, и фермы еще не полностью автоматизированы. Но с быстрым развитием технологий направление очевидно.

Хотим ли мы, чтобы ИИ был задействован в животноводстве? Сейчас, когда тенденции еще не стали необратимыми, – самое время для этого разговора и для того, чтобы установить разумные этические ограничения.

Как сейчас используется ИИ? Есть несколько популярных вариантов, но в их основе одна и та же концепция – ИИ находится в центре интеллектуальной сети управления, куда стекаются данные со множества автоматизированных датчиков. Одни могут размещаться на разных частях тела животного и отслеживать температуру, дыхание, пульс и даже дефекацию. Другие – контролировать выпас, потребление корма и воды, пережевывание пищи, фиксировать признаки хромоты или агрессии. Умные ушные бирки, обещающие более индивидуальный подход, позволяют фермерам отличать животных друг от друга. Одни ИИ-инструменты, анализируя показатели, изображения и звуки, способны диагностировать проблемы со здоровьем и предсказывать их динамику. Другие, отслеживая температуру и уровень углекислого газа, прогнозировать и предотвращать вспышки заболеваний, в том числе особо опасных вроде африканской чумы свиней. Спутниковая съемка и GPS-трекеры могут показывать местонахождение животных в реальном времени. Эта информация, обработанная ИИ, позволяет фермерам прогнозировать движение стада, управлять пастбищами и поддерживать жизнеспособность почвы.

Такие разработки могут показаться отличной новостью в деле благополучия животных. Да, мы хотим прежде, чем рассказать о проблемах использования ИИ, представить аргументацию оптимистов. А она проста. Сельскохозяйственные животные – разумные существа, способные испытывать удовольствие и боль. Их благополучие имеет значение, и наше отношение может на нем сказываться. Поскольку человеческая бдительность ограничена, традиционное животноводство систематически упускает из виду многие проблемы. ИИ же выводит бдительность на новый уровень, помогая фермерам обеспечить своим животным хорошую жизнь. В молочной и мясной промышленности автоматизированные датчики могут избавить их от навязчивых манипуляций вроде измерения температуры тела. GPS-трекеры – позволить более свободный выпас, а не жизнь на привязи. Для среднестатистической курицы или свиньи ИИ способен обеспечить достаточное количество еды и воды. Индивидуальный мониторинг здоровья дает возможность фермерам быстро позаботиться о больных или раненых животных, усыпить страдающих. Датчики окружающей среды – предотвратить болезни и преждевременную гибель многих животных. Всё это можно продать фермерам как экономически выгодную инвестицию – высокий уровень заболеваемости и смертности губителен для бизнеса (представьте, как эпидемия среди животных вместе с их жизнями уносит и прибыль). В итоге, считают оптимисты, зоозащитники должны поддерживать внедрение ИИ в животноводство.

Но правы ли они? Некоторые из этих бонусов преувеличены. Заявления о том, что эра индивидуального ИИ-ухода уже на пороге, вызывает скепсис. Цыплят, выращиваемых на мясо, обычно забивают в возрасте шести недель, индеек и свиней – в пять-шесть месяцев. В отраслях, где животные настолько быстро «выбывают», представить индивидуальный ИИ-уход сложно, а в рыбоводстве еще сложнее. Здесь можно говорить лишь о том, что ИИ будет отслеживать большие группы на основе средних показателей. Более убедительным выглядит применение этой технологии там, где животные содержатся в течение нескольких лет.

Но важно учитывать не только краткосрочные преимущества использования ИИ, нужно думать о возможных долгосрочных последствиях. Животноводство – это компромиссы, в том числе между заботой о благополучии животных и стремлением сделать бизнес конкурентоспособным. Этих компромиссов еще больше в «промышленном» животноводстве, которое является источником значительного числа этических проблем. И не усугубит ли ИИ многие из них?

Например, стоит подумать, в какие отрасли животноводства ИИ может интегрироваться лучше всего. А какие системы сделает более прибыльными? Так, согласно данным, для благополучия цыплят-бройлеров лучшим вариантом является свободный выгул, ему уступают большие закрытые птичники, худший же вариант – система клеток. Но именно она больше всего выигрывает от автоматического мониторинга благополучия. Сейчас для поиска больных, травмированных и мертвых бройлеров используется ручной осмотр. Он трудоемок и даже опасен, если клетки стоят в несколько ярусов, и рабочему приходиться подниматься наверх, дыша насыщенным аммиаком воздухом. Неудивительно, что производители подобных систем уже рекламируют преимущества «высокотехнологичных клеток для птиц», оснащенных системами мониторинга и контроля подачи пищи и воды, а также сбора яиц (для кур-несушек).

Но, увидев это, вы уже не будете так оптимистичны относительно ИИ. Утверждения о совпадении целей, о том, что системы, повышающие эффективность бизнеса, будут способствовать и повышению благополучия животных, звучат весьма сомнительно. Да, при мониторинге ИИ состояние отдельных животных в клетках может улучшиться по сравнению с ужасающим нынешним положением. Но клеточные системы, по сути своей не способные обеспечить благополучие, будут захватывать всё большую долю рынка, поскольку ИИ повышает их экономическую эффективность – снижает нежелательную смертность, контролирует вспышки заболеваний и сокращает затраты на количество сотрудников и их обучение. Несомненно, что в результате уровень благополучия среднестатистического сельскохозяйственного животного снизится. И масштабы этой гонки на «понижение» представить легко, потому что конкурентное преимущество клеточных систем будет всё более явным.

Однако риски использования ИИ в сельском хозяйстве есть не только у животных – хотя мы осознанно акцентируем на них внимание, потому что их интересы, так часто забываемые, должны быть в центре. Риски есть и у фермеров. Например, утрата автономии. Если цели и жизненно важные показатели – допустим, температуру и влажность в помещениях – будут дистанционно определять руководители корпораций, существует риск свести фермеров до состояния всего лишь инструментов. Можно ожидать, что ИИ, несмотря на рост бизнеса, приведет к сокращению рабочих мест, а характер труда изменится в худшую сторону. Но одна из самых серьезных угроз – это то, что ИИ может исказить отношения заботы между фермерами и их животными. Передать это на аутсорсинг – вот суть  предложения ИИ. Но можно ли поручить заботу машине?

Забота – это отношения между двумя чувствующими существами, а отношения между животным и машиной – это в лучшем случае ее симулякр. Опекаемые нами животные уязвимы: они зависимы в еде, питье и крове. Для настоящей заботы о них необходимо развивать эмпатию, взаимодействовать с ними как с индивидуальностями, узнавать их особенности и характеры, иметь некоторое представление об их эмоциональной жизни и быть более чуткими к их потребностям. Сегодня даже традиционное пастбищное животноводство не соответствует этому идиллическому образу, а промышленное ушло от него очень далеко.Но ИИ способен увеличить дистанцию между фермерами и их животными еще больше.

Критик мог бы возразить, что такой подход к заботе сомнителен с этической точки зрения, поскольку эти отношения инструментальны – ценны лишь потому, что дают хороший результат. Например, сочувствие к сельскохозяйственным животным позволяет фермерам быть более чуткими к их страданиям, облегчать их боль, и это полезно. Но если внедрение ИИ приведет к тем же последствиям без прямого взаимодействия фермера и животного, то, по мнению критика, не стоит беспокоиться об утрате этих отношений. Подобные дебаты отражают всю разницу взглядов на этику животных. Утилитаристы, скорее всего, согласятся с нашим воображаемым критиком. А те, кто симпатизирует этике заботы, будут склонны рассматривать эти отношения как самоценные.

На наш взгляд, использование ИИ для ухода за животными само по себе не является проблемой. Представьте высокотехнологичный приют, единственная цель которого – максимальная забота о животных. ИИ здесь будет содействовать этим отношениям, а не заменять их. Питомцы передвигаются свободно, но в ошейниках, определяющих их местоположение и помогающих индивидуальному распознаванию. ИИ анализирует информацию с видеокамер – отслеживает случаи травли, агрессии, плохого самочувствия. Кроме того, оптимизирует потребление животными пищи и воды, назначает при необходимости индивидуальные дозы лекарств. Если благополучие животных – однозначный приоритет, не требующий компромисса с экономическими целями, является ли в данном случае использование ИИ проблемой?

Думаем, что нет. И если ректальные датчики могут, например, восприниматься как чрезмерное вмешательство, нарушающее, по мнению зоозащитников, право животного на физическую неприкосновенность, то постоянный внешний мониторинг в этом смысле может вызывать меньше вопросов: вероятно, животных, в отличие от людей, не волнует конфиденциальность и собственный образ в глазах наблюдателей – будь то человек или ИИ.

Проблема ИИ скорее в том, что он открывает людям новые способы использования животных как средства достижения финансовых целей – без признания их интересов, внутренней ценности и обязанностей по отношению к ним. Он способен закрепить тенденцию рассматривать сельскохозяйственных животных инструментально – как единицы процесса, а не как разумных существ со своей собственной жизнью. Такой результат вероятен, если ИИ будет использоваться для повышения экономической эффективности без этических ограничений. Но делать так совсем не обязательно.

Как правительства могут регулировать использование ИИ в животноводстве прямо сейчас? Один из вариантов – полный запрет. Он выглядит привлекательно, но на местах возможны непреодолимые трудности, потому что для начала придется юридически определить, что такое «животноводство с помощью ИИ» и чем оно отличается от использования обычных компьютеров, на которые со временем будет устанавливаться всё больше ИИ-продуктов. Кроме того, сложно представить реализуемость запрета, если он касается только одной отрасли и не касается всего остального. Этот джинн уже выпущен из бутылки.

Более реалистичным выглядит создание кодекса, который будет содержать этические принципы, адаптированные к животноводству. Хотя и здесь есть подводные камни. В последние годы было много попыток разработать этические принципы для ИИ в целом, но в итоге стремление охватить любое использовании ИИ приводило к их чрезвычайной сложности и расплывчатости, что позволяло компаниям заявлять о приверженности этике, но продолжать действовать по своему усмотрению. Анализ 22 основных руководств по этике ИИ показал, что она на данный момент является в основном «маркетинговой стратегией».

А нам нужно больше – нам нужны принципы, которые будут достаточно детальны, чтобы обеспечить реальные этические ограничения и правильное направление развития, но при этом достаточно универсальны, чтобы охватить широкий спектр возможных в будущем применений технологии. Целью принципов должна стать их способность гарантировать, что использование ИИ будет повышать, а не подрывать благополучие животных. Не претендуя на всеохватность, предлагаем свои четыре принципа, чтобы начать обсуждение.

Принцип 1: Улучшения, полученные с помощью ИИ, не должны обосновывать уплотнение содержания и способствовать более широкому использованию интенсивных клеточных систем.

Как мы отмечали выше, ИИ уже помогает компаниям, использующим клетки, повысить эффективность и сократить зависимость от человеческого труда. Это ведет к тому, что система, не способная обеспечивать животным благополучие, становится всё более востребованной. Ответственное использование ИИ в животноводстве должно противодействовать этой мрачной перспективе.

Принцип 2: Данные о проблемах благополучия, полученные с помощью ИИ, – их количество, суть и используемые решения – должны быть в свободном доступе.

«Прозрачность» – основная тема этики ИИ – может означать множество разных вещей, некоторые из которых полезнее других. Информация на ярлыке о том, что в процессе использован ИИ, незначима. Та прозрачность, за которую ратуем мы, – это доступность для публики информации о ключевых проблемах благополучия животных, обнаруженных ИИ,  и о том, как они решаются.

Принцип 3: Компании должны нести ответственность за проблемы благополучия, которые их ИИ-системами обнаруживаются, но не исследуются и не решаются. Компаниям должно быть запрещено снижать чувствительность датчиков ради сокращения количества ложных тревог.

Некоторые проблемы благополучия стоят намного дороже, чем другие – например, вспышка птичьего гриппа и хромота одной курицы. Экономический потенциал ИИ-мониторинга заключается, в том числе, в способности систем это учитывать. Они позволяют компаниям самостоятельно устанавливать порог чувствительности (сколько случаев обнаруживается, а сколько пропускается) и специфичность (как часто срабатывает ложная тревога). Иначе говоря, они дают возможность быть бдительными в отношении наиболее дорогостоящих рисков и спокойными в отношении «более дешевых» проблем.

Это плохо, если нет нужного уровня прозрачности и подотчетности. Допустим, компания считает невыгодным лечить переломы килевых костей у кур. Контролирующим органам и общественности она говорит о наличии у нее современного ИИ-мониторинга этой проблемы. Но не говорит, что у этой системы ради экономии снижена чувствительность, поэтому фиксируются и лечатся только самые тяжелые случаи. У нас должна быть возможность привлекать компании к ответственности, если они не решают проблемы благополучия, обнаруженные их же ИИ-системами, а также возможность не позволять им снижать чувствительность датчиков по своему усмотрению.

Принцип 4: ИИ-технологии не должны использоваться для лишения фермеров автономии и полномочий по принятию решений. Решения, которые сейчас находятся под их контролем, должны так и остаться по их контролем.

Представьте мир, в котором все четыре принципа соблюдаются. Он стал идеальным? Увы, многие проблемы останутся. В идеальном мире мы бы вообще не стали употреблять животных в пищу. Но даже в этом неидеальном мире наши предложения могут значительно усложнить использование ИИ для снижения стандартов  их благополучия. При наличии этих принципов ИИ способен помочь в деле защиты животных, позволяя не прятать от общественности проблемы и повышая ответственность компаний за наносимый им вред.

Источник