Полный дипфейк: смогут ли новые технологии исказить историю

Перед Днем памяти Израиля в 2021 году музыкальный ансамбль Министерства обороны обратился к компании, которая специализируется на технологии «дипфейк», с просьбой оживить фотографии с израильско-арабской войны 1948 года.

Они выпустили видео, в котором молодые певцы, одетые в военную форму и с оружием того времени, спели «Hareut» — культовую песню, посвященную солдатам, погибшим в бою. Во время исполнения музыканты разглядывали выцветшие черно-белые фотографии. Молодые солдаты на старых фото моргали и улыбались им в ответ благодаря искусственному интеллекту.

Невероятный результат! Прошлое оживает в стиле вселенной Гарри Поттера.

В последние несколько лет я и мои коллеги из Центра прикладной этики Массачусетского университета изучали, как повседневное взаимодействие с ИИ влияет на отношение людей к себе и к политике. Мы обнаружили, что ИИ ослабляет нашу способность к повседневным рассуждениям, и это подрывает роль интуиции в жизни и заставляет усомниться в собственных знаниях о правах человека.

Сегодня, благодаря искусственному интеллекту, реанимировать прошлое проще, чем когда бы то ни было. Изменит ли это наше понимание истории и, как следствие, самих себя?

Низкий финансовый риск, высокая моральная стоимость

Желание оживить прошлое в яркой форме не ново. Реконструкция Гражданской войны или Войны за независимость — обычное дело. В 2018 году Питер Джексон кропотливо отреставрировал и раскрасил кадры Первой мировой войны для фильма «Они не должны стареть», который позволил зрителям XXI века ощутить те события как никогда ранее.

Живые реконструкции и тщательно обработанные исторические кадры — дело дорогое и трудоемкое. Технология дипфейк упрощает эти усилия, предлагая дешевый и широко доступный инструмент для анимации старых фотографий или создания убедительных фальшивых видеороликов с нуля.

Но, как и в случае со всеми новыми технологиями, наряду с захватывающими возможностями возникают серьезные моральные вопросы. И вопросы эти становятся еще сложнее, когда новые инструменты используются для улучшения понимания прошлого и воскрешения исторических эпизодов.

Писатель и государственный деятель XVIII века Эдмунд Берк утверждал, что общество — это «партнерство не между живыми, но между живыми, мертвыми и теми, кому предстоит родиться». По его мнению, политическая идентичность — это не просто продукт собственного мышления, не то, каким решил быть человек. Скорее, быть частью общества значит быть частью договора между поколениями — совместного предприятия, объединяющего живых, мертвых и тех, кто будет жить в будущем.

Если Берк прав в понимании политической принадлежности, то технология дипфейк дает мощный способ связать людей с прошлым, чтобы заключить этот договор между поколениями. Оживляя «мертвое» прошлое, дипфейк делает его более ярким и живым. Если эти образы пробуждают сочувствие и беспокойство о предках, прошлое становится гораздо более важным.

Но эта возможность сопряжена с риском. Самая очевидная опасность — создание фальшивых исторических эпизодов. Выдуманные, мифологизированные и лживые события могут спровоцировать войны: легендарное поражение XIV века в битве за Косово до сих пор разжигает антимусульманские настроения среди сербов, хотя никто не знает, действительно ли сербская коалиция проиграла ту битву османам.

Аналогичным образом, вторая атака на американские военные корабли в Тонкинском заливе 4 августа 1964 года была использована для эскалации американского вмешательства во Вьетнам. Позже выяснилось, что нападения не было.

Атрофия воображения

Раньше устраивать фейковые мероприятия было сложно и дорого. Теперь уже нет.

Представьте, например, что специально обработанные дипфейк-кадры событий 6 января в США поспособствуют разжиганию политической напряженности, или фальшивое видео со встречи Центров по контролю и профилактике заболеваний, где якобы осуждается вакцинация против Covid-19, повлияет на усилия системы здравоохранения.

В результате, конечно же, дипфейки могут постепенно дестабилизировать саму идею исторического «события». Возможно, со временем, по мере развития и распространения технологии, люди станут автоматически задаваться вопросом, реально ли вообще то, что они видят.

Приведет ли это к усилению политической нестабильности или, как ни парадоксально, к большей стабильности — потому что люди станут задумываться, а не спровоцированы ли их поступки сфабрикованными данными — вопрос открытый.

Но помимо массовых фальсификаций истории меня беспокоят более тонкие последствия.

Да, дипфейки позволяют нам увидеть прошлое более живым и, как следствие, усиливают чувство приверженности истории. Но если технология будет давать готовые, ограниченные образы прошлого, которые станут стандартными ассоциациями для исторических событий, не приведет ли это к атрофии воображения? Ведь оно само по себе может воспроизвести ужасы Второй мировой войны, землетрясения в Сан-Франциско 1906 года или Парижской мирной конференции 1919 года в бесконечных вариациях.

Будут ли люди и дальше использовать свое воображение таким образом? Или дипфейки с их реалистичными, движущимися изображениями станут практической заменой истории? Меня беспокоит, что из-за анимированных версий прошлого люди начнут считать, будто точно знают, что произошло — будто полностью погрузились в прошлое — и не захотят узнавать больше об историческом событии.

Люди полагают, что технологии облегчают жизнь. Но они не осознают, что технологические инструменты всегда изменяют своих создателей — приводят к ухудшению имеющихся навыков, даже если открывают невообразимые и захватывающие возможности.

С появлением смартфонов фотографии можно с легкостью публиковать в интернете. Но теперь некоторые люди не могут в полной мере насладиться захватывающими пейзажами, поскольку зациклены на запечатлении «инстаграмного» момента. Сегодня даже заблудиться не получится из-за повсеместного распространения GPS. Вот и дипфейки, созданные искусственным интеллектом, — это не просто инструменты, которые автоматически улучшат наше понимание прошлого.

Тем не менее, эта технология скоро произведет революцию в отношении общества к истории, как в хорошем смысле, так и в плохом.

Люди всегда лучше справлялись с изобретениями, чем с размышлениями о том, как они повлияют на человечество — «всегда искуснее с предметами, чем с жизнью», как выразился поэт Уистен Хью Оден. Эта неспособность представить себе изнанку технических достижений — не приговор. Еще можно сделать паузу и подумать о том, как лучше всего переживать прошлое.

Источник