Wired: использование генеративного ИИ для "воскрешения" мертвых станет бременем для живых

Технологии искусственного интеллекта обещают создание чат-ботов на основе ушедших людей. Но за голоса мертвых придется платить живым, говорится в статье Wired.
При наличии достаточного количества данных может показаться, что есть возможность сохранить "жизнь" умерших близких. С помощью ChatGPT и других мощных больших языковых моделей можно создать убедительный чатбот умершего человека. Но при этом, особенно в условиях дефицита ресурсов и неизбежного разложения, игнорируется огромный труд, который затрачивается на поддержание жизни умерших в Интернете.
Кто-то всегда должен выполнять тяжелую работу по обслуживанию автоматизированных систем, как показывают перегруженные работой и низкооплачиваемые аннотаторы и модераторы контента, создающие генеративный ИИ, и это справедливо и в отношении копий умерших. От управления цифровым наследством после сбора паролей и информации об учетных записях до навигации по медленно разрушающемуся унаследованному "умному дому" — все это требует значительного ухода. Для сохранения жизни цифровых реликвий в разных поколениях создатели контента зависят от труда специалистов по уходу и целой сети человеческих и нечеловеческих структур, от конкретных операционных систем и устройств до серверных ферм. Обновление форматов и обеспечение возможности поиска, использования и доступа к электронным записям требует труда, энергии и времени. Это проблема не только для архивистов и учреждений, но и для частных лиц, желающих сохранить цифровое наследие своих умерших родственников.
И даже несмотря на все эти усилия, устройства, форматы и веб-сайты тоже умирают, как и мы, хрупкие люди. Несмотря на фантазии об автоматизированном доме, который может работать сам по себе вечно, или о сайте, способном существовать столетиями, запланированное устаревание означает, что эти системы обязательно придут в негодность. Как могут подтвердить люди, которым поручено поддерживать цифровое имущество умерших близких, существует огромная разница между тем, что люди думают, что они хотят, или ожидают от других, и реальностью того, что значит помогать технологиям сохраняться в течение долгого времени. Смертность как людей, так и технологий означает, что эти системы в конечном итоге перестанут работать.
Первые попытки создания с помощью ИИ копий умерших людей, безусловно, подтверждают это. Система Virtual Eternity компании Intellitar, расположенной в Скоттсдейле (штат Аризона), была запущена в 2008 г. и использовала изображения и речевые шаблоны для имитации личности человека, который мог бы заменить кого-то на деловой встрече или пообщаться со скорбящими близкими после его смерти. Один из рецензентов журнала CNET назвал Intellitar продуктом, который "скорее всего, заставит детей плакать". Однако вскоре после того, как в 2012 году компания обанкротилась, ее веб-сайт исчез. LifeNaut — проект, поддерживаемый трансгуманистической организацией Terasem, которая также известна созданием BINA48 — роботизированной версии Бины Аспен, жены основателя Terasem, — якобы объединит генетическую и биометрическую информацию с персональными потоками данных, чтобы смоделировать полноценного человека, когда технологии позволят это сделать. Однако сам сайт проекта основан на устаревшем программном обеспечении Flash, что говорит о том, что до реального цифрового бессмертия, скорее всего, еще далеко и потребуется его обновление.
Есть предположение, что с помощью генеративного ИИ мы сможем создавать еще более убедительные копии людей, в том числе и мертвых. Однако для этого требуются огромные ресурсы, включая сырье, воду и энергию, что указывает на глупость содержания чат-ботов мертвых в условиях катастрофического изменения климата. Кроме того, это сопряжено с астрономическими финансовыми затратами: ChatGPT, как утверждается, обходится в 700 тыс. долл. в день, а к 2024 г. обанкротит OpenAI. Это не устойчивая модель бессмертия.
Возникает также вопрос, кто должен иметь право создавать такие копии: близкий член семьи, работодатель, компания? Не каждый захочет перевоплотиться в чатбота. В статье, опубликованной в 2021 году в газете San Francisco Chronicle, журналист Джейсон Фагоун рассказывает о человеке по имени Джошуа Барбо, который создал версию чат-бота своей давно умершей невесты Джессики с помощью GPT-3 от OpenAI. Для него это был способ справиться со смертью и горем, а также сохранить близкие романтические отношения с человеком, которого уже нет в живых. Другие близкие Джессики также не хотели вспоминать о ней таким образом: члены семьи предпочли не общаться с чатботом.
Однако в конечном счете именно разработчики и компании, а не близкие люди, контролируют продолжительность существования чат-ботов. В экспериментальной программе, использованной при создании Джессики Бот, смертность была запланирована; чтобы сэкономить на эксплуатационных расходах, разработчик намеренно создал ее так, чтобы она разлагалась и умирала. Барбо был вынужден разумно подходить к общению с Джессикой и прекратил взаимодействие с чат-ботом до того, как его батарея разрядилась до предела, чтобы не столкнуться с новой формой смерти.
В некоторых случаях разработчикам хочется верить, что чат-боты могут существовать бесконечно долго, помогая мертвым полностью заменить живых работников. Например, забастовка SAG-AFTRA поднимает вопрос о правах личности умерших, поскольку генеративный ИИ потенциально может быть использован для оживления мертвых актеров. Подобные вопросы уже возникали в связи с различными глубокими фейковыми версиями умерших знаменитостей, в том числе с неоднозначным использованием дипфейкового голоса Энтони Бурдейна в документальном фильме о его жизни, а также в более обыденном и низкотехнологичном случае, когда записанные лекции профессора позволили ему продолжить работу в университете после смерти. Однако такие воссоздания не только могут нанести вред живым работникам, но и расстроить оставшихся в живых близких умерших и вызвать у них новую бюрократическую головную боль, когда они пытаются получить контроль над копиями своих умерших членов семьи. ИИ-версии людей могут создаваться без ведома и согласия живых родственников.
Оживление мертвых с помощью ИИ позволяет выявить властные отношения, инфраструктуры и сетевой труд, стоящие за всеми формами цифрового производства. Мы можем создавать реалистичные копии умерших, но их существование зависит от труда живых: как и в случае с цифровым наследием в целом, кто-то должен оплачивать доменные имена, удалять спам, отвечать на письма, приходящие на "мертвые" аккаунты, обновлять форматы файлов или переносить файлы с одного жесткого диска на другой по мере исчезновения сайтов и компаний. Для тех, кто остался на неопределенный срок заботиться об этих творениях, психологические издержки могут оказаться непосильными.