Ученые опасаются создания чат-ботов, которые позволяют общаться с умершими

Эксперты из Кембриджского университета выразили обеспокоенность в связи с развитием технологий искусственного интеллекта, которые позволяют вести текстовые и голосовые беседы с умершими. По мнению исследователей, такие технологии, получившие название "грифботы" или "мертвец-боты", могут нанести психологический вред и создать иллюзию присутствия умерших, что названо "цифровым преследованием".
В статье, опубликованной в журнале Philosophy and Technology , говорится о потенциальной опасности злоупотребления такими ИИ-чатботами, включая скрытую рекламу товаров и услуг или создание беспокойства среди детей утверждениями о том, что умерший родитель все еще "с ними". К тому же, интерактивное взаимодействие с "мертвец-ботами" может стать "подавляющим эмоциональным бременем".
Исследователи из Центра будущего разума в Кембридже предложили разработать особые протоколы дизайна для таких платформ, чтобы предотвратить использование "мертвец-ботов" в непочтительных целях, например, для рекламы или активности в социальных сетях. Они также настаивают на необходимости получения согласия от лиц, данные которых используются для создания ботов, до их смерти.
Одна из предложенных сценариев в статье — компания "Paren’t", которая создает бота для помощи восьмилетнему ребенку в преодолении горя после смерти матери. Начальный успех терапевтического бота со временем приводит к путанице у ребенка из-за неоднозначных ответов ИИ.
Томаш Холланек, соавтор исследования, предложил ввести возрастные ограничения для использования "мертвец-ботов" и обеспечить "значимую прозрачность" для того, чтобы пользователи всегда осознавали, что их собеседник — искусственный интеллект. Это могло бы включать в себя предупреждения, аналогичные тем, что предупреждают о возможных приступах при просмотре контента.
В заключение исследователи подчеркивают важность разработки протоколов для возможности отказа от использования "мертвец-ботов", что позволило бы пользователям прекратить взаимодействие с ними, обеспечив эмоциональное завершение. Они призывают команды разработчиков заранее думать о том, как снизить социальные и психологические риски "цифрового бессмертия", поскольку технологии уже здесь.