Instagram оповестит родителей, если их дети будут размещать запросы о суициде

Instagram запускает новый инструмент, который будет предупреждать родителей, если их дети-подростки будут искать на платформе запросы, связанные с суицидом и самоповреждением.

Уточняется, что новая функция вводится для оповещения родителей, если их дети несколько раз введут в поисковую строку фразы, пропагандирующие суицид или самоповреждение, а также такие слова, как "самоубийство" и "членовредительство".
Родители будут получать оповещения по электронной почте в виде текстовых сообщений или в WhatsApp, а также через уведомления в приложении. Кроме того, им будет доступна информация о том, как обсуждать эту тему с подростками, говорится в блоге Instagram.
"Наша цель - дать родителям возможность вмешаться, если поисковые запросы их детей указывают на то, что им может понадобиться поддержка, - отметили в компании. - Мы также хотим избежать отправки этих уведомлений без необходимости, поскольку если их будет слишком много, они станут менее полезными".
В Instagram подчеркнули, что в настоящее время платформа блокирует поисковые запросы, явно связанные с суицидом и самоповреждением, а также посты, пропагандирующие или восхваляющие суицид или самоповреждение, и ограничивает доступ подростков к контенту на эти темы.
Компания также разрабатывает аналогичную систему оповещения родителей о некоторых сценариях использования искусственного интеллекта, которая будет уведомлять, если их дети попытаются поговорить с ИИ о самоубийстве или членовредительстве.