Instagram* будет оповещать родителей, если их дети «неоднократно» ищут информацию по теме самоповреждения и самоубийства в короткий промежуток времени. Нововведение касается пользователей, настроивших родительский контроль.
Сигналом для оповещения станут поисковые запросы, связанные с самоубийством, самоповреждением или фразы, которые могут указывать на опасность причинения вреда себе. Речь идёт как о прямых терминах, так и о запросах, которые могут поощрять подобное поведение или намекать на него. В компании подчёркивают, что речь идёт не о единичном запросе, а о повторяющихся запросах за короткий срок.
Родители будут получать уведомления по электронной почте, SMS или через WhatsApp*, в зависимости от указанных контактных данных, а также внутри самого приложения. Сообщения будут содержать ссылки на ресурсы и рекомендации, которые могут помочь взрослым правильно начать разговор с ребёнком и оценить его состояние.
В компании уточнили, что фильтры для срабатывания инструмента настроены с учётом консультаций с профильными экспертами, что поможет избежать уведомлений без реального повода. Систему обещают корректировать на основе обратной связи и наблюдений.
Новые уведомления заработают в США, Великобритании, Австралии и Канаде уже на следующей неделе. В других странах функция должна появиться позднее в течение года. В дальнейшем Instagram* планирует научить инструмент реагировать и на темы самоубийства или самоповреждения в беседе с ИИ-приложения.
*Instagram и WhatsApp принадлежат Meta Platforms Inc., признанной экстремистской организацией, деятельность которой на территории России запрещена
Источник: Хабр
