Meta AI почав сповіщати батьків про ризик самопошкодження у розмовах підлітків

Meta запустила сповіщення для батьків, які використовують інструменти нагляду Instagram, якщо розмова їхньої дитини з Meta AI містить ознаки можливого самогубства або самопошкодження. Функція вже працює у США, Великій Британії, Австралії та Канаді, а до кінця 2026 року має стати доступною в інших країнах. Разом зі сповіщенням батьки отримують підготовлені фахівцями матеріали про те, як почати таку розмову з підлітком.

Meta AI й раніше спрямовував користувачів до кризових ліній та радив звернутися до дорослого, якому вони довіряють. Тепер окрема система шукає в діалогах прямі й непрямі згадки про намір завдати собі шкоди. Усі позначені системою випадки перед надсиланням сповіщення перевіряє людина. Якщо намір підлітка неоднозначний, компанія вирішила діяти обережно й повідомляти батьків, визнаючи можливість хибних спрацювань.

Від сімейного сповіщення до екстреної допомоги

Meta також розробляє механізм звернення до екстрених служб, коли діалог дорослого або підлітка з Meta AI вказує на безпосередній ризик самогубства. Компанія вже застосовує схожий підхід до публікацій у Facebook та Instagram і повідомила, що торік передала службам понад 19 тисяч таких сигналів у різних країнах. У ширшому контексті це ще одна зміна захисних механік платформи після того, як Єврокомісія вимагала від Meta переглянути функції Facebook та Instagram, що можуть підсилювати залежність.

Під час підготовки нової функції понад 75 фахівців із психічного здоров’я підлітків оцінили відповіді Meta AI на сотні тестових запитів. Їхні рекомендації використовують, щоб система визнавала почуття користувача, не обривала діалог надто різко й водночас спрямовувала до допомоги поза чатом. Суворіший режим Limited Content тепер також поширюється на Meta AI й обмежує ширший набір чутливих тем для підліткових облікових записів.