Facebook сможет предотвратить самоубийство
Марк Цукерберг и его команда продолжают работать над тем, чтобы Facebook стала безопасной площадкой для общения. Ранее мы писали о том, что социальная сеть будет бороться с «порноместью», хоть и достаточно странным способом. Теперь же Цукерберг представил инструмент, который может спасти жизнь. Подробности сообщает Tech Crunch.
Итак, после периода тестирования в несколько месяцев на вооружении Facebook появился новый алгоритм, который улавливает суицидальные настроения пользователей. Искусственный интеллект сканирует сообщения, выявляя тревожные высказывания или фразы, которые свидетельствуют о сложном депрессивном состоянии человека. Затем ИИ будет передавать данные близким друзьям, в соответствующие службы поддержки и оказания помощи или горячие линии, прежде чем случится необратимое и пользователь сведет счеты с жизнью. Кроме того, система предоставит рекомендации психологов.
С этого момента Facebook будет анализировать весь контент в мире, за исключением Европейского Союза, где на законодательном уровне использование новой технологии пока не представляется возможным. Для того чтобы оказать своевременную поддержку, специально обученные модераторы будут трудиться 24 часа в сутки семь дней в неделю. Гай Розен, вице-президент по менеджменту, отмечает, что цель нововведения заключается в том, чтобы сократить время обработки информации и реагирования, чтобы быстрее предоставить помощь нуждающимся.
За прошедший месяц тестового режима Facebook обнаружила более 100 «тревожных звоночков» в сообщениях пользователей. Система также реагирует на комментарии вроде «С тобой все в порядке?» или «Я могу тебе чем-нибудь помочь?».
В будущем ИИ сможет понимать больше тонких нюансов языка и, помимо суицидальных мыслей, выявлять множество других настораживающих моментов, в том числе издевательства и разжигание ненависти.— Марк Цукерберг
Кроме текстовых сообщений, проверке подвергнутся и стримы, чтобы предотвратить попытки покончить с собой в прямом эфире. К сожалению, такие случаи для социальной сети далеко не редкость. Для искусственного интеллекта не существует такой проблемы, как языковой барьер: команда Facebook будет реагировать на тревожные сообщения на разных языках.
