Facebook

Facebook сможет предотвратить самоубийство

На вооружении Facebook появился новый алгоритм, который улавливает суицидальные настроения пользователей
Источник: TechCrunch

Марк Цукерберг и его команда продолжают работать над тем, чтобы Facebook стала безопасной площадкой для общения. Ранее мы писали о том, что социальная сеть будет бороться с «порноместью», хоть и достаточно странным способом. Теперь же Цукерберг представил инструмент, который может спасти жизнь. Подробности сообщает Tech Crunch.

Итак, после периода тестирования в несколько месяцев на вооружении Facebook появился новый алгоритм, который улавливает суицидальные настроения пользователей. Искусственный интеллект сканирует сообщения, выявляя тревожные высказывания или фразы, которые свидетельствуют о сложном депрессивном состоянии человека. Затем ИИ будет передавать данные близким друзьям, в соответствующие службы поддержки и оказания помощи или горячие линии, прежде чем случится необратимое и пользователь сведет счеты с жизнью. Кроме того, система предоставит рекомендации психологов.

С этого момента Facebook будет анализировать весь контент в мире, за исключением Европейского Союза, где на законодательном уровне использование новой технологии пока не представляется возможным. Для того чтобы оказать своевременную поддержку, специально обученные модераторы будут трудиться 24 часа в сутки семь дней в неделю. Гай Розен, вице-президент по менеджменту, отмечает, что цель нововведения заключается в том, чтобы сократить время обработки информации и реагирования, чтобы быстрее предоставить помощь нуждающимся.

Facebook помогает предотвратить самоубийство
Фото: techcrunch.com

За прошедший месяц тестового режима Facebook обнаружила более 100 «тревожных звоночков» в сообщениях пользователей. Система также реагирует на комментарии вроде «С тобой все в порядке?» или «Я могу тебе чем-нибудь помочь?».

В будущем ИИ сможет понимать больше тонких нюансов языка и, помимо суицидальных мыслей, выявлять множество других настораживающих моментов, в том числе издевательства и разжигание ненависти.

— Марк Цукерберг

Кроме текстовых сообщений, проверке подвергнутся и стримы, чтобы предотвратить попытки покончить с собой в прямом эфире. К сожалению, такие случаи для социальной сети далеко не редкость. Для искусственного интеллекта не существует такой проблемы, как языковой барьер: команда Facebook будет реагировать на тревожные сообщения на разных языках.

Поделиться:
Курс бел. рубля 24.07.2019
Нал. (банки Минска)
покупкапродажа
$12.08702.0910
12.34002.3430
p1003.23303.2400
Б/нал. (НБРБ)
$12.0225
12.2624
p1003.2039