ChatGPT будет предупреждать родителей, если их дети обсуждают самоубийство
- Источник:
- Office Life
Компания OpenAI разработала новую технологию, позволяющую предупреждать родителей, если их дети обсуждают темы самоубийства или членовредительства. Как пишет The Telegraph, теперь они смогут привязать свою учетную запись в ChatGPT к учетной записи ребенка, и искусственный интеллект сообщит им о возможной опасности.
Фото: Shutterstock
Новая технология была разработана после ряда несчастных случаев с детьми, которые, как выяснилось, до этого обсуждали возможность самоубийства с чат-ботом.
Работать это будет так: если чат-бот обнаружит, что ребенка интересует эта тема, то информация тут же будет передана группе специально обученных экспертов, которые проанализируют ситуацию.
Если информация подтвердится и у ребенка обнаружат признаки острого стресса, мы свяжемся с родителями по электронной почте, в текстовом сообщении или отправим push-уведомление на их телефон», — сообщили в компании.
Кроме того, OpenAI сейчас разрабатывает алгоритм, позволяющий в экстренных случаях при возникновении угрозы жизни и здоровью ребенка оперативно оповещать специальные службы.