ChatGPT будет предупреждать родителей, если их дети обсуждают самоубийство

Фото: Shutterstock

Новая технология была разработана после ряда несчастных случаев с детьми, которые, как выяснилось, до этого обсуждали возможность самоубийства с чат-ботом.

Работать это будет так: если чат-бот обнаружит, что ребенка интересует эта тема, то информация тут же будет передана группе специально обученных экспертов, которые проанализируют ситуацию.

Если информация подтвердится и у ребенка обнаружат признаки острого стресса, мы свяжемся с родителями по электронной почте, в текстовом сообщении или отправим push-уведомление на их телефон», — сообщили в компании.

Кроме того, OpenAI сейчас разрабатывает алгоритм, позволяющий в экстренных случаях при возникновении угрозы жизни и здоровью ребенка оперативно оповещать специальные службы.